Le président de Signal Meredith Whittaker a averti vendredi que l’agent AI pourrait comporter un risque pour la confidentialité des utilisateurs.
S’exprimant sur un stage lors de la conférence SXSW à Austin, au Texas, le défenseur des communications sécurisés, s’est rétractée à l’utilisation des agents comme «mettant votre cerveau dans un pot» et a souligné que ce nouveau paradigme de l’informatique – où l’IA implique les tâches des utilisateurs – la confidentialité et la sécurité.
Whittaker a expliqué comment les agents de l’IA sont commercialisés comme un moyen d’ajouter de la valeur à votre vie en gérant diverses tâches en ligne pour l’utilisateur. Par exemple, les agents de l’IA pourraient assumer des tâches telles que la recherche de concerts, la réservation de billets, la planification de l’événement sur votre calendrier et la messagerie à vos amis qu’il est réservé.
« Nous pouvons donc simplement mettre notre cerveau dans un bocal parce que le truc est de le faire et nous n’avons pas à le toucher, non? », A sonné Whittaker.
Ensuite, elle explique le type d’accès que l’agent AI serait Neeed pour effectuer ces tâches, y compris l’accès au navigateur Web OVE et un moyen de le conduire ainsi que l’accès aux informations de carte de crédit OV pour payer les billets, notre calendrier et l’application de messagerie pour envoyer le texte à vos amis.
« Il devrait être en mesure de conduire ce (processus) sur l’ensemble de notre système avec quelque chose qui ressemble à Roogment, accédant à chacune de ces bases de données – Résumé dans le clair, car il n’y a pas de modèle pour le faire crypté », a averti Whittaker.
« Et si nous parlons de la part de mettre … un modèle d’IA qui propose cela, il n’y a aucun moyen que cela se produise sur un faret », a-t-elle poursuivi. «C’est tout à fait le plus ressenti à un serveur cloud où il est traité et sent en arrière. Il y a donc un problème profond avec la sécurité et la vie privée qui hantent ces agences de battage médiatique, ce qui est menaçant ustimement de briser la barrière sanguin entre la couche et la couche de système d’exploitation en conjoignant tous ces services distincts (et) brouillant leurs données », a conclu Whittaker.
Si une application de messagerie comme Signal devait s’intégrer aux agents de l’IA, cela saperait l’intimité de vos messages, a-t-elle déclaré. L’agent doit accéder à l’application pour envoyer des SMS à vos amis ainsi que des données de pull pour résumer celles des textes.
Ses commentaires ont suivi les remarques qu’elle a faites plus tôt dans le panel sur la façon dont l’industrie avait été construite sur un modèle de surveillance avec collection de données de masse. Elle a dit que le «plus gros est un meilleur paradigme d’IA» – ce qui signifie que plus les données, mieux c’est – avaient des conséquences potentielles qu’elle ne pensait pas que Wrere était bien.
Avec l’agent IA, Whittaker a averti que nous sapions davantage la vie privée et la sécurité au nom d’un «bot de génie magique qui va prendre soin de la vie», a-t-elle conclu.
