L’IA nous est forcée dans à peu près toutes les facettes de la vie, des téléphones et applications aux moteurs de recherche et même à la conduite, pour une raison quelconque. Le fait que nous obtenions maintenant des navigateurs Web avec des assistants et des chatbots au four, ce que certaines personnes utilisent Internet pour rechercher et consommer des informations aujourd’hui est très différente d’il y a quelques années.
Mais les outils d’IA sont de plus en plus demandés par des niveaux bruts d’accès à vos données personnelles sous le couvert de leur avoir besoin pour fonctionner. Ce type d’accès n’est pas normal, et il ne doit pas être normalisé.
Il n’y a pas si longtemps, vous auriez raison de vous demander pourquoi une application «lampe de poche» ou «calculatrice» gratuite apparemment inoffensive dans l’App Store tenterait de demander l’accès à vos contacts, photos et même vos données de location en temps réel. Ces applications peuvent ne pas avoir besoin de ces données pour fonctionner, mais elles le demanderont s’ils pensent qu’ils peuvent faire de l’argent ou deux en monétisant vos données.
Ces jours-ci, l’IA n’est pas si différente.
Prenons l’exemple du dernier navigateur Web AI-Powred de Perplexity, comme exemple. Comet permet aux utilisateurs de trouver des réponses avec son moteur de recherche AI et ses tâches de routine d’automate, comme résumer les e-mails et les événements de calendrier.
Dans un récent pratique avec le navigateur, TechCrunch a constaté que lorsque Perplexity demande l’accès au calendrier Google de l’utilisateur, le navigateur demande une large bande d’autorisations sur le compte Google de l’utilisateur, y compris la possibilité de gérer les brouillons et d’envoyer des e-mails, de télécharger vos contacts, de voir et d’éditer des événements sur tous vos calendriers, et même de prendre une copie de votre entreprise de votre entreprise.
Perplexity dit qu’une grande partie de ces données est stockée localement sur votre appareil, mais vous accordez toujours l’entreprise, le droit d’accès et d’utiliser vos informations personnelles, inclus pour améliorer ses modèles d’IA pour tout le monde.
La perplexité n’est pas la seule à demander l’accès à vos données. Il existe une tendance des applications AI qui ont promis de vous faire gagner du temps en transcidant vos appels ou réunions de travail, pour des exemples, mais qui nécessitent un assistant AI d’IA pour accéder à vos conversations privées en temps réel, vos calendriers, contacts, etc. Meta, lui aussi, a testé les limites de ce que ses applications AI peuvent pour accéder, incluent l’apparition des photos stockées dans le rouleau de CAMRA d’un utilisateur qui a encore été téléchargée.
Le président du signal Meredith Whittaker a récemment comparé l’utilisation d’agents et d’assistants de l’IA à «mettre votre cerveau dans un bocal». Whittaker a expliqué comment certains produits d’IA peuvent promettre de faire toutes sortes de tâches banales, comme réserver une table dans un restaurant ou réserver un billet pour un concert. Mais pour ce faire, l’IA saura qu’il a besoin de votre autorisation pour ouvrir votre navigateur pour charger le site Web (qui peut permettre à l’accès à l’IA à vos mots de passe stockés, à vos signets et à votre historique de navigation), une carte de crédit pour effectuer la réservation, votre calendrier pour marquer la date, et il peut demander d’ouvrir vos contacts afin que vous puissiez partager la réservation avec un ami.
Il existe de sérieux risques de sécurité et de confidentialité associés à l’utilisation qui reposent sur vos données. En permettant à l’accès, vous remettez instantanément et irréversiblement les droits sur un instantané entier de vos informations les plus personnelles à partir du temps, de votre boîte de réception, de vos messages et des entrées de calendrier datant des années, et plus encore. Tout cela dans le souci d’exécuter une tâche qui vous fait gagner du temps – ou, pour le point de Whittaker, vous évite d’avoir à y penser activement.
Vous accordez également l’autorisation de l’agent d’IA pour agir de manière autonome en votre nom, vous obligeant à mettre un énorme ament de confiance dans une technologie qui est déjà enclin à se tromper ou à inventer catégoriquement les choses. L’utilisation d’IA vous oblige à faire confiance aux entreprises de sexing à profit de ces produits d’IA, qui s’appuient sur vos données pour essayer d’améliorer leurs modèles. Lorsque les choses tournent mal (et ils le font beaucoup), il est courant que les humains des entreprises d’IA examinent votre invite privée pour comprendre pourquoi les choses ne fonctionnaient pas.
Du point de vue de la sécurité et de la confidentialité, une analyse coûts-avantages simple de la connexion de l’IA à votre plus de données ne vaut tout simplement pas la peine de renoncer à vos informations les plus privées. Toute application AI demandant ces niveaux d’autorisations devrait envoyer vos sonneries d’alarme, tout comme l’application de lampe de poche souhaitant connaître votre location à tout moment.
Compte tenu des rames de données que vous remettez aux sociétés d’IA, demandez-vous si ce que vous en retirez en vaut vraiment la peine.
