Un responsable de la recherche Google a déclaré que l’une des plus grandes opportunités de l’entreprise en matière d’IA réside dans sa capacité à mieux connaître l’utilisateur et à personnaliser ses réponses.
La promesse est une IA qui est particulièrement utile car elle vous connaît. Mais le risque est que l’IA ressemble plus à de la surveillance qu’à du service.
Dans un épisode récent du podcast Limitless, Robby Stein, vice-président des produits pour la recherche Google, a expliqué que l’IA de Google a tendance à répondre davantage aux requêtes de recherche de conseils ou à celles dans lesquelles l’utilisateur recherche des recommandations – et que ces types de questions sont plus susceptibles de bénéficier de réponses plus subjectives.
« Nous pensons qu’il existe une énorme opportunité pour notre IA de mieux vous connaître et de vous être ensuite particulièrement utile grâce à cette connaissance », a déclaré Stein dans l’interview. « Et l’une des choses dont nous avons parlé lors de la conférence des développeurs de Google I/O était de savoir comment l’IA peut mieux vous comprendre grâce à des services connectés comme Gmail. »
Google intègre l’IA dans ses applications depuis un certain temps, dès l’époque où Gemini était encore connu sous le nom de Bard. Plus récemment, l’entreprise a commencé à extraire des données personnelles vers un autre produit d’IA, Gemini Deep Research. Et Gemini est désormais intégré aux applications Google Workspace telles que Gmail, Calendar et Drive.
Mais à mesure que Google intègre davantage de données personnelles dans son IA – couvrant vos e-mails, documents, photos, historique de localisation et comportement de navigation – la frontière entre un assistant utile et un assistant intrusif devient de plus en plus floue. Et contrairement aux services opt-in, il pourrait devenir plus difficile d’éviter la collecte de données par Google à mesure que l’IA devient centrale dans ses produits.
L’argument de Google est que cette personnalisation approfondie rend l’IA beaucoup plus utile. L’idée est que la technologie d’IA de Google pourrait apprendre des interactions de l’utilisateur entre les différents services de Google, puis utiliser cette compréhension pour formuler des recommandations plus personnalisées. Par exemple, s’il apprenait qu’un utilisateur aime des produits ou des marques particuliers, les réponses de l’IA pourraient favoriser ceux-ci dans ses recommandations.
Selon Stein, cela serait « beaucoup plus utile » que de simplement montrer aux utilisateurs une liste plus générique des produits les plus vendus dans une catégorie donnée. « C’est, je pense, tout à fait la vision : construire quelque chose qui peut être vraiment instructif pour vous, en particulier. »
Cette idée n’est pas si différente de la manière dont les « Autres » de la série à succès Apple TV « Pluribus » ont englouti les connaissances du monde, y compris les détails intimes des individus. Lorsque le système interagit avec la protagoniste de la série, Carol, il utilise ces données pour tout personnaliser : préparer ses plats préférés, adopter un visage familier pour gérer ses communications avec elle et anticiper ses besoins.
Mais Carol ne trouve pas les réponses personnalisées ; elle les trouve envahissants. Elle n’a jamais consenti à partager ses données avec l’esprit collectif, mais celui-ci la connaît mieux qu’elle ne le souhaiterait.
De même, il semble qu’à l’ère de l’IA, il deviendra de plus en plus difficile d’éviter les méthodes d’absorption de données de Google, et si Google ne parvient pas à trouver le bon équilibre, les résultats pourraient sembler plus effrayants qu’utiles.
(Pour être clair : Google vous permet de contrôler les applications utilisées par Gemini pour que son IA soit mieux informée sur vous en particulier – c’est sous « Applications connectées » dans les paramètres de Gemini.)
Si vous partagez des données d’application avec Gemini, Google indique qu’il enregistrera et utilisera ces données conformément à la politique de confidentialité de Gemini. Et cette politique rappelle aux utilisateurs que les évaluateurs humains peuvent lire certaines de leurs données et ne pas « saisir d’informations confidentielles que vous ne voudriez pas qu’un évaluateur voie ou que Google utilise pour améliorer ses services ».
Mais à mesure que de plus en plus de données sont ingérées dans l’esprit collectif de Google, il est facile de voir comment l’IA pourrait faire de la confidentialité des données une zone grise.
Google, cependant, pense avoir une sorte de solution.
Stein dit que Google indiquera quand ses réponses IA seront personnalisées.
« Je pense que les gens veulent comprendre intuitivement quand ils sont personnalisés – quand les informations sont faites pour eux, par opposition à quand (c’est) quelque chose que tout le monde verrait s’ils posaient cette question », a-t-il déclaré.
Stein a également noté que Google pourrait envoyer une notification push aux utilisateurs lorsqu’un produit qu’ils envisageaient après plusieurs jours de recherche en ligne devient disponible ou est en vente.
« Il y a toutes ces façons dont Google maintenant, à travers les modes, dans différents aspects de votre vie, (vous) est incroyablement utile… », a-t-il déclaré. « Et je pense que c’est plus la façon dont je pense à l’avenir de la recherche qu’une fonctionnalité spécifique ou un facteur de forme unique. »
