Le PDG d’Openai, Sam Altman, a exposé une grande vision pour l’avenir de Chatgpt lors d’un événement d’IA organisé par la société VC Sequoia plus tôt ce mois-ci.
Lorsqu’on lui a demandé une attente sur la façon dont Chatgpt peut devenir plus personnalisé, Altman a reconnu qu’il événemencera le modèle pour documenter et se souvenir de tout ce qui est dans la vie d’une personne.
L’idéal, a-t-il dit, est un «très petit modèle de raisonnement avec un billion de jetons de contexte dans lequel vous vous mettez une vie entière».
« Ce modèle peut raisonner à travers votre contexte blanc et le faire efficacement. Et chaque conversation que vous avez votre vie, chaque livre que vous avez la veille, chaque e-mail que vous avez jamais lu, tout ce que vous avez jamais regardé est dans toutes vos données de la vie ne cesse d’ajouter au contexte », a-t-il décrit.
« Votre entreprise fait juste la chose pour toutes les données de votre entreprise », a-t-il ajouté.
Altman peut avoir une raison pour le conducteur de données de penser que c’est l’avenir naturel de Chatgpt. Dans cette discussion, lorsqu’on leur a demandé des façons intéressantes les jeunes utilisent le chatppt, il a déclaré: «Les gens du collège l’utilisent comme système d’exploitation.» Ils soulèvent des fichiers, connectent les sources de données, puis utilisent une «invite complexe» contre ces données.
De plus, avec les options de mémoire de Chatgpt – qui peuvent utiliser des chats précédents et des faits mémorisés comme contexte – il a dit qu’une tendance qu’il remarque est que les jeunes «ne prennent pas vraiment des décisions de vie sans demander à chatte.»
« Une surinlification des gros est: les personnes âgées utilisent le chatppt comme, comme, pour remplacer Google », a-t-il déclaré. «Les gens de la vingtaine et de la trentaine l’utilisent comme un conseiller de vie.»
Ce n’est pas vraiment un saut pour voir comment Chatgpt pourrait devenir un système d’IA omniscient. Associé aux agents que la vallée essaie actuellement de construire, c’est un avenir passionnant à penser.
Imaginez que votre IA planifie automatiquement les modifications de l’huile de votre voiture et vous rappelez; Planifier le voyage nécessaire pour un mariage en dehors de la ville et commander le cadeau au registre; Maintenant, précommandez le prochain volume de la série de livres que vous lisez depuis des années.
Mais la partie effrayante? Combien devrions-nous faire confiance à une grande entreprise à but lucratif pour savoir tout sur nos vies? Ce sont des entreprises que vous vous comportez toujours de manière modèle.
Google, qui a commencé la vie avec la devise «Ne soyez pas mal», a perdu une action en justice aux États-Unis qui l’a accusé de se livrer à un comportement monopolistique anti-compétitif.
Les chatbots peuvent être formés pour répondre de manière à motivation politique. Non seulement les robots chinois ont été constatés pour comparer les exigences de censure de la Chine, mais le chatbot Grok de Xai cette semaine a discuté au hasard un «génocide blanc» sud-africain lorsque les gens lui ont demandé. Le comportement, dont beaucoup, implicites, implicites, manipuleront son moteur de réponse au commandement de son fondateur d’origine sud-africaine, Elon Musk.
Le mois dernier, Chatgpt est devenu si agréable qu’il était carrément sycophantique. Les utilisateurs ont commencé à partager des captures d’écran du bot applaudissant des décisions et des idées problématiques, voire dangereuses. Altman a rapidement répondu en promettant que l’équipe avait corrigé le réglage qui a causé le problème.
Même les meilleurs modèles, les plus fiables, informent tout simplement de temps en temps.
Donc, avoir un assistant AI omniscient pourrait aider notre vie d’une manière que nous ne pouvons que Ben. Mais étant donné la longue histoire de Big Tech du comportement incertain, c’est aussi une situation mûre pour une mauvaise utilisation.
