Question rapide : voulez-vous que l’IA soit si bien entraînée qu’elle pourrait aider les maris (ou les femmes d’ailleurs) à planifier le meurtre parfait de leur conjoint ? Probablement pas, n’est-ce pas ? Juste une réaction instinctive, cela ressemble à un non. Je ne penserais même pas que c’était une question particulièrement difficile.
Mais l’Amérique contient de nombreuses perspectives diverses, et l’une de ces perspectives a été partagée par le fondateur de Comma AI et jailbreaker de longue date, George Hotz, ce week-end.
Le message fait suite à un ensemble de plans d’alignement de l’IA à grande échelle, le plus récemment le AI 2040 : Plan, un document d’orientation de l’institut AI Futures. Cet article envisage un monde dans lequel les chercheurs du monde entier choisiraient collectivement de ralentir le développement de l’IA pendant 14 ans pour le bien de l’humanité. Mais bien sûr, tous ceux qui lisent le document ne sont pas d’accord avec ses prémisses ou ses conclusions.
Hotz est dans le camp et n’est pas d’accord. Dans son article, il affirme que le scénario du décollage rapide – l’hypothèse dans laquelle l’IA acquiert rapidement des capacités surhumaines – n’a pas beaucoup de sens. Je suis en grande partie d’accord avec ce qu’il dit ici ! Pour Hotz, la meilleure approche en matière d’alignement et de sécurité de l’IA consiste à se concentrer sur des modèles d’IA contrôlés localement et étroitement alignés sur les intérêts de leurs utilisateurs.
C’est une bonne idée, d’autant plus que cela me rappelle à quel point l’IA actuelle est construite autour de services gérés de manière centralisée comme Claude et ChatGPT. Il existe des raisons liées à l’infrastructure pour lesquelles les services d’IA se sont développés de cette manière : il est coûteux d’héberger ces grands modèles de pointe et la plupart des gens ne les utilisent pas suffisamment tout au long de la journée pour justifier une IA véritablement personnelle. Mais ces facteurs deviennent moins importants à mesure que la technologie se développe. Une partie de ce qui était si excitant à propos d’OpenClaw était cette approche expérimentale et DIY, et ce serait formidable de voir davantage de produits d’IA essayer de récupérer cela.
Mais Hotz est un provocateur par nature, il ne s’arrête donc pas là. Il compare l’IA alignée sur l’utilisateur à une arme à feu (!), qui ne se plaint pas si vous l’utilisez pour tuer votre belle-mère. (J’ai l’impression qu’il existe d’autres règles contre cela ?) Une IA véritablement alignée serait en mesure de commander du matériel de laboratoire de méthamphétamine auprès d’Amazon Prime et de vous montrer comment l’utiliser si c’est ce que vous vouliez et demandiez, dit-il. (Encore une fois, je ne pense pas que l’IA soit le facteur limitant ici.) Hotz dit même qu’il mourrait pour défendre ce principe, même s’il est difficile d’imaginer la série d’événements qui y mèneraient.
« Soit nous vivons dans un monde libre, soit nous ne vivons pas », écrit Hotz. Si telles sont les options, le monde sonne mieux ! Pourtant, je ne sais pas.
Ce n’est pas qu’une question de liberté, n’est-ce pas ? Toute structure impliquant un grand nombre de personnes (entreprises, marchés, sociétés, etc.) nécessite d’équilibrer les capitaux propres, de lier les besoins individuels dans un réseau de préférences interdépendantes et de systèmes de responsabilité. Et quiconque déploie des produits technologiques grand public devrait probablement penser à ce réseau dans son ensemble, ce qui signifie prendre au sérieux les intérêts des conjoints et des beaux-parents du monde qui ne sont pas encore assassinés.
La liberté dont Hotz fait l’expérience est en réalité un espace d’avenirs potentiels rendu possible par l’entreprise collective ; ces futurs disparaîtraient du jour au lendemain si nous commencions tous à avoir comme de petits Napoléons équipés d’IA. Comme le dit le mème, nous vivons dans une société.
Avoir une IA locale prête à affronter le monde de l’entreprise à mon bénéfice semble cependant cool ! J’ai hâte de recevoir une unité de révision.
Lorsque vous achetez via des liens dans nos articles, nous pouvons gagner une petite commission. Cela n’affecte pas notre indépendance éditoriale.
