Les fondateurs des entreprises de l’IA ont la réputation de faire des allégations audacieuses sur le potentiel de la technologie à remodeler les champs, en particulier les sciences. Mais Thomas Wolf, co-fondateur de Hugging Face et directeur des sciences, a une prise plus mesurée.
Dans un essai publié sur X jeudi, Wolf a déclaré qu’il craignait que l’IA de devenir «oui-men sur les serveurs» soit absent dans une percée dans une recherche sur l’IA. Il a élaboré que les paradigmes actuels de développement d’IA ne seront pas en AI capables de la résolution créative de problèmes et de résolution de problèmes qui gagne des prix Nobel.
« La principale erreur que les gens commettent habituellement est de penser (des gens comme) Newton ou Einstein venaient de mettre à l’échelle de bons élèves, qu’un génie prend vie lorsque vous extrapolez linéairement un élève de 10% des premiers », a écrit Wolf. « Pour créer un Einstein dans un centre de données, nous ne vous faisons pas besoin d’un système qui maintenant toutes les réponses, mais plutôt celui qui peut poser des questions que personne d’autre n’a la grive ou a osé demander. »
Les affirmations de Wolf contrastent avec celles du PDG d’Openai, Sam Altman, qui, dans un essai plus tôt cette année, a déclaré que l’IA «supentillelligent» pourrait «accélérer massivement la découverte scientifique». De même, le PDG anthropique Dario Amodei a prédit que l’IA pourrait aider à formuler des remèdes pour la plupart des types de cancer.
Le problème de Wolf avec l’IA aujourd’hui – et où il pense que la technologie se dirige – est qu’elle ne génère pas de New Nowledge en connectant des faits précédemment non liés. Même avec la plupart des Internet à son déplacement, l’IA, comme nous le comprenons actuellement, comble principalement les lacunes entre ce que les humains savent déjà, a déclaré Wolf.
Certains experts de l’IA, y compris l’ancien ingénieur de google François Chollet, ont des opinions similaires exprimées, faisant valoir que si une IA pourrait être capable de mémoriser des modèles de raisonnement, il est peu probable qu’il puisse générer un «nouveau raisonnement» basé sur de nouvelles situations.
Wolf pense que les laboratoires AI construisent ce qui est essentiellement des «goujons très obéissants» – pas des révolutionnaires scientifiques dans en aucun sens de l’expression. L’IA aujourd’hui n’est pas incitative à remettre en question et à proposer des idées qui vont potentialisés à l’encontre de ses données de formation, a-t-il dit, la limitant à la réponse des questions connues.
« Pour créer un Einstein dans un centre de données, nous avons juste besoin d’un système qui maintenant toutes les réponses, mais plutôt celui qui peut poser des questions à personne d’autre n’a été pensé ou osé demander », a déclaré Wolf. «Celui qui écrit« Et si tout le monde se trompe à ce sujet? Lorsque tous les manuels, les experts et les connaissances communes suggèrent le contraire.
Wolf pense que la «crise de l’évaluation» dans l’IA est en partie responsable de cet état de choses désenchanté. Il indique que les repères utilisent couramment pour mesurer les improvisations du système d’IA, dont la plupart sont constitués de questions qui ont des réponses claires, évidentes et «fermées».
En tant que solution, Wolf a proposé que l’industrie de l’IA «passe à une mesure des connaissances et du raisonnement» qui est capable d’élucider qui peut adopter des «approches contrefactuelles audacieuses», faire des propositions générales basées sur des «minuscules indices» et poser des «questions non objets» qui parcourent. «
L’astuce sera de déterminer à quoi ressemble la mesure, a admis Wolf. Mais il pense que cela pourrait être plissé l’effort.
« (T) Il a aspect crucial de la science (est) la compétence pour poser les bonnes questions et défier même ce que l’on a appris », a déclaré Wolf. «Nous n’avons pas besoin d’un étudiant A + (AI) qui peut répondre à chaque question avec des connaissances générales. Nous avons besoin d’étudiant AB qui voit et interroge ce que tout le monde a manqué. «
