La mesure des progrès de l’IA a généralement signifié tester les connaissances scientifiques ou le raisonnement logique, mais bien que les principales références se concentrent toujours sur les compétences logiques du cerveau gauche, il y a eu une poussée silencieuse au sein des entreprises d’IA pour rendre les modèles plus émotionnels. Comme les modèles de fondation rivalisent sur des mesures douces comme la préférence des utilisateurs et «ressentir l’AG», avoir une bonne maîtrise des émotions humaines peut être plus importante que les compétences analytiques dures.
Un signe de cet objectif est venu vendredi, lorsque le groupe open source de premier plan Laion a publié après les outils open source a entièrement concentré sur l’intelligence émotionnelle. Appelé Emonet, la version se concentre sur l’interprétation des émotions à partir de disques vocaux ou de photographie faciale, un objectif qui reflète la façon dont les créateurs considèrent l’intelligence émotionnelle comme un défi central pour la prochaine génération de modèles.
« La capacité d’estimer avec précision les émotions est une première étape essentielle », a écrit le groupe dans son annonce. «La prochaine frontière consiste à permettre aux systèmes d’IA de raisonner sur ces émotions en contexte.»
Pour le fondateur de Laion, Christoph Schuhmann, cette version consiste moins à déplacer l’attention de l’industrie de l’intelligence émotionnelle et plutôt à aider les développeurs indépendants à suivre un changement qui s’est déjà produit. «Cette technologie est déjà là pour les grands laboratoires», a déclaré Schuhmann à TechCrunch. «Ce que nous voulons, c’est le démocratiser.»
Le changement n’est pas limité aux développeurs open source; Il apparaît également dans des références publiques comme EQ-Bench, qui permet de tester la capacité des modèles d’IA à comprendre les émotions complexes et la dynamique sociale. Le développeur de référence, Sam Paech, affirme que les modèles d’Openai ont fait des progrès significatifs au cours des six derniers mois, et que Gemini 2.5 Pro de Google montre des indications de post-formation avec un accent spécifique sur l’intelligence émotionnelle.
« Les laboratoires en concurrence pour les rangs de Chatbot Arena peuvent alimenter une partie de cela, car l’intelligence émotionnelle est probablement un facteur important dans la façon dont les humains votent sur les classements des préférences », dit Papech, faisant référence à la plate-forme de comparaison du modèle d’IA qui a redémarré en tant que startup bien lucratif.
Les nouvelles capacités de l’intelligence émotionnelle des modèles se sont également révélées dans la recherche universitaire. En mai, les psychologues de l’Université de Berne ont découvert que les modèles d’Openai, Microsoft, Google, Anthropic et Deepseek ont tous surpassé les êtres humains sur des tests psychométriques pour l’intelligence émotionnelle. Lorsque les humains répondent généralement correctement à 56% des questions, les modèles ont en moyenne plus de 80%.
« Ces résultats contribuent à l’ensemble des preuves que les LLM comme Chatgpt sont proficiales – au moins avec, voire supérieures à, de nombreuses tâches socio-émotionnelles, ou même supérieures, considérant traditionnellement accessibles uniquement aux humains », ont écrit les auteurs.
C’est un vrai pivot des compétences traditionnelles d’IA, qui se sont concentrées sur le raisonnement logique et la récupération de l’information. Mais pour Schuhmann, ce genre de savoir-faire émotionnel est tout aussi transformateur que l’intelligence analytique. « Imaginez un monde entier plein d’assistants vocaux comme Jarvis et Samantha », dit-il, se refronter les assistants numériques de « Iron Man » et « Her ». «Ne serait-ce pas dommage s’ils n’étaient pas émotionnellement intelligents?»
À long terme, Schuhmann consultant des assistants d’IA qui sont plus intelligents émotionnellement que les humains et qui utilisent cette perspicacité pour aider les humains à vivre une vie plus saine émotionnellement. Ces modèles «vous réjouiront si vous vous sentez triste et que vous avez besoin de quelqu’un à qui parler, mais vous protégera également, comme vous le voit également un ange gardien local, qui est également un thérapeute questionniste.
Ce niveau de connexion émotionnelle s’accompagne de véritables problèmes de sécurité. Les attachements émotionnels malsains aux modèles d’IA sont devenus une histoire commune dans les médias, se terminant parfois par une tragédie. Un récent rapport du New York Times a trouvé plusieurs utilisateurs qui ont été attirés par des illusions élaborées par le biais de conversations avec des modèles d’IA, alimentées par la forte tendance des modèles à plaire aux utilisateurs. Un critique a décrit la dynamique comme «s’attaquer aux solitaires et vulnérables à des frais mensuels».
Si les modèles s’améliorent pour naviguer dans les émotions humaines, ces manipulations pourraient devenir plus efficaces – mais une grande partie du problème se résume aux biais fondamentaux de la formation des modèles. «L’utilisation naïvement d’apprentissage du renforcement peut conduire à un comportement manipulateur émergent», explique Paech, en particulier à la sycophance récente de la libération de GPT-4O d’OpenAI. «Si nous faisons attention à la façon dont nous récompensons ces modèles pendant la formation, nous pourrions nous attendre à un comportement manipulateur plus complexe de modèles émotionnellement intelligents.»
Mais il aussi l’intelligence émotionnelle comme un moyen de résoudre ce problème. «Je pense que l’intelligence émotionnelle agit comme un compteur naturel du comportement manipulateur nocif de cela est sorti», explique Paech. Un modèle plus émotionnellement intelligent remarquera lorsqu’une conversation se déclenche des rails, mais la question de savoir quand un modèle repousse est un équilibre que les développeurs devront frapper attentivement. «Je pense que l’amélioration de l’IE nous met dans le sens d’un équilibre sain.»
Pour Schuhmann, au moins, ce n’est pas une raison de ralentir les progrès vers les modèles plus intelligents. «Notre philosophie chez LAION est de donner aux gens les moyens de leur donner plus de capacité à résoudre les problèmes», dit-il. « Pour dire, certaines personnes pourraient devenir dépendantes des émotions et donc nous n’apposions pas la communauté, ce serait le bien prêt. »
