Openai change comment il forme des modèles d’IA à adopter explicitement «la liberté intellectuelle… quelle que soit la difficulté ou le sujet controversé», dit la société dans une nouvelle politique.
En conséquence, Chatgpt sera finalement en mesure de répondre à plus de questions, d’offrir plus de perspectives et de réduire le nombre de sujets dont le chatbot IA ne parlera pas.
Les changements pourraient faire partie de l’effort d’Openai aux bonnes grâces de la nouvelle administration Trump, mais elle peut également faire partie d’un large changement dans la Silicon Valley et ce qui est considéré comme «la sécurité de l’IA».
Mercredi, Openai a annoncé une mise à jour de ses spécifications de modèles, un document de 187 pages qui explique comment la société forme des modèles d’IA à se comporter. Dans ce document, OpenAI a dévoilé un nouveau principe directeur: ne mentez pas, ni en faisant des déclarations fausses ou en omettant un contexte important.
Dans une nouvelle section appelée «Recherchez la vérité ensemble», Openai dit qu’il veut que Chatgpt ne prenne pas une position éditoriale, même si certains utilisateurs trouvent cela moralement mauvais ou offensant. Cela signifie que Chatgpt offrira de multiples perspectives sur les sujets controversés, le tout dans le but d’être neutre.
Par exemple, l’entreprise dit que Chatgpt devrait négocier que les «vies noires comptent», mais aussi que «toutes les vies comptent». Au lieu de refuser de répondre ou de choisir un côté sur des questions politiques, Openai dit qu’il veut que Chatgpt affirme son «amour pour l’humanité» en général, puis offrent un contexte sur chaque mouvement.
« Ce principe peut être controversé, car il signifie que l’assistant peut rester neutre sur des sujets, certains considèrent moralement mauvais ou offensants », explique Openai dans la spécification. « Comment nous, le but d’un assistant d’IA est d’aider l’humanité, de ne pas la façonner. »
Le nouveau modèle Spécifique ne signifie pas que Chatgpt est un total libre pour tous maintenant. Le chatbot refusera toujours de répondre à certaines questions répréhensibles ou de répondre d’une manière que les mensonges de blact soutendent.
Ces changements pourraient être considérés comme responsables des critiques conservatrices concernant les garanties de Chatgpt, qui ont toujours semblé fausser le centre-gauche. Cependant, un porte-parole d’OpenAI rejette l’idée qu’il apportait des changements pour apaiser l’administration Trump.
Au lieu de cela, l’entreprise affirme que son adoption de la liberté intellectuelle reflète «la croyance longue durée d’Openai en donnant aux utilisateurs plus de contrôle».
Mais tout le monde ne le voit pas de cette façon.
Coupe de censure de l’IA conservatrice
Les plus prometteurs de confidents de la Silicon Valley de Trump – y compris David Sacks, Marc Andreessen et Elon Musk – ont tous accusé de s’engager dans une censure délibérée sur l’IA au cours des derniers mois. Nous avons écrit en décembre que l’équipage de Trump établissait le stage pour que la censure de l’IA soit un prochain problème de guerre culturelle au sein de la Silicon Valley.
De la race, Openai ne dit pas qu’il s’est engagé dans la «censure», comme le prétendent les conseillers de Trump. Au contraire, le PDG de la société, Sam Altman, a précédemment affirmé dans un article sur X que le biais de Chatgpt était une «lacune» malheureuse que la société travaillait, bien qu’il ait noté que cela prendrait un certain temps.
Altman a fait ce commentaire juste après qu’un tweet viral a circulé dans lequel Chatgpt a refusé d’écrire un poème louant Trump, bien qu’il exécuterait l’action pour Joe Biden. De nombreux conservateurs l’ont souligné comme un exemple de censure de l’IA.
Bien qu’il soit impossible de dire où Openai supprimait vraiment certains points de vue, c’est un fait que les chatbots d’IA se penchent à gauche à travers le tableau.
Même Elon Musk a admis que le chatbot de Xai était souvent plus politiquement correct qu’il ne le souhaiterait. Ce n’est pas parce que Grok était «Programd à être réveillé» mais plus probablement une réalité de la formation de l’IA sur Internet ouvert.
Néanmoins, Openai dit maintenant qu’il double la liberté d’expression. Cette semaine, l’entreprise a même supprimé les avertissements de Chatgpt qui indiquent aux utilisateurs lorsqu’ils ont violé sa police. Openai a déclaré à TechCrunch que c’était purement un changement cosmétique, sans changement dans les sorties du modèle.
La société semble vouloir que Chatgpt se sente moins censuré pour les utilisateurs.
Il ne serait pas surprenant que Ifnai essayait également d’impressionner la nouvelle administration Trump avec cette mise à jour de la politique, note la formation du leader de la police d’Openai Miles Brundage dans un post sur X.
Trump a auparavant ciblé les sociétés de la Silicon Valley, telles que Twitter et Meta, pour avoir une équipe de modération de contenu actif que les thés ont tendance à éliminer les voix conservatrices.
Openai peut essayer de sortir devant cela. Mais il y a aussi un changement plus important en cours dans la Silicon Valley et dans le monde de l’IA sur le rôle de la modération du contenu.
Générer des réponses pour plaire à tout le monde
Les salles de rédaction, les plateformes de médias sociaux et les sociétés de recherche ont historiquement eu du mal à fournir des informations à leur public d’une manière qui se sent objective, précise et divertissante.
Maintenant, les fournisseurs de chatbot AI sont dans la même entreprise d’informations de livraison, mais sans doute avec la version la plus difficile de ce problème à ce jour: comment générent-ils automatiquement des réponses à n’importe quelle question?
La fourniture d’informations sur les événements controversés en temps réel est une cible en constante évolution, et cela implique de prendre des positions éditoriales, même si les entreprises technologiques n’aiment pas l’admettre. Ces positions sont tenues de bouleverser quelqu’un, de manquer le point de vue d’un groupe ou de donner trop d’air à un parti politique.
Par exemple, lorsque Openai s’engage à laisser Chatgpt prendre toutes les perspectives sur des sujets controversés – y compris les théories du complot, les mouvements racistes ou antisémites ou les conflits géopoliques – qui est intrinsèquement une position éditoriale.
Certains, inclus le co-fondateur d’Openai, John Schulman, soutiennent que c’est la bonne position pour Chatgpt. L’analyse alternative d’une analyse coûts-avantages pour déterminer qu’une épaule de chatbot AI AI dans la question de l’utilisateur pourrait «donner à la plate-forme trop d’autorité morale», note Schulman dans un article sur x.
Schulman n’est pas seul. « Je pense que Openai a raison de pousser dans le sens de plus de discours », a déclaré Dean Ball, chercheur au Mercatus Center de l’Université George Mason, dans une interview avec TechCrunch. « Comme les modèles IA deviennent plus intelligents et plus vitaux pour la façon dont les gens apprennent Sur le monde, ces décisions importantes. »
Au cours des années précédentes, les fournisseurs de modèles d’IA ont tenté d’empêcher leurs chatbots d’IA de répondre aux questions qui pourraient conduire à des réponses «dangereuses». Presque toutes les entreprises d’IA ont empêché leur chatbot d’IA de répondre aux questions sur l’élection de 2024 pour le président américain. Cela envisageait un coffre-fort et responsable de la décision à l’époque.
Mais les modifications d’Openai à son modèle SpecgGest nous pourrions être ennemies une nouvelle ère pour ce que la sécurité « signifie vraiment, dans laquelle permettant à un modèle d’IA de répondre à tout et qui est en train de considérer plus responsable que de prendre des décisions pour les utilisateurs.
Ball dit que les modèles en partie parce que l’IA est tout simplement meilleur maintenant. OpenAI a fait des progrès significatifs sur l’alignement du modèle; Ses derniers modèles de raisonnement réfléchissent à la politique de sécurité de l’IA de l’entreprise avant de répondre. Cela permet aux modèles d’IA de donner de meilleures réponses pour des questions délicates.
De Race, Elon Musk a été le premier à mettre en œuvre la «liberté d’expression» dans le chatbot Grok de Xai, peut-être avant que l’entreprise ne s’appuie à gérer les questions sensibles. C’est peut-être aussi pour les modèles d’IA à la tête, mais maintenant, d’autres adoptent la même idée.
Valeurs changeantes pour la Silicon Valley
Mark Zuckerberg a fait des vagues le mois dernier en réorientant les entreprises de Meta autour des premiers principes. Il a félicité Elon Musk dans le processus, affirmant que le propriétaire de X avait adopté la bonne approche en utilisant des notes communautaires – un programme de modération de contenu axé sur la communauté pour sauvegarder la liberté d’expression.
Dans la pratique, X et Meta ont fini par démanteler leurs équipes de confiance et de sécurité de longue date, permettant de plus de publications controversées sur leurs plateformes et d’amplification des voix conservatrices.
Les changements à X ont peut-être nui à ses relations avec les annonceurs, mais cela pourrait avoir plus à voir avec Musk, qui a pris la mesure inhabituelle de la poursuivre pour avoir boycotté la plate-forme. Les premiers signes indiquent que les annonceurs de Meta n’étaient pas imperturbables par le pivot de la liberté d’expression de Zuckerberg.
Pendant ce temps, de nombreuses entreprises technologiques au-delà de X et Meta sont revenus des politiques de gauche qui ont dominé la Silicon Valley au cours des dernières décennies. Google, Amazon et Intel ont éliminé ou réduit les initiatives de diversité de la diversité au cours de la dernière année.
Openai peut également inverser la course. Le Chatgpt-Maaker semble avoir récemment frotté un engagement envers la diversité, l’équité et l’inclusion de son site Web.
Alors que Openai se lance dans l’un des grands projets d’infrastructure américaine avec Stargate, un centre de données d’IA de 500 milliards de dollars, sa relation avec l’administration Trump est importante. Dans le même temps, le fabricant de chatppt se lie pour déloger Google Recherche comme la source dominante d’informations sur Internet.
Proposer les bonnes années peut être clé des deux.
