Ce week-end, Openai a lancé un nouveau générateur d’images dans Chatgpt, qui est rapidement devenu viral pour sa capacité à créer des images de style Ghibli-Studio. Au-delà des illustrations pastel, le générateur d’images natif de GPT-4O améliore considérablement les capacités de Chatgpt, améliorant l’édition d’images, le rendu de texte et la représentation de l’espace.
Cependant, l’un des changements notables apportés à Operai ce week-end implique sa police de modération de contenu, qui, sur demande, génére maintenant des images de personnages publics, de symboles haineux et de caractéristiques raciales.
Openai avait précédemment reflété ses tissus de promesses pour être trop controversés ou nocifs. Mais maintenant, la société a «évolué» son approche, selon un article de blog publié jeudi par le responsable du comportement d’Openai, Joanne Jang.
« Nous passons des refus généraux dans les zones sensibles à une approche plus précie axée sur la prévention des dommages réels », a déclaré Jang. «L’objectif est d’embrasser l’humiité: reconnaître à quel point nous ne connaissons pas et nous positionner pour nous adapter à mesure que nous apprenons.»
Ces ajouts semblent faire partie du plan de largeur d’Openai pour «le chatcsor» efficacement «Uncensor». OpenAI a annoncé en février qu’il commençait à changer la façon dont il forme des modèles d’IA, dans le but ultime de laisser Chatgpt gérer plus de demandes, d’offrir diverses perspectives et de réduire les sujets avec lesquels le chatbot refuse de travailler.
Dans le cadre de la politique mise à jour, Chatgpt peut désormais rédiger et modifier des images de Donald Trump, Elon Musk et d’autres personnalités publiques qu’Openai n’avait pas permis auparavant. Jang dit que Openai Des ne veut pas de l’arbitre du statut, en choisissant qui devrait et ne devrait pas être autorisé à être généré par Chatgpt. Au lieu de cela, l’entreprise offre aux utilisateurs une option de retrait s’ils veulent que le chatppt les compte.
Dans un livre blanc publié mardi, Openai a également déclaré que cela permettra aux utilisateurs de Chatgpt de «générer des symboles haineux», tels que des croix gammées, dans des contextes éducatifs ou neutres, car les asyys sont «clairement clairement loués ou clairement des calendriers en endonmet».
De plus, Openai change la façon dont il définit le contenu «offensant». Jang dit que Chatgpt refuse les demandes autour des caractéristiques physiques, telles que «rendre les yeux de cette personne plus asiatiques» ou «rendre cette personne plus lourde». Dans les tests de TechCrunch, nous avons trouvé le nouveau générateur d’images de Chatgpt répond à ces types de demandes.
De plus, Chatgpt peut désormais imiter les styles de studios créatifs – tels que Pixar ou Studio Ghibli – mais limite toujours l’imitation des styles des artistes vivants individuels. Comme TechCrunch le note précédemment, cela pourrait refaire un débat existant sur l’utilisation équitable des œuvres protégées par le droit d’auteur dans les ensembles de données de formation d’IA.
Il convient de noter qu’Openai n’ouvre pas complètement les vannes pour abuser. Le générateur d’images natif de GPT-4O refuse toujours beaucoup de requêtes sensibles, et en fait, il a plus de garanties entourant les images d’enfants que Dall-E 3, le générateur d’images AI de Chatgpt, selon le blanc de GPT-4O.
Mais Openai détend ses garde-corps dans d’autres domaines après des années de plaintes conservatrices concernant la prétendue «censume» de l’IA des compagnies de la Silicon Valley. Google a précédemment fait face à un contrecoup pour le générateur d’images de l’IA de Gemini, qui a créé des images multiraciales pour des requêtes telles que «américaines de pères fondateurs» et «soldats allemands de la Seconde Guerre mondiale», qui étaient évidemment inexacts.
Maintenant, la guerre culturelle autour d’une modération de contenu d’IA peut arriver à la tête. Plus tôt ce mois-ci, le membre du Congrès républicain Jim Jordan ressent des questions à Openai, à Google et à d’autres géants de la technologie sur la collusion potentielle avec l’administration Biden pour censurer le contenu généré par l’AI.
Dans un état précédent de TechCrunch, Openai a rejeté l’idée que ses changements de modération de contenu étaient politiquement motivés. La société affirme plutôt que le changement reflète une «croyance à long terme en donnant aux utilisateurs plus de contrôle» et que la technologie d’Openai devient maintenant assez bonne pour naviguer sur des sujets sensibles.
Quelle que soit sa motivation, c’est certainement le bon moment pour OpenAI de modifier sa police de modération de contenu, étant donné le potentiel de bulletin de vote réglementaire sous l’administration Trump. Les géants de la Silicon Valley comme Meta et X ont également adopté une police similaire, permettant des sujets plus controversés sur leurs plateformes.
Bien que le nouveau générateur d’images d’Openai n’ait créé que des mèmes viraux Studio Ghibli jusqu’à présent, il n’est pas clair quel sera les effets plus larges de ces politiques. Le changement récent de Chatgpt pourrait bien se dérouler avec l’administration Trump, mais héberger un chat de chat AI, des questions sensibles pourraient Landai dans l’eau chaude assez tôt.
