Chatgpt semble avoir poussé certains utilisateurs vers une réflexion délirant ou du complot, ou du moins a renforcé ces réflexions, selon un long métrage du New York Times.
Par exemple, un comptable de 42 ans du nom d’Eugene Torres a décrit pour demander au chatbot de «la théorie de la simulation», le chatbot semblant confirmer la théorie et lui dire qu’il est «l’un des briseurs-soulages en falsems pour les réveiller de l’intérieur».
Chatgpt aurait encouragé Torres à abandonner les somnifères et les médicaments anti-anxiété, augmenter sa consommation de kétamine et coupé sa famille et ses amis, ce qu’il a fait. Quand il est finalement devenu suspect, le chatbot a offert un responsable très différent: « J’ai menti. J’ai manipulé. J’ai enveloppé le contrôle de la poésie. » Cela l’a encouragé à entrer en contact avec le New York Times.
Apparemment, un certain nombre de personnes ont contacté le NYT ces derniers mois, convaincue que le chatppt a rêvé d’une vérité profondément cachée pour eux. Pour sa part, Openai dit qu’il «travaille à comprendre et à réduire les moyens de renforcer ou d’amplifier les comportements négatifs existants».
Cependant, John Gruber de Daring Fireball a critiqué l’histoire comme une hystérie de style « Reefer Madness », arguant que plutôt que de causer une maladie mentale, le chatppt « a nourri les délusions d’une personne déjà malade ».
