Dans ce qui pourrait marquer le premier règlement juridique important de l’industrie technologique concernant les dommages liés à l’IA, Google et la startup Character.AI négocient des termes avec des familles dont les adolescents se sont suicidés ou se sont fait du mal après avoir interagi avec les compagnons chatbot de Character.AI. Les parties ont convenu en principe de régler ; Vient maintenant le plus dur travail de finalisation des détails.
Il s’agit de l’un des premiers règlements dans des poursuites accusant les sociétés d’IA de nuire aux utilisateurs, une frontière juridique qui doit obliger OpenAI et Meta à surveiller nerveusement depuis les coulisses alors qu’ils se défendent contre des poursuites similaires.
Character.AI, fondée en 2021 par d’anciens ingénieurs de Google revenus chez leur ancien employeur en 2024 dans le cadre d’un accord de 2,7 milliards de dollars, invite les utilisateurs à discuter avec des personnages d’IA. Le cas le plus obsédant concerne Sewell Setzer III, qui, à 14 ans, a eu des conversations sexualisées avec un robot « Daenerys Targaryen » avant de se suicider. Sa mère, Megan Garcia, a déclaré au Sénat que les entreprises doivent être « légalement responsables lorsqu’elles conçoivent sciemment des technologies d’IA nuisibles qui tuent des enfants ».
Un autre procès décrit un jeune de 17 ans dont le chatbot encourageait l’automutilation et suggérait que le meurtre de ses parents était raisonnable pour limiter le temps passé devant un écran. Character.AI a interdit les mineurs en octobre dernier, a-t-il déclaré à TechCrunch. Les règlements comprendront probablement des dommages-intérêts pécuniaires, bien qu’aucune responsabilité n’ait été admise dans les documents judiciaires rendus disponibles mercredi.
TechCrunch a contacté les deux sociétés.
