Meta, la société mère des applications de médias sociaux, y compris Facebook et Instagram, n’est pas quelqu’un qui ne sait pas comment sa plate-forme affecte les enfants, mais à mesure que la société va plus loin dans les produits alimentés par l’IA, il fait face à de nouveaux défis.
Plus tôt cette année, les documents internes obtenus par Reuters ont révélé que les chatbots d’IA de META peuvent engager des conversations « romantiques ou sensuelles » avec des enfants sous les directives officielles de l’entreprise et même commenter leur appel. Depuis, la société a déclaré que les cas rapportés par Reuters étaient incorrects et supprimés, un porte-parole a déclaré à Fortune: « Alors que nous continuons à affiner nos systèmes, nous ajouterons une précaution supplémentaire pour limiter l’accès des adolescents à ces sujets, afin de former l’engagement avec les adolescents, pour éviter d’attaquer l’IA aux ressources professionnelles », a-t-il déclaré.
Meta n’est pas seulement des sociétés de haute technologie confrontées à une enquête sur les dommages potentiels des produits de l’IA. Openai et Startup Character.ai défendent actuellement une action en justice qui prétend que leurs chatbots ont encouragé les mineurs à se faire vie. Les entreprises ont rejeté la réclamation et ont précédemment déclaré à Fortune qu’elles avaient introduit plus de contrôle parental.
Pendant des décennies, le géant de la technologie a été protégé contre des poursuites américaines similaires sur le contenu nocif par l’article 230 de la loi sur la détermination des communications, connue sous le nom de «26 mots qui ont créé Internet». La loi protège des plates-formes telles que Facebook et YouTube contre les réclamations juridiques pour le contenu des utilisateurs qui apparaissent sur la plate-forme, traitant les sociétés comme des hôtes neutres, similaires aux compagnies de téléphone, plutôt que des éditeurs. Les tribunaux ont longtemps renforcé cette protection. Par exemple, AOL a évité la responsabilité des publications diffamatoires dans un procès de 1997, mais Facebook a évité les poursuites terroristes en 2020 en s’appuyant sur la défense.
Cependant, bien que l’article 230 protège historiquement les entreprises de haute technologie de la responsabilité du contenu tiers, les experts juridiques affirment que l’applicabilité de l’IA au contenu généré est inconnue et, dans certains cas, peu probable.
« La section 230 a été construite pour protéger la plate-forme contre la responsabilité de ce que dit l’utilisateur, pas ce que la plate-forme elle-même génère. Cependant, les chatbots basés sur les transformateurs ne se contentent pas d’extraire. Ils produisent de nouvelles sorties organiques personnalisées aux invites utilisateur. »
« Cela ne ressemble pas à une médiation neutre, cela ressemble à un discours d’un auteur », a-t-elle déclaré.
Au cœur de la discussion: les algorithmes AI façonnent-ils le contenu?
La protection de l’article 230 est faible lorsque la plate-forme forme activement du contenu plutôt que de simplement l’héberger. Bien que les échecs traditionnels d’atténuer les publications tiers soient généralement protégés, les options de conception, telles que la création de chatbots qui génèrent du contenu nocif, peuvent mettre les entreprises responsables. Le tribunal n’a pas encore déterminé si le contenu généré par l’IA est couvert par l’article 230, mais les experts juridiques ont déclaré que l’IA, qui causait des préjudices graves, en particulier aux mineurs, ne serait probablement pas entièrement protégé par la loi.
Plusieurs cas de sécurité mineure ont déjà été menés devant le tribunal. Les trois poursuites dénoncent séparément Openai et Chargetle.ai pour les produits qui créent des produits qui nuisent aux mineurs et n’ont pas protégé les utilisateurs vulnérables.
Pete Furlong, un chercheur politique de premier plan au Center for Humanitarian Technology, qui a travaillé sur le procès contre les personnages, a déclaré que la société n’avait pas insisté sur la défense de l’article 230 en lien avec le cas de Swell Setzer III, 14 ans, qui s’est suicidé en février 2024.
« Charition.ai a pris de nombreuses défenses différentes pour essayer de s’opposer à cela, mais dans ce cas, ils ne revendiquent pas l’article 230 comme défense », a-t-il déclaré à Fortune. « La raison pour laquelle ce n’est probablement pas une défense valide avec les chatbots d’IA est quelque chose comme les perceptions de certaines de ces sociétés. »
Il a noté que la question n’avait pas été résolue de manière concluante devant le tribunal, mais a déclaré que la protection contre l’article 230 « n’est probablement pas jusqu’à ce que le contenu généré par l’IA ».
Les législateurs prennent des mesures préventives
Au milieu des rapports croissants de dommages réels, certains législateurs tentent de s’assurer que l’article 230 ne peut pas être utilisé pour protéger les plateformes d’IA contre la responsabilité.
En 2023, «l’article 230 du sénateur Josh Hawley de la loi sur l’IA sans claim» a tenté de modifier l’article 230 de la loi sur la descente de communication pour exclure l’intelligence artificielle générée (IA) de la protection de la responsabilité. Le projet de loi, qui a ensuite été bloqué au Sénat en raison des objections du sénateur Ted Cruz, visait à indiquer clairement que les sociétés d’IA n’étaient pas à l’abri de la responsabilité civile ou pénale pour le contenu généré par le système. Holy continue de défendre l’abolition complète de l’article 230.
« Le débat général est que, compte tenu des considérations politiques derrière l’article 230, les tribunaux continuent d’étendre les protections de l’article 230 autant que possible pour assurer la protection de la plate-forme », a déclaré Fortune à Fortune Colin R. Walk, les données de l’Oklahoma. « Par conséquent, en prévision, Holy a proposé son projet de loi. Par exemple, certains tribunaux disent qu’ils ne sont pas responsables de la sortie d’information basée sur la contribution des utilisateurs, tant que l’algorithme est » neutre du contenu « .
Le tribunal a précédemment déterminé que les algorithmes qui organisent ou correspondent simplement au contenu des utilisateurs sans altération étaient considérés comme « neutres de contenu » et que la plate-forme n’était pas traitée comme le créateur de ce contenu. Cette inférence pourrait également éviter la responsabilité de ce que les utilisateurs voient, ainsi que les plates-formes d’IA qui génèrent des algorithmes basés uniquement sur le traitement neutre de l’entrée utilisateur.
« Dans une perspective textuelle pure, une plate-forme d’IA ne doit pas recevoir de protection de la section 230, car le contenu est généré par la plate-forme elle-même. Oui, le code détermine quelles informations sont réellement transmises à l’utilisateur, mais c’est toujours le code et le produit de la plate-forme, pas un tiers », a déclaré Walk.
