OpenAI a annoncé une nouvelle fonctionnalité qui, selon elle, fournira une protection supplémentaire contre les attaques par injection rapide, où les instructions malveillantes du chatbot sont cachées dans les pages Web et autres sources de contenu.
Entre autres choses, le mode verrouillage désactivera la navigation Web en direct (vous ne pourrez donc accéder qu’au contenu mis en cache), la récupération et l’affichage d’images sur le Web (vous pouvez toujours générer des images), la recherche approfondie et le mode agent.
La société affirme que même avec le mode de verrouillage activé, ChatGPT pourrait toujours être vulnérable aux injections rapides – qui pourraient, par exemple, « apparaître dans le contenu Web mis en cache ou dans un fichier téléchargé, et pourraient toujours affecter le comportement ou l’exactitude d’une réponse ».
Mais l’objectif est de réduire la probabilité que des données sensibles soient partagées au cours du processus.
« Le mode verrouillage n’est pas destiné à tout le monde », déclare OpenAI. « Il est conçu pour les personnes et les organisations qui traitent des données sensibles et souhaitent une protection plus stricte contre les risques d’exfiltration de données liés à une injection rapide. »
La société affirme qu’elle déploie actuellement le mode de verrouillage pour les comptes ChatGPT Business en libre-service, ainsi que les comptes personnels éligibles.
