Lorsque j’étais ingénieur aérospatial travaillant sur le programme de la navette spatiale de la NASA, la confiance était essentielle à la mission. Chaque boulon, chaque ligne de code, chaque système devait être soigneusement vérifié et testé. Sinon, la navette ne pourrait pas quitter la rampe de lancement. Après avoir terminé une mission, les astronautes se promenaient dans leurs bureaux pour remercier les milliers d’ingénieurs qui les avaient aidés à rentrer chez eux sains et saufs auprès de leurs familles. C’est dire à quel point la confiance et la sécurité sont profondément ancrées dans nos systèmes.
Malgré la rhétorique du « agir vite et casser les choses », la technologie n’est pas différente. Pour que les nouvelles technologies accélèrent la croissance, elles doivent instaurer la confiance.
D’ici 2027, environ 50 % des entreprises devraient déployer des agents IA, et un rapport McKinsey prédit que d’ici 2030, 30 % de tout le travail pourrait être effectué par des agents IA. De nombreux responsables de la cybersécurité avec lesquels j’ai parlé cherchent à adopter l’IA le plus rapidement possible pour soutenir leur activité, mais ils reconnaissent également la nécessité de mettre en place les garde-fous appropriés pour garantir que ces intégrations se déroulent en toute sécurité.
Pour que l’IA tienne ses promesses, les chefs d’entreprise doivent lui faire confiance. Cela n’arrive pas seul. Les responsables de la sécurité devraient tirer une leçon de l’ingénierie aérospatiale et instaurer la confiance dans le processus dès le premier jour. Sinon, vous risquez de passer à côté d’une croissance accélérée de votre entreprise.
La relation entre confiance et croissance n’est pas théorique. Je l’ai vécu.
Créer une entreprise basée sur la confiance
J’ai créé ma première entreprise après la fin du programme de la navette spatiale de la NASA. Il s’agit d’une plateforme permettant aux professionnels et aux étudiants de présenter et de partager des preuves de leurs compétences et capacités. C’était une idée simple, mais nous avions besoin que nos clients nous fassent confiance. Nous avons rapidement compris que les universités ne s’associeraient pas avec nous tant que nous ne pourrions pas prouver que nous pouvions gérer en toute sécurité les données sensibles des étudiants. Cela signifie fournir une assurance par divers moyens, notamment en présentant un certificat SOC 2 propre, en remplissant de longs questionnaires de sécurité et en complétant diverses certifications de conformité au moyen de processus manuels minutieux.
Cette expérience a conduit à la création de Drata, et mon co-fondateur et moi avons décidé de construire une couche de confiance entre les grandes entreprises. En aidant les dirigeants de GRC et leurs entreprises à établir et à prouver leur posture de sécurité aux clients, partenaires et auditeurs, nous éliminons les frictions et accélérons la croissance. Notre trajectoire rapide, passant de 1 million de dollars à 100 millions de dollars de revenus récurrents annuels en quelques années seulement, prouve que les entreprises reconnaissent la valeur et commencent progressivement à considérer les équipes GRC comme des centres de coûts pour les considérer comme des facilitateurs commerciaux. Cela conduit à des résultats réels et tangibles. Les équipes de sécurité utilisant SafeBase Trust Center ont généré 18 milliards de dollars de revenus liés à la sécurité.
Avec l’avènement de l’IA, les risques sont devenus encore plus élevés.
Les cadres et réglementations de conformité actuels, tels que SOC 2, ISO 27001 et RGPD, sont conçus pour la confidentialité et la sécurité des données, et non pour la génération de texte, la prise de décision ou les systèmes d’IA fonctionnant de manière autonome.
Grâce à des lois telles que les nouvelles normes californiennes de sécurité en matière d’IA, les régulateurs commencent lentement à rattraper leur retard. Mais il ne suffit pas d’attendre de nouvelles règles et réglementations, surtout si votre entreprise s’appuie sur les nouvelles technologies d’IA pour prendre l’avantage.
Personne ne devrait lancer une fusée non testée.
À bien des égards, ce moment me rappelle mon travail à la NASA. En tant qu’ingénieur aérospatial, je n’ai jamais « testé en production ». Toutes les missions de la navette étaient des opérations soigneusement planifiées.
Déployer l’IA sans comprendre et reconnaître ses risques, c’est comme lancer une fusée non testée. Les dégâts sont immédiats et peuvent entraîner une défaillance catastrophique. Tout comme l’échec d’une mission spatiale réduit la confiance du public dans la NASA, l’utilisation abusive de l’IA sans en comprendre pleinement les risques et sans appliquer de garde-fous peut également réduire la confiance des consommateurs dans la NASA.
Ce dont vous avez besoin maintenant, c’est d’un nouveau système d’exploitation fiable. Pour opérationnaliser la confiance, les dirigeants doivent créer des programmes qui :
Transparent. Dans le domaine de l’ingénierie aérospatiale, une documentation approfondie impose la responsabilité, et non la bureaucratie. Il en va de même pour l’IA et la confiance. Une traçabilité continue est requise, de la politique au contrôle et des preuves à la certification. Tout comme la NASA surveille continuellement sa mission 24 heures sur 24, les entreprises doivent investir dans la confiance en tant que processus continu plutôt que comme une case à cocher ponctuelle. Par exemple, les contrôles doivent être surveillés en permanence afin que l’état de préparation à l’audit soit plus réaliste que le dernier sprint. Les moteurs de fusée d’aujourd’hui peuvent gérer leurs propres opérations grâce à des ordinateurs, des capteurs et des boucles de contrôle intégrés, sans que les pilotes ou le personnel au sol n’aient besoin de régler directement les vannes pendant le vol. Et à mesure que l’IA devient de plus en plus omniprésente dans nos activités quotidiennes, cela s’applique également à nos programmes de confiance. Lorsque des humains, des agents et des flux de travail automatisés effectuent des transactions, ils doivent être capables de vérifier la confiance de manière indépendante, claire et sans ambiguïté.
En repensant à mon expérience dans l’aérospatiale, je suis frappé non seulement par la complexité des missions spatiales, mais aussi par leur interdépendance. Des dizaines de milliers de composants construits par différentes équipes doivent fonctionner parfaitement ensemble. Chaque équipe est convaincue que les autres équipes travaillent efficacement et les décisions sont documentées pour garantir la transparence dans l’ensemble de l’organisation. En d’autres termes, la confiance était la couche qui maintenait l’ensemble du programme de la navette spatiale.
Il en va de même pour l’IA aujourd’hui. Cela est particulièrement vrai à l’ère naissante de l’IA des agents. Nous évoluons vers une nouvelle façon de faire des affaires dans laquelle des centaines, voire des milliers d’agents, de personnes et de systèmes interagissent continuellement les uns avec les autres, générant des dizaines de milliers de points de contact. Les outils sont puissants et les opportunités sont vastes, mais seulement si vous parvenez à gagner et à maintenir la confiance dans chaque interaction. Les entreprises qui construisent une culture de confiance empreinte de transparence, de continuité et d’autonomie seront à la tête de la prochaine vague d’innovation.
L’avenir de l’IA se construit déjà. La question est simple. Pouvez-vous le construire sur la confiance ?
Les opinions exprimées dans les articles de commentaires de Fortune.com sont uniquement celles de l’auteur et ne reflètent pas nécessairement les opinions ou les croyances de Fortune.
