C’est quelque chose que la plupart des dirigeants responsables de l’évaluation des risques ne disent pas à haute voix. En matière de gouvernance, l’instinct de traiter l’IA comme n’importe quelle autre technologie émergente – d’observer, d’évaluer et d’agir avec prudence – est l’une des choses les plus dangereuses que nous puissions faire.
Je dis cela en tant que personne qui a utilisé le risque comme une lentille, et non comme un fil, au cours de près de 30 ans passés à aider les dirigeants à prendre des décisions commerciales à enjeux élevés. Et ce que je dis, c’est que dans le contexte de l’IA, il n’est pas prudent d’attendre une information parfaite avant de construire une structure de gouvernance. C’est une abdication.
Cette technologie n’attend pas que le comité termine son évaluation. Il en va de même pour nos concurrents et l’environnement réglementaire. Chaque trimestre que vous passez à « évaluer votre espace » signifie que votre organisation recule encore davantage, non seulement techniquement mais aussi structurellement.
En effet, les entreprises qui gagnent à l’ère de l’IA ne sont pas nécessairement celles qui proposent les meilleurs modèles. Ce sont eux qui ont bâti leur pouvoir de gouvernance suffisamment tôt pour déployer l’IA en toute confiance, rapidité et responsabilité.
La réunion qui ne cesse d’être reportée est la réunion la plus importante.
Voici ce qui se passe même au sein des organisations les plus sophistiquées. L’IA évolue largement, discrètement et bien en avance sur toute structure de gouvernance. Les employés gèrent les données clients via des outils grand public. Les ingénieurs déploient des modèles que personne dans le service juridique n’a examinés. Les services achats signent des contrats SaaS avec l’IA dans les petits caractères. Il ne s’agit pas d’un risque théorique. Il s’agit d’un risque réel et en temps réel, et c’est à votre entreprise que vous l’approuvez ou non.
La question est de savoir s’il y a quelqu’un de responsable et s’il peut assister à une réunion du conseil d’administration et dire honnêtement qui est cette personne.
C’est pourquoi la tenue d’un comité de gouvernance de l’IA n’est pas une initiative souhaitable pour l’année prochaine. Il s’agit d’un besoin structurel urgent. Il ne s’agit pas d’un groupe de travail. Il n’existe pas de groupes de travail trois niveaux en dessous du RSSI. Il s’agit d’un organe interfonctionnel de haut niveau doté d’une réelle autorité et d’une réelle responsabilité, chargé d’apporter régulièrement au conseil d’administration un cadre vivant et évolutif.
Ce n’est pas un comité que vous déléguez. C’est ce que vous convoquez. Les bonnes places à la table sont le directeur de l’IA (si vous en avez un), le RSSI, le responsable de la conformité, le responsable de la confidentialité, le responsable de l’audit et d’autres dirigeants opérationnels qui comprennent ce qui se passe lorsque l’IA a réellement un impact sur l’entreprise. Pas seulement ceux qui mesurent le risque, mais ceux qui comprennent ce qui est en jeu si vous vous trompez et ce qui peut arriver si vous faites les choses correctement.
Arrêtez d’attendre le cadre parfait, créez un cadre adaptatif
Je comprends l’envie d’attendre certains cas d’utilisation appropriés avant de poursuivre la gouvernance. Cependant, c’est précisément dans ces environnements que la création de structures de gouvernance devient primordiale. Et c’est exactement ce que le conseil d’administration doit voir. Bien qu’il ne s’agisse pas d’un produit fini, certains signes indiquent que quelqu’un l’a conduit. Vous n’avez pas besoin d’un cadre parfait. Vous avez besoin de quelque chose de spécifiquement conçu pour évoluer, de quelque chose d’adaptatif que vous pouvez présenter au conseil d’administration aujourd’hui, affiner le trimestre prochain et bâtir sur le trimestre suivant.
Il convient de souligner que la gouvernance de l’IA n’est pas une trajectoire unique. La plupart des organisations ont deux lignes d’activité distinctes : l’IA dans la feuille de route du produit et l’IA pour le back-office, chacune nécessitant des cadres de surveillance différents, des tolérances au risque différentes et des mesures de réussite différentes.
L’intégration de l’IA dans des fonctionnalités que les clients voient et avec lesquelles ils interagissent comporte des risques de réputation, juridiques et concurrentiels et nécessite un certain niveau de rigueur. L’IA, déployée pour accélérer le back-office et rationaliser les opérations, exige quelque chose de différent. Confondre les deux est l’une des erreurs de gouvernance les plus courantes et les plus coûteuses que je constate. Des comités doivent être créés pour les deux.
Le comité doit être tenu responsable de quatre premiers résultats. Il s’agit d’une question de clarté du champ d’application, d’un inventaire complet de ce que l’IA utilise actuellement dans votre organisation, d’une évaluation honnête de ce que vos politiques existantes couvrent et ne couvrent pas, et d’une cadence pour vous tenir, vous et votre conseil d’administration, informés à mesure que les choses évoluent. Selon la taille de votre organisation et ce qui se passe déjà, le simple fait de créer un inventaire de vos activités peut prendre beaucoup de temps. C’est comme prévu. C’est suffisant pour commencer.
Votre travail en tant que membre de l’équipe de direction n’est pas de diriger le comité. Juste pour préciser que c’est important. Nous nous attendons à ce que les comités se réunissent régulièrement, que l’appropriation soit claire à tous les niveaux et qu’ils se concentrent sur les résultats commerciaux plutôt que sur les capacités technologiques.
Nous nous engageons directement uniquement lorsque le cadre doit évoluer en réponse à des risques ou à des opportunités importants, lorsque des décisions ont des implications au niveau du conseil d’administration et lorsque nous avons besoin d’une voix derrière les rapports du conseil d’administration.
Un nouveau type de bord
Un leader qui regarde ce moment avec fierté n’est pas un leader qui a attendu. Ils ont compris que la gouvernance n’est pas l’opposé de la vitesse, mais un catalyseur de la vitesse.
Toutes les entreprises qui ont aujourd’hui mis en place des structures de gouvernance de l’IA rigoureuses et réactives ont la capacité d’agir rapidement et de corriger leurs échecs avant qu’ils ne fassent la une des journaux ou ne se retrouvent à l’ordre du jour d’une salle de conseil où personne ne veut siéger à la table.
C’est le travail qui compte, pas les démos glamour, les gains de productivité ou les histoires d’investisseurs. La clé est de construire une infrastructure qui permette que tout se fasse en toute sécurité et d’en rendre compte avec suffisamment de clarté et de confiance pour que le conseil d’administration devienne un atout dans le processus plutôt qu’un public anxieux.
Les entreprises qui le font maintenant récolteront des avantages structurels qui s’accumuleront au fil des années.
Même ceux qui ne le feront pas prendront le temps de rattraper leur retard, s’ils en ont l’occasion.
Les opinions exprimées dans les articles de commentaires de Fortune.com sont uniquement celles de l’auteur et ne reflètent pas nécessairement les opinions ou les croyances de Fortune.
Cet article a été initialement publié sur Fortune.com
