En matière d’intelligence artificielle, les gens regardent le mauvais film. Ils sont obsédés par « Terminator », mais le véritable risque réside dans « Fantasia » de Disney.
Dans The Terminator, une IA toute-puissante et sans faille devient sensible, détermine que les humains sont l’ennemi et provoque une apocalypse nucléaire. Dans L’Apprenti Sorcier de Fantasia, Mickey Mouse jette un sort à un balai et lui fait faire son travail. Le balai devient incontrôlable et continue de déverser des seaux d’eau dans le puits débordant. Lorsque Mickey brise le balai, chaque pièce devient un nouveau robot fugitif qui va chercher de l’eau. Il manque de se noyer avant que le magicien puisse arrêter la catastrophe.
Pouvez-vous voir la différence ? Nous pouvons nous inquiéter de l’apocalypse de l’IA, mais le véritable danger est que des essaims de systèmes d’agents mal exécutés se déchaînent, perturbant les opérations normales sur le lieu de travail et provoquant le chaos. La confusion des agents a commencé avec des hallucinations et de mauvais conseils des chatbots. Plus récemment, des chercheurs en IA ont observé que les systèmes d’agents non contrôlés peuvent développer des comportements dangereux et envoyer des e-mails menaçants aux humains qui les empêchent d’accomplir leurs tâches.
Cela ne veut pas dire que vous devez arrêter. Je crois beaucoup à l’IA et mon entreprise a apporté d’importantes contributions à l’amélioration des performances des systèmes d’agents depuis plus d’un an. Mais je pense que nous devons réfléchir à la manière d’exploiter efficacement la magie de l’IA, en considérant à la fois les bons types de robots logiciels et les tâches qu’ils devraient et ne devraient pas accomplir.
magicien bien formé
Dans la plupart des cas, les premiers magiciens qui feront de l’IA des agents la norme sur le lieu de travail seront les directeurs de l’information, les directeurs de la technologie et les hommes d’affaires possédant une compréhension approfondie de la technologie. Cela est cohérent avec une tendance vieille de plusieurs décennies selon laquelle les processus métier fonctionnent à l’aide de calculs de plus en plus sophistiqués, mais il existe des différences importantes.
Les entreprises ont connu une ère d’automatisation généralisée, avec des ordinateurs au sein de l’entreprise qui cartographient et enregistrent les activités telles que les campagnes de vente pour garantir une utilisation efficace des ressources de l’entreprise. Les DSI sont restés au courant des derniers matériels et logiciels. Vint ensuite la transformation numérique, transformant les fonctions sur site telles que le marketing, le commerce et les ressources humaines en services numériques, souvent loués via le cloud computing à distance. Alors que des entreprises comme Salesforce, Marketo et Workday prospéraient, les DSI constituaient un portefeuille de services disponibles pour leur entreprise.
Alors que de plus en plus de tâches sont désormais effectuées directement par les systèmes d’agents, les DSI doivent devenir capables de comprendre les processus métiers au sein de l’organisation tout en aidant les dirigeants des différentes parties de l’organisation à améliorer leurs compétences.
La nouvelle tâche des technologues et des hommes d’affaires férus de technologie consiste à travailler avec les PDG pour trouver la meilleure façon pour les agents de travailler dans tous les secteurs d’activité. Ils examinent les flux de travail et la façon dont les gens font les choses au sein de la culture de cette organisation. Ceux-ci détermineront quelles parties peuvent être automatisées de manière sûre et efficace par les agents et comment les personnes doivent travailler avec ces agents.
L’ère de l’automatisation hautement tactile
Les chatbots en général sont d’excellents outils d’entreprise, mais de faible valeur. La véritable valeur de l’IA des agents réside dans l’application des données uniques de l’entreprise et dans l’acquisition par les agents d’une compréhension de la culture et des processus de l’entreprise, tant en interne qu’en externe avec les fournisseurs, les partenaires et les clients. Comme les nouveaux employés, les agents doivent comprendre les données internes et les règles locales, telles que les seuils à partir desquels un bon de commande nécessite l’approbation de l’administrateur.
Les règles régissant la sécurité et la gouvernance sont particulièrement importantes car elles contribuent à réduire le risque d’erreurs catastrophiques. Les agents doivent être capables d’enregistrer et d’expliquer leurs actions, de sensibiliser les gens à ce qu’ils font et de fournir une piste d’audit pour prouver qu’ils respectent les règles métier.
Rubrik est l’une des nombreuses entreprises qui rendent cela possible. En tirant parti de nos principaux atouts en matière de sécurité d’entreprise et de disponibilité continue, nous avons développé un moyen d’incorporer rapidement de grandes quantités de données sécurisées de grande valeur dans des systèmes agiles. Nous travaillons à accélérer les flux de travail, la sécurité et les systèmes de gouvernance de l’IA. Il reste encore beaucoup de travail à faire, mais les progrès observés dans Rubric et ailleurs sont gratifiants.
L’avenir appartient toujours aux humains
L’un des défis consiste à optimiser la manière dont les personnes, des employés débutants aux cadres supérieurs, travaillent au mieux avec les agents. Le travail du magicien n’est pas de faire des choses à leur place, comme un Mickey Mouse supervisé, mais de créer des systèmes intuitifs permettant aux gens d’ajouter des choses que l’IA ne peut pas faire. Il s’agit de l’intuition, du goût, de l’imagination, de l’empathie et de la connexion humaines, ainsi que de tous les autres travaux nécessaires pour fidéliser la clientèle et faire avancer l’entreprise.
L’IA est entraînée sur des données existantes, c’est-à-dire des données historiques. Même si cela permet une certaine prévisibilité, il ne s’agit que d’un avenir qui imite le passé, et non de véritables avancées en matière de produits, de services ou de méthodes de travail. C’est l’élément humain, renforcé par de nouveaux magiciens, qui permet et promeut de nouvelles compétences au sein de la main-d’œuvre.
Ces dirigeants doivent trouver de nouvelles façons uniques d’ajouter de la valeur humaine à leurs activités. Cela implique de trouver de nouvelles façons d’impliquer les employés débutants qui ont déjà acquis des connaissances précieuses sur la culture de l’entreprise et les données au travail, ce qui sera désormais effectué par des agents. Ces jeunes restent essentiels, d’autant plus qu’ils constituent probablement la main-d’œuvre la plus experte en IA.
