L’intelligence artificielle peut avoir plus d’influence que la révolution industrielle. Le secteur privé a déjà investi une énorme somme d’argent dans le développement et le déploiement de l’IA. Pour accélérer l’innovation et l’adoption de l’IA aux États-Unis, l’administration Trump a récemment annoncé un « plan d’action de l’IA » drastique.
L’IA est déjà utilisée pour lutter contre les maladies, faire des mathématiques sophistiquées, soutenir les transports de personnes et de produits, la conformité réglementaire et la conception des structures physiques. L’année dernière, deux prix Nobel étaient liés à l’IA. Le prix de Nobel Physics est des «découvertes et inventions fondamentales qui permettent l’apprentissage automatique à l’aide de réseaux de neurones artificiels» et «prédiction de la structure des protéines» en chimie, pour la conception de protéines informatiques ». Lors de l’annonce du prix de la chimie de 2024, le comité Nobel a déclaré: « La vie ne pourrait pas exister sans protéines. Être capable de prédire la structure des protéines et de concevoir vos propres protéines est le plus avantageux pour l’humanité. »
L’avenir compatible AI est excitant. La capacité considérable de l’IA à améliorer la vie quotidienne des gens crée des opportunités pour améliorer les compétences humaines, augmenter la productivité humaine, effectuer des tâches et passer du temps à des priorités plus pressantes. Au niveau macro, l’IA devrait stimuler la croissance économique, comme d’autres percées technologiques l’ont eu depuis des siècles. En outre, imaginez que l’IA et les collaborations humaines identifieront les traitements contre le cancer, entraîneront de nouvelles sources alimentaires qui corrigent la faim, permettant aux bâtiments de résister aux tremblements de terre, aux tornades, aux ouragans et aux incendies.
J’apprécie que les avantages de l’IA soulèvent des préoccupations pour beaucoup, sinon effrayant. Les systèmes d’IA avancés s’améliorent rapidement avec ce qu’ils font. C’est la principale préoccupation pour certaines personnes que les humains ne peuvent pas suivre l’IA et, finalement, assumer le contrôle. En outre, l’attention est axée sur l’IA, les fesses profondes, les hallucinations, l’impact de l’IA sur les travaux et l’utilisation abusive des valeurs protectrices pour les valeurs que certaines applications d’IA peuvent humilier.
La confiance est la plus importante
L’atténuation et la gestion des risques connexes tout en réalisant les grands avantages et opportunités offerts par l’IA se poursuit comme un objectif à la fois en tant que questions politiques et pratiques. La confiance dans l’IA est nécessaire pour que l’IA s’épanouisse au fil du temps et offre les avantages de l’humanité. Si les garde-corps et la surveillance sont lâches, le risque peut se transformer en véritable préjudice et nous ne voulons pas l’accepter en tant que société. Pendant ce temps, les garde-corps et la surveillance de l’IA peuvent affliger les problèmes, entraîner des découvertes incroyables et sacrifier les percées de l’IA qui augmentent les niveaux de vie.
À mesure que l’innovation et l’adoption de l’IA progresse, la valeur réelle de l’IA est claire. Le verrouillage clé de la réalisation de toute la promesse de l’IA est d’utiliser l’IA elle-même pour atténuer et gérer les préoccupations concernant l’IA. C’est quelque chose que le secteur privé peut aller de l’avant.
Les gens intériorisent les vertus qui s’auto-corrigent lorsqu’ils sont tenus pour coordonner les actions dans une variété de situations et éclairent les décisions. L’IA avancée peut faire la même chose et rester dans les paramètres et les contraintes définies pour répondre aux attentes de la société. Au fur et à mesure que l’IA progresse, il peut être possible de former des systèmes d’IA avec des architectes non seulement à s’écarter des performances acceptées, mais aussi à l’auto-impression pour atteindre les objectifs et les valeurs de la société. Des efforts techniques sont en cours pour y parvenir.
Même si cela devait se produire, ce type d’alignement d’IA ne répond pas complètement aux préoccupations de base.
AI qui supervise l’IA
Une autre couche doit apparaître: AI qui supervise l’IA. Les gens doivent travailler avec des agents d’IA pour surveiller d’autres systèmes d’IA en faisant ce qu’ils doivent faire. Il est destiné à développer et à déployer des agents d’IA avancés afin que d’autres agents d’IA ou les déploiements de droit de l’IA puissent être déployés anormalement ou négativement et ne fonctionnent pas en fonction de repères de performance, ou promouvoir d’autres préjudices, ou causer d’autres dommages. Par exemple, la surveillance humaine permet à un agent d’IA de conformité des entreprises de s’assurer que les systèmes d’IA que les entreprises utilisent dans leurs entreprises se conforment aux exigences juridiques et réglementaires. Cela est impossible pour les humains de faire en raison de la vitesse et de l’échelle que les systèmes d’IA avancés dans les entreprises peuvent fonctionner.
La quantité et la gamme d’utilisation de l’IA sont énormes et en expansion. Cela présente des difficultés. Par exemple, si vous utilisez l’IA pour vendre des produits, fournissez un support client interactif, rédigez des contrats ou créez d’autres contenus, les entreprises doivent s’assurer que ce qui est généré par le système d’IA est conforme. Cependant, la bande passante humaine, en soi, n’est pas suffisante pour confirmer et évaluer toutes les applications de conformité. Cet écart de capacité se développe à mesure que l’IA avance, devient plus largement adopté et agit de manière plus autonome. Les entreprises ne peuvent pas tomber dans les obligations de conformité. De plus, lorsque les concurrents le font activement pour obtenir des avantages stratégiques et opérationnels, ils ne peuvent pas hésiter et passer trop en utilisant des agents d’IA sur le marché. La solution consiste à déployer des agents d’IA pour améliorer la conformité et renforcer les efforts humains et le jugement. Capacités sans précédent des agents de l’IA La capacité d’évaluer en quelques secondes ou en procès-verbal, que la production et les actions d’IA soient conformes aux grandes exigences juridiques et réglementaires permet l’adoption et la mise en œuvre de la conformité IA à grande échelle.
L’IA doit l’accepter, même si elle se prépare aux modifications qu’elle apporte. Les risques doivent être pris en considération. Cependant, ils ne devraient pas saper leur engagement à favoriser le développement et l’adoption de l’IA. Cet engagement comprend des investissements dans la recherche fondamentale et appliquée en IA appliquée. Et cela implique d’ajuster correctement la gestion des risques et la gouvernance qui renforce la confiance sans réduire l’ingéniosité et l’innovation.
Il contribuera à l’engagement à long terme de l’IA à aider à garantir que d’autres systèmes d’IA fonctionnent de manière bénéfique et de manière fiable en fonction de leur objectif.
Les opinions exprimées dans le commentaire sur Fortune.com sont les vues de leurs auteurs et ne reflètent pas nécessairement les opinions et les croyances de la bonne fortune.
