Présentation des agents commerciaux IA. Mais personne n’est prêt.
De nombreuses personnes utilisent des modèles d’IA pour trouver les produits qu’ils souhaitent acheter, mais les clients ne peuvent pas facilement demander à des agents d’IA d’effectuer des achats en leur nom en raison des protocoles de sécurité, du manque de normes commerciales pour les agents et des politiques des détaillants qui tentent de bloquer les agents d’achat tiers, a déclaré Matt Maher, fondateur et PDG de M7 Innovations, une société indépendante de recherche et développement technologique.
Melissa Bridgeford, co-fondatrice et PDG de Wizard Commerce, qui développe des agents d’achat IA, a déclaré que même pour la découverte de produits, les modèles d’IA existants tels que ChatGPT d’OpenAI sont souvent insuffisants. Elle a souligné que même lorsque les utilisateurs posent des questions à ChatGPT sur le type de produit qu’ils souhaitent acheter, comme des gants de ski, seulement 9 % du temps, il renvoie des recommandations de produits spécifiques.
Il a déclaré que les premiers efforts d’OpenAI pour intégrer des chatbots dans sa plate-forme de commerce ont peut-être échoué et se sont éloignés d’une fonctionnalité de paiement instantané qui permettait aux utilisateurs d’effectuer des achats directement à partir de l’interface de chat. Cette décision a également conduit les détaillants d’origine d’OpenAI, dont Walmart, à se retirer de cette relation.
Il a également déclaré qu’il pensait que le secteur était uni autour de la promotion du commerce d’agence, mais il reconnaissait qu’il n’y avait toujours pas d’accord sur la manière de traiter les problèmes critiques tels que la fraude, les remboursements et les retours qui peuvent entraver le développement des agences commerciales.
Courtney Robinson, responsable des politiques et des communications de la plateforme financière ouverte Akoya, a déclaré que la responsabilité en cas de fraude ou lorsque des agents d’IA entreprennent des achats non prévus par le client reste l’un des plus grands problèmes non résolus entravant le commerce des agents. « L’innovation est toujours suivie d’une réglementation », dit-elle. « Actuellement, la responsabilité est largement ouverte et négociée entre les entreprises, mais il n’existe aucune norme précisant où se situe la responsabilité si un agent achète quelque chose que l’utilisateur n’avait probablement pas prévu ou demandé. »
Maher a déclaré que même si de nombreuses grandes entreprises tentent de se protéger de toute responsabilité pour ce type d’erreurs d’agents d’IA via les conditions d’utilisation de leurs sites Web ou des passerelles commerciales d’agents, il estime que les conditions d’utilisation n’exonèrent pas les commerçants de ce qu’il appelle « responsabilité perceptuelle ». À titre d’exemple, a-t-il déclaré, si un agent d’IA achetait accidentellement un blazer à Gap qu’il ne voulait pas qu’il achète, il se plaindrait probablement à Gap et s’attendrait à un remboursement, surtout s’il est un client fidèle de Gap.
La sécurité est également un problème majeur. « Nous avons un énorme problème de fraude en ligne, et le problème du commerce électronique sans agent et la présence d’agents ne feront qu’amplifier le problème de façon exponentielle », a déclaré Norman Mentz, PDG de la société de cybersécurité Flair. « La surface d’attaque continue de s’étendre. » Il a ajouté que les problèmes pourraient survenir à la fois si des acteurs malveillants s’approprient les agents légitimes des gens et les utilisent pour effectuer des achats frauduleux, et si des acteurs malveillants utilisent des informations personnelles ou de cartes de crédit volées pour créer leurs propres agents.
Adam Winnick, co-fondateur et PDG de Finality, une société qui utilise la technologie blockchain pour faciliter les affaires, a déclaré que de nouvelles normes et systèmes open source seront nécessaires pour surveiller et vérifier l’identité des agents d’IA et garantir que ces agents sont autorisés par leurs propriétaires légitimes à effectuer des transactions spécifiques au nom des utilisateurs. Il a déclaré que la blockchain pourrait jouer un rôle dans une telle solution, mais qu’il pourrait également exister d’autres moyens de construire un tel système.
De nombreux panélistes ont déclaré que le problème est que, même si les consommateurs poussent désormais à utiliser des agents IA pour faire leurs achats, la création de telles normes a toujours pris des années. « Je pense qu’il existe une demande du marché pour que les[agents d’achat IA]soient adoptés et autorisés à continuer à être utilisés avant qu’une solution ne soit trouvée pour résoudre la fraude », a déclaré Mentz.
Ben Leventhal, fondateur et PDG de Blackbird Labs, un programme de récompenses pour les restaurants basé sur la blockchain, a déclaré que son entreprise était sur le point de permettre aux agents IA de rechercher des restaurants et d’effectuer des réservations au nom des utilisateurs. Il a déclaré que dans le secteur de la restauration, la fraude aux paiements suscite moins d’inquiétudes, car les restaurants acceptent généralement les paiements par carte de crédit, mais que la vérification de l’identité reste un problème ouvert important pour les agents d’IA.
Leventhal, comme Winnick, estime que la technologie blockchain peut aider à résoudre ce problème d’identité, mais a déclaré que d’autres solutions pourraient également être possibles et que les sociétés de gestion d’identité existantes sont susceptibles de les résoudre. « Il y aura des charges utiles d’identité que les gens et leurs agents transporteront », a-t-il déclaré.
D’ici là, a déclaré Leventhal, les commerçants courront probablement simplement le risque de fraude, comme ils le font actuellement dans la plupart des transactions « sans carte », comme la plupart des achats en ligne pour lesquels une carte de crédit physique n’est pas remise et le client n’est pas physiquement présent.
Il était également optimiste quant à l’avenir du commerce d’agents. « Les innovateurs et les entrepreneurs vont trouver un cas d’utilisation qui tue et il sera impossible d’y résister », a-t-il déclaré. Une grande partie de la gêne actuelle liée aux achats avec des chatbots et des agents IA « sera dissipée et deviendra magique à chaque fois que nous aurons un logiciel magique », a-t-il déclaré. « Il est simplement adopté. »
