Les technologies émergentes telles que l’intelligence artificielle et la blockchain ont fait la une des journaux, mais les entreprises doivent également chercher à évoluer les tendances matérielles. Alors que les entreprises poursuivent des opérations plus rapides, plus intelligentes et plus sûres, les configurations matérielles deviennent un différenciateur concurrentiel important.
À une époque façonnée par l’adoption de l’IA, la hausse des attentes des utilisateurs finaux et le renforcement des réglementations de confidentialité, les dirigeants informatiques réévaluent non seulement le matériel dont leur organisation a besoin, mais aussi où ils vivent et comment ils se déploient. Ci-dessous, les membres du Forbes Technology Council partagent des stratégies matérielles clés conçues pour offrir la flexibilité, la sécurité et la rentabilité.
1. Sécurité matérielle à bord AI-AI
La sécurité matérielle basée sur l’IA d’Edge est essentielle. En intégrant les opérations intelligentes directement dans les serveurs, les points de terminaison et le stockage (points de terminaison, stockage), l’entreprise peut obtenir une sécurité autonome en temps réel. Réduire les retards. Protégez votre intimité sans être indépendante du nuage. Cette tendance d’IA native du matériel est importante pour les opérations sûres et évolutives à court terme. – Camellia Chan, Flexxon
2. Matériel optimisé par l’inférence
Nous voyons un passage à une inférence matérielle optimisée. Il s’agit d’un modèle système conçu spécifiquement pour la course plutôt que pour l’entraînement. En tant qu’échelle de déploiement du modèle, les GPU typiques jettent l’énergie et l’espace de rack. Les accélérateurs dédiés avec une utilisation élevée de la bande passante de la mémoire sont essentiels pour une IA en temps réel rentable. -Thomas sohmers, positron ai
Forbes Technology Council est une communauté uniquement sur l’invitation pour les DSI, les CTO et les cadres technologiques de classe mondiale. Êtes-vous qualifié?
3. Infrastructure démontée
L’infrastructure démantelée augmente rapidement. En isolant les calculs, le stockage et la mémoire, les entreprises peuvent efficacement évoluer les charges de travail de l’IA. Combiné avec des NIC et des GPU intelligents, il s’agit de l’épine dorsale des architectures à haut débit à faible latence dans les centres de données de demain. -Sai Krishna Manohar Cheemakurthi, US Bank
4. Accélérateur de bord extension sur le terrain
Les accélérateurs de l’IA Edge ont gagné du terrain, en particulier dans le secteur de l’assurance, où les appareils qui peuvent analyser les réclamations localement sont déployés dans des kits d’exploitation sur le terrain. Ces appareils réduisent les coûts du cloud tout en maintenant la confidentialité. Les avantages clés comprennent l’efficacité des sommets / watts, des pipelines de données cryptées en matériel et des conditions de fiabilité de grade médical IEC 62304. L’avenir est une intelligence distribuée. -Srinath Chandramohan, ey
5. Infrastructure cloud hybride
Cloud hybride (combinant des serveurs hébergés localement et des fournisseurs de cloud public, cette stratégie aide les entreprises à réduire les coûts tout en maintenant la flexibilité à l’échelle au besoin. -Anto Joseph, Eigen Labs
6. Infrastructure de sécurité à bord
En tant qu’entreprise de sécurité publique, il existe une demande croissante d’infrastructures de sécurité compatibles avec les bords, telles que les boutons de panique intelligente, les passerelles mobiles et les processeurs de bord compacts qui peuvent traiter les données vidéo, audio ou bien-être localement avant de se synchroniser avec des plates-formes basées sur le cloud. Cela réduit les retards, permet des décisions en temps réel en cas d’urgence et améliore la confidentialité en limitant l’exposition aux données. -Kevin Mullins, Safermobility
7. Computing Edge compatible AI
Une tendance clé consiste à intégrer le calcul des bords avec l’IA pour permettre le traitement des données en temps réel près des sources. Cela réduit la latence et la bande passante. Ceci est important pour l’IoT et les systèmes intelligents. Les progrès des processeurs et des puces d’IA favorisent l’analyse des données locales, augmentant la prise de décision et l’efficacité. L’adoption de cette tendance aidera les entreprises dans l’industrie basée sur les données à réduire les coûts, à améliorer les performances et à rester compétitives. -Gautam Nadkarni, Wipro
8. Développement de modèles de base localisés
Il est important que le matériel puisse exécuter un modèle sous-jacent localisé. Les modèles de base actuels et les modèles de langage à grande échelle nécessitent une infrastructure critique, des risques de sécurité en raison de la généralisation et du traitement centralisé des données. La nouvelle approche déploiera des modèles personnalisés sur de petits appareils tels que les montres et les téléphones, permettant un traitement local sécurisé, ouvrant la voie à des assistants d’IA personnalisés. -Abhijeet Mukkawar, Siemens Digital Industries Software
9. Computement des bords sur place sur les sites d’usine et de communication
La tendance croissante est de construire une configuration informatique de bord avec un GPU ou une puce AI près de l’endroit où les données sont générées. Les avantages comprennent la réduction de la latence à mesure que les informations sont traitées localement. Économies de bande passante; et l’évolutivité. Ces configurations matérielles fiables, flexibles et modulaires permettent aux usines et aux sites de communication d’effectuer des tâches alimentées par l’IA dans le domaine, permettant une réponse plus rapide, une protection des données plus puissante et une gestion de charge de travail plus efficace. -Maman Ibrahim, Eugenezonda Cyber Consulting Services
10. Disposition du centre de données construite pour l’IA
Le calcul local fait un retour. Tout le monde a poursuivi le nuage. Nous combattions Ram. Maintenant, ce sont les voies NVME, la bande passante PCIe et l’alimentation électrique. Bienvenue dans les guerres matérielles AI! Cependant, les charges de travail AI-Native prennent des conceptions de rack de demande ainsi que la sélection des puces. Si la disposition du centre de données n’a pas changé depuis 2015, elle n’est pas prête. – Mirítan, base zéro
11. matériel d’optimisation d’énergie
Nous sommes dans les premiers stades du changement vers le matériel optimisé par l’énergie. L’organisation investit dans des centres de données alimentés en renouvellement pour atteindre les objectifs ESG et réduire l’empreinte carbone. -Ohm Kundurthy, Santander Bank
12. Calcul de calcul accéléré
Nous voyons des clusters d’informatique accélérés qui remplissent les deux obligations pour la formation et le raisonnement. La poussée vers les agents et l’IA multimodale nécessite une puissance de traitement critique pour résoudre des problèmes complexes et faire progresser l’autonomie de l’IA. -Steven Carlini, Schneider Electric
13. Configuration du matériel modulaire
Une tendance importante est la migration vers les configurations matérielles modulaires, telles que les serveurs et le stockage, qui permettent de haut ou de vers le bas si nécessaire. Cela permet aux entreprises de répondre plus facilement aux besoins et aux coûts de contrôle en ajoutant de l’énergie ou de l’espace sans reconstruire complet. Il s’agit d’une approche flexible et devient rapidement standard. -Ganesh Ariyur, Gainwell Technologies
14. Computing Edge à l’aide de NPU et de puces spéciales
Une tendance matérielle importante est l’informatique à bord AI-Acceleated. En utilisant des unités de traitement neuronales et des puces spécialisées pour traiter les données à proximité de la source, les entreprises réduisent la latence, améliorent la confidentialité et permettent la prise de décision en temps réel. Lorsque l’IA est au cœur de votre opération, l’intelligence Edge devient importante pour la vitesse, l’évolutivité et la résilience. -Rrishit Lakhani, Nil
15. Compatibilité matérielle inégale
Il est essentiel d’utiliser une compatibilité matérielle inégale et des portions de matériel mixtes. Cela permet une utilisation flexible d’une large gamme de types de matériel, tels que GPU, CPU et ASIC. Prend en charge les charges de travail d’évolution de l’IA en exécutant efficacement vos modèles dans une flotte de matériel mixte et en augmentant l’agilité et la durabilité. -Pooja Jain, Meta (Facebook)
16. Computement des bords axé sur la confidentialité
La tendance croissante du matériel est le calcul de bord. Plutôt que de compter entièrement sur le cloud, il gère les données proches de l’utilisateur. Il est devenu essentiel pour la prise de décision en temps réel dans des environnements sensibles à la confidentialité. Par exemple, avec ADTech, la configuration Edge permet aux marques de diffuser des annonces plus rapides, plus conformes et personnalisées sans sacrifier la vitesse ni la sécurité des données. -Ivan Guzenko, Smartyads Inc.
17. Architecture hybride CPU-GPU
Une tendance claire à court terme est d’adopter des architectures hybrides CPU-GPU optimisées pour l’IA et les charges de travail d’analyse de données. Il est important de comprendre que l’IA n’est plus une option. Il doit être intégré à votre flux de travail. Ces architectures améliorent les performances sans avoir besoin d’un remplacement complet de l’infrastructure, aidant les entreprises à équilibrer les coûts et l’efficacité. – David Barbera Costa Rosa, un bip épanouissant
18. Intégration de sécurité au niveau des puces
La tendance matérielle clé est l’intégration de sécurité au niveau du silicium, y compris les modules de plate-forme fiables, les enclaves sécurisés et l’authentification matérielle. Avec les cybermenaces et une main-d’œuvre à distance croissante, les entreprises doivent adopter du matériel qui applique le principe de la fiducie zéro des puces pour protéger les données et les systèmes sensibles. -Raj Jhaveri, Greenlane ™ Infrastructure
19. NPU sur les appareils
Une tendance matérielle importante est l’adoption d’unités de traitement neuronal dans les appareils personnels. Les nouveaux PC et appareils sont équipés de NPU pour gérer efficacement les charges de travail AI sur les appareils. Lorsque l’IA devient cruciale pour les flux de travail quotidiens, il existe un risque que ces appareils sans puce soient retardés dans les performances et les fonctionnalités. -Tarun Eldho Alias, Neem Inc.
20. Calculs inégaux
Une tendance importante est le changement vers l’informatique inégale, combinant des processeurs, des GPU et des accélérateurs d’IA pour gérer les charges de travail de l’apprentissage automatique. Les processeurs traditionnels ne peuvent pas suivre les modèles plus grands. Interconnexion la plus rapide, les nœuds riches en mémoire utilisant du matériel spécialisé comme le H100 sont essentiels pour maintenir une formation, une efficacité et une compétitivité plus rapides à l’ère IA. -Karan ALANG, Versa Networks Inc.
