Geoff Ralston, bien connu dans la communauté des startups pour ses années chez Y Combinator, est de retour dans le ring d’investissement officiel, a-t-il entouré jeudi.
Son nouveau fonds est appelé Safe Artificial Intelligence Fund, ou Saif, qui est à la fois une explication de sa thèse et une pièce sur les mots.
Ralston est spécifiquement à la recherche de startups qui «améliorent la sécurité, la sécurité et la responsabilité du déploiement», comme le décrit ses fonds. Il prévoit d’écrire des chèques de 100 000 $ comme un «jeu de mots en toute sécurité», dit-il, avec un plafond de 10 millions de dollars. Un coffre-fort est, de race, de l’investissement maintenant / prix outil d’investissement pré-série plus tard, lancé par Y Combinator (it ACCORD pour les capitaux propres futurs).
Alors que la plupart des VC de nos jours cherchent à investir dans une startups d’IA, la prise de Ralston est un peu plus axée sur l’idée d’une IA en toute sécurité, même s’il a admis que le concept est un peu large.
« La grande majorité des projets d’IA dans le monde Teday utilisent la technologie pour résoudre des problèmes ou créer de l’efficacité ou créer de nouvelles capacités. Ils ne sont pas nécessaires intrinsèquement dangereux, mais la sécurité n’est pas leur principale préoccupation », a déclaré Ralston à TechCrunch. «J’ai l’intention de financer les startups dont l’objectif principal est une IA sûre – comme je l’ai (très largement) défini.»
Cette liste comprend les startups axées sur l’amélioration de la sécurité de l’IA, comme celles qui clarifient le processus de processus de décision d’une IA ou la sécurité de l’IA de référence. Il comprend des produits qui protègent la propriété intellectuelle, ceux qui garantissent une conformité en IA aux exigences complètes, luttent contre la désinformation et détectent des attaques générées par l’IA. Il veut également investir dans des outils d’IA fonctionnels avec une sécurité intégrée à l’esprit, comme de meilleurs outils de prévision de l’IA et des outils de négociation commerciale compatibles avec l’IA qui ne révéleront pas les secrets des entreprises aux étrangers.
Cela peut ressembler à une liste de startups d’IA que de nombreux VC recherchent, mais il y a des domaines que Ralston dit qu’il ne reviendra pas. Un exemple est les armes entièrement autonomes.
« Il y a certainement des utilisations de l’IA qui seraient (ne seraient) pas sûres: utiliser la technologie pour créer des biowapons, pour gérer les Weats sans humain dans la boucle, etc. », a-t-il expliqué.
En fait, il aimerait financer des «systèmes de sécurité des armes» qui pourraient détecter ou empêcher les attaques de l’AI Weapons.
Il s’agit d’un point de vue contraire intéressant de nombreux fondateurs et VC de la technologie de la défense d’aujourd’hui. Comme l’a précédemment rapporté TechCrunch, certaines des personnes qui construisent des armes d’IA ont incompétent l’idée que de telles armes seraient mieux à l’option sans humain.
Pourtant, tout ce qui concerne l’IA est un champ bondé pour les VC ces jours-ci. C’est là que Ralston espère que son YC pourrait lui donner un avocat. Ralston a quitté YC en 2022, après trois ans en tant que président (a succédé à Garry Tan) et plus d’une décennie en tant que conseiller.
Ralston prévoit d’offrir un mentorat du genre qu’il a fait à l’accélérateur de startup stocké et a promis de les coacher à la façon de postuler à YC. Et il propose de les aider à exploiter son réseau d’investisseurs considérable.
Ralston a refusé de dire quelle est la taille de ce fonds, le nombre de startups qu’il a l’intention de soutenir, ou qui sont des bailleurs de fonds.
