Ilya Sutskever, le co-fondateur d’OpenAI, qui avait démissionné le mois dernier de son poste de directeur scientifique, a dévoilé son nouveau projet. Il vient de créer sa propre startup baptisée SSI pour Safe SuperIntelligence. Chez OpenAI, il était entré en conflit avec Sam Altman sur la politique suivie en matière de gestion de la sécurité de l’IA. En novembre dernier, il faisait partie des membres du conseil d’administration qui avaient cherché à l’évincer, ce qu’il avait regretté par la suite.
Lorsqu’il codirigeait l’équipe de superalignement d’OpenAI, Ilya Sutskever avait estimé qu’une superintellence, capable de surpasser l’esprit humain, pourrait survenir pendant la décennie. Il avait alerté sur ses possibles conséquences :
« La superintelligence sera la technologie la plus percutante que l’humanité ait jamais inventée et pourrait nous aider à résoudre bon nombre des problèmes les plus importants du monde. Mais le vaste pouvoir de la superintelligence pourrait également être très dangereux et pourrait conduire à la perte de pouvoir de l’humanité ou même à l’extinction humaine. »
C’est inspiré par cette idée qu’Ilya Sutskever lance son nouveau projet. Daniel Gross et Daniel Levy, deux chercheurs passés par les laboratoires d’Apple et d’OpenAI, se joignent à lui comme co-fondateurs.
« Construire une superintelligence sûre (SSI) est le problème technique le plus important de notre époque », écrivent-ils sur le site de la startup, en précisant qu’elle aura « un seul objectif et un seul produit : une superintelligence sûre ».
Pour cela SSI entend « aborder la sécurité et les capacités en tandem », en cherchant à faire progresser les capacités aussi vite que possible mais en veillant à ce que la sécurité reste la priorité.
« Notre objectif unique signifie qu’il n’y a aucune distraction par les frais généraux de gestion ou les cycles de produits, et notre modèle commercial signifie que la sûreté, la sécurité et le progrès sont tous à l’abri des pressions commerciales à court terme », affirment les fondateurs.
L’entreprise n’en dit pas plus sur comment elle financera son développement mais sa mission est claire. Elle appelle les ingénieurs qui veulent « se concentrer sur le SSI et rien d’autre » à venir grossir ses rangs. La startup américaine ouvre ses premiers bureaux à Palo Alto et Tel Aviv.
Un appel qui trouvera peut-être un écho chez les salariés d’OpenAI et Google DeepMind qui plus tôt dans le mois ont publié une lettre ouverte mettant en garde sur les dangers de l’IA.