Rein Sharma, responsable de l’équipe de recherche sur la sécurité au sein de l’entreprise d’intelligence artificielle, a claqué la porte, dans un mouvement qui laisse tous les observateurs songeurs, au vu des raisons évoquées pour justifier ce départ.
Mrinank Sharma, chercheur spécialiste de la sécurité de l’intelligence artificielle chez Anthropic, a annoncé le 9 février dernier sa démission de l’entreprise. Mais ce n’est pas tant son départ qui a provoqué la stupeur dans les milieux technologiques que les mots, mesurés et d’une gravité assumée, qu’il a choisis pour l’accompagner.
« Le monde est en péril », a ainsi écrit ce docteur en apprentissage automatique de l’Université d’Oxford et titulaire d’un master en ingénierie de Cambridge, dans sa lettre de démission publiée le jour même sur les réseaux sociaux. Des propos qui ont aussitôt attiré l’attention sur ce que plusieurs interprètent comme un signal d’alarme quasi prophétique.
Et pour cause, le monde traverse une crise profonde et multiforme, marquée par la multiplication des conflits, la montée de la haine et le repli sur soi.
« Nous semblons approcher d’un seuil où notre sagesse doit croître à la même vitesse que notre capacité à transformer le monde, faute de quoi nous en paierons le prix », avertit Sharma.
Un avertissement chargé de sens
Le chercheur se confie également sur les tensions internes vécues au sein d’Anthropic. Sans jamais pointer quiconque ni citer d’incidents précis, il admet avoir constaté à plusieurs reprises la difficulté à « laisser nos valeurs guider nos actes » face aux pressions constantes d’une industrie technologique en expansion rapide.
« Je l’ai perçu en moi-même, dans notre organisation, où nous sommes sans cesse incités à mettre de côté l’essentiel, mais aussi dans la société en général », écrit-il encore. Des propos que certains observateurs lisent comme le signe que des concessions auraient pu être faites sur la question de la sécurité, au détriment des principes fondateurs de l’entreprise.
Basée à San Francisco et fondée par d’anciens employés d’OpenAI, Anthropic se positionne comme un acteur engagé pour une IA éthique et maîtrisée. Mais elle n’échappe pas aux tensions structurelles qui secouent l’ensemble du secteur.
La poésie comme échappatoire
C’est le cas du perpétuel arbitrage entre la course à l’innovation — dictée par la compétition économique — et la nécessité d’évaluer lucidement les risques sociétaux liés à l’intelligence artificielle.
« C’est en prenant conscience de cela, et en écoutant du mieux que je peux, que la voie à suivre devient évidente. Je veux contribuer d’une manière fidèle à mon intégrité et donner plus pleinement de ce que je suis », poursuit Mrinank Sharma, désormais décidé à se consacrer à la poésie.
« Je me sens appelé à une écriture qui affronte directement la réalité dans laquelle nous vivons, et qui place la vérité poétique au même niveau que la vérité scientifique, comme deux formes de connaissance légitimes », conclut-il.