Extrait de la conférence qu’a donné Yann Le Cun (Prix Turing, l’un des pères de l’IA) à Sciences Po debut septembre 2026. Passage intéressant au sujet des vraies raisons animant les géants de la tech US militant pour une pause de l’IA…
Éric Hazan (Sciences Po) :
— « Cette question brûle les lèvres de tout le monde. Avant de parler un petit peu de ton parcours, je voudrais savoir ce que tu penses de la pause. »
Yann LeCun :
— « Pas du bien.
Les gens qui se font les avocats de la pause sont un peu incohérents dans les opinions qu’ils expriment.
En particulier Dario Amodei, qui est un peu à l’origine de ça, suivi par Sam Altman, Elon Musk, etc.
C’est en partie pour se draper dans une espèce d’enveloppe éthique et montrer aux gens : “Vous voyez, on est vraiment responsables. On pourrait juste maximiser la vitesse du progrès pour gagner de l’argent, mais on est tellement responsables qu’on a décidé de ralentir.”
Ce n’est pas forcément très honnête, mais ça part d’une illusion de la part de Dario Amodei.
Il faut se rappeler qu’en 2019, Dario Amodei, qui travaillait à l’époque chez OpenAI, avait dit : “On ne va pas distribuer GPT-2 en open source parce que, vous comprenez, c’est potentiellement très dangereux.”
À l’époque, je m’étais moqué d’eux — vraiment moqué. Je les avais carrément trollés, parce que je trouvais ça ridicule.
C’était un énorme complexe de supériorité, aussi bien à propos de leur modèle que d’eux-mêmes.
Six mois après, ils ont finalement décidé de distribuer GPT-2 en open source.
Ensuite, quand GPT-3 est sorti, ils ne l’ont pas publié en open source, non pas pour des raisons de sécurité, même s’ils le disaient, mais simplement pour préserver leur avantage technologique et commercial.
C’est aussi l’époque où Dario Amodei a quitté OpenAI pour fonder Anthropic, parce qu’il pensait qu’OpenAI prenait des libertés un peu trop rapides dans la distribution de modèles intelligents.
Mais ce qu’il faut comprendre, c’est que l’investisseur qui a permis la création d’Anthropic est une fondation appelée Open Philanthropy.
Elle appartient à une mouvance intellectuelle de la Silicon Valley appelée “effective altruism”.
Les gens qui appartiennent à cette mouvance — qu’on peut assimiler à une espèce de secte non religieuse — ont très peur du risque existentiel et se sont mis dans la tête de sauver l’humanité de ses propres bêtises, on peut le dire.
C’est essentiellement financé par des gens qui ont énormément d’argent et beaucoup trop de temps libre.
Des gens comme Dustin Moskovitz, l’un des cofondateurs de Facebook, qui a quitté l’entreprise très tôt et est devenu, d’une certaine manière, paranoïaque au sujet des risques existentiels.
Ou encore Jaan Tallinn, un garçon charmant par ailleurs, créateur de Skype, qui s’est lui aussi mis dans la tête qu’il fallait sauver l’humanité d’elle-même.
C’est quelque chose que partage aussi Elon Musk, d’ailleurs — c’est pour ça qu’il veut aller sur Mars — ainsi que Vitalik Buterin et quelques autres.
Ce sont donc des gens avec beaucoup d’argent qui, en partant d’une bonne intention — sauver l’humanité —, font en fait d’énormes bêtises.
La création d’Anthropic partait peut-être d’un bon sentiment : faire de l’IA qui ne fera de mal à personne. Mais aujourd’hui, l’argument de Dario Amodei, qu’il présente à plusieurs gouvernements dans le monde, c’est : “Vous comprenez, l’IA est vraiment dangereuse, il ne faut pas la mettre entre toutes les mains.”
Il faudrait donc réguler l’IA et interdire en particulier l’IA open source, notamment parce qu’elle vient de Chine — et qu’on ne peut pas faire confiance aux Chinois —, mais surtout parce que l’IA entre toutes les mains mènerait — selon eux — à un désastre à cause des risques existentiels.
« Régulez l’IA et interdisez l’open source !
Bien sûr, ne nous réguler pas, nous !
Parce que nous, on est intelligents et savons comment gérer l’IA…
mais les réguler eux ! »
Cela part d’un complexe de supériorité absolument insupportable et mal placé, mais surtout d’une volonté de capturer le marché par la régulation, en convainquant les gouvernements du monde entier que l’IA est intrinsèquement dangereuse.
Et c’est faux. »
(Merci à mon fidèle Codex qui a fait cette transcription ainsi que l’illustration 
)
Laisser un commentaire