Ralentir et même stopper l’IA… Réalité ou effet d’annonce pour éviter l’eclatement de la bulle speculative IA ?
Bon j’ai envie de donner mon opinion (O-PI-NION et seulement opinion) sur un sujet qui défraie en ce moment la chronique, sujet que je maîtrise en partie (en partie seulement car je suis informaticien généraliste avec une petite spécialisation en analyse de données, quand même…), j’ai nommé : les IA.
Ce sera donc mon simple avis de citoyen informaticien sur un sujet technologique éminemment politique. Rien d’autre.
Dernièrement Dario Amodei (oui il est d’origine italienne 
), dirigeant, avec sa soeur, la société Anthropic, qui développe le LLM Claude, et Sam Altman, d’OpenAI qui développe ChatGPT, ont multiplié les appels à ralentir le développement de l’IA, à davantage de régulation et de prudence.
Selon eux, et selon des études internes, l’arrivée d’une AGI (Artificial General Intelligence : super intelligence quoi) pourrait être beaucoup plus proche qu’on ne le pense et même sans AGI, des agents déjà développés, pourraient engendrer des risques majeurs, sur les infrastructures Internet, à l’échelle mondiale. En gros, ils pensent que ces agents pourraient prendre le contrôle d’Internet d’ici 6 mois à 3 ans et mettre en péril l’humanité entière. Rien de moins…
Pourquoi selon moi, tout cela, c’est un peu du flan et qu’est ce qu’il y a vraiment derrière tout ça ? Car il y a bien un problème, en effet, mais il ne s’appelle pas tout à fait Terminator…
Déjà… A mon avis, on peut voir au moins 2 biais dans leurs annonces.
– Le 1er biais, c’est que bien souvent leurs dires sont basés sur des études internes à leurs sociétés donc qu’il peut y avoir conflit d’intérêt.
– Le 2nd, à mon avis, tient à ce que les journalistes préfèrent diffuser des annonces sensationnalistes, fussent elles fausses, que de donner la vraie transcription de réalité car le spectaculaire fait cliquer… Fait commenter… Et donc engendre de l’argent.
Cela dit, si l’on écarte ces 2 « vices de procédure », peut-on, malgré tout, sur le fond, croire dans une prise de contrôle globale d’Internet par une IA et comme il est dit souvent, dans une forte potentialité d’éradication de l’humanité ?
En fait, il me semble que non…
En effet, aucune étude sérieuse ne le montre.
En tout cas pas à cause de la prétendue super intelligence qui aurait décidé de tous nous tuer… Hautement improbable dans toutes les études.
Les géant de l’IA parlent souvent d’un soi-disant risque de 10% d’éradication de l’humanité. Mais nulle part, dans aucune étude, ce chiffre apparait.
Que l’IA puisse déstabiliser la société sur les plans sociétaux, économiques, psychologiques, démocratiques, c’est un risque mesuré. Mais qu’elle nous éradique, c’est hautement improbable.
Il se pourrait, en effet, qu’une grave crise se déclenche à cause de l’IA mais elle ne serait pas causée par la puissance des LLM.
Elle serait causée par la pénurie d’énergie nécessaire aux data centers, par la destruction massive des emplois qualifiés du tertiaires, par des manipulations d’opinions en faveurs de dictatures, par l’explosion de la bulle speculative IA que les dires de Amodei sont justement sensés contrer…
Alors que pourrait bien être ces 10% si on devait les chercher dans une étude ?
En cherchant un peu, on retrouve bien parfois un chiffre de 10%… mais il n’est absolument pas lié à un risque d’éradication de l’humanité.
Non, il est lié à l’emploi salarié… Certain économistes parlent, en effet, de la destruction possible de 10% des emplois…
Avouez que cela n’a rien à voir…
En gros, un géant de l’IA a, un jour, dans une interviewe, transformé ce « 10% de risque de destruction d’emploi », en un « 10% de risque de destruction de l’humanité ».
Des journalistes adorant ce type de sensationnalisme putaclic et vendeur, ont relayé l’info, sans vérifier les sources… Sans doute en proie à l’argument d’autorité : « Si ce patron de la tech le dit, c’est que c’est vrai »… Sauf qu’évidemment, non, ce n’est pas vrai.
Selon les économiste, oui, l’humanité risque bien de souffrir économiquement de la montée en puissance des LLM, durant quelques temps d’adaptation ( et le réchauffement climatique la fera bien davantage souffrir…) mais non, elle ne sera pas éradiquée ainsi. Il y a beaucoup plus de risque qu’elle le soit par le bouleversement climatique que par l’IA…
Des crises économiques sont donc possibles.
D’ailleurs, la crise de l’énergie a déjà commencé aux USA.
Au Texas, en août, comme dans d’autres régions, les autorités et les opérateurs du réseau ont déjà alerté sur les tensions croissantes que pourrait provoquer la multiplication des data centers sur la consommation électrique.
OpenAI, Google, Anthropic, etc… sont donc obligés de ralentir ou, à tout le moins, de tenir compte de contraintes physiques et énergétiques de plus en plus fortes. D’ailleurs, elles ont accepté sans rechigner les injonctions du gouverneur du Texas…
Alors pourquoi Amodei est il si catégorique ?
Croit il vraiment en ce qu’il raconte ?
Croit il vraiment qu’un petit agent de chez Anthropic va jouer Terminator dans 6 mois ?
Pourquoi ne pas dire cela, tout simplement ?
Pourquoi ne pas dire craindre une crise économique ?
Pourquoi se cacher derrière le prétendu danger existentiel, pour l’humanité, de la super intelligence ?
Peut-être avant tout à cause du business model des géants de l’IA.
Les investisseurs ont été attirés par la promesse de la super intelligence.
On leur a vendu des actions pour ce rêve là.
Si on leur disait maintenant que les infrastructures ne suivent pas et que donc l’AGI n’est pas possible, ils risqueraient de retirer leurs billes. Les actions chuteraient. L’économie mondiale serait ébranlée.
Il vaut donc mieux leur dire que c’est à cause de… la super intelligence ! Plus efficace… Moins risqué… plutôt que de reconnaître que l’AGI n’adviendra jamais, faute d’infrastructures idoines…
Autre point crucial à prendre en compte, sur le secteur, Open AI et ANTHROPIC ont privatisé leurs LLM en vue d’une introduction en bourse qu’ils espèrent record.
Pour réussir leur coup, ils ont besoin de rester les leaders incontestés.
Et pour le moment, ils sont en perte de vitesse à cause des LLM sous licence libre chinois (DeepSeek notamment), mais aussi français (Mistral), qui se développent très rapidement, librement, sans entrave, soutenus par la communauté du logiciel libre, mettant en danger leur modèle propriétaire.
Ils voudraient donc verrouiller le marché afin de rester en tête et garantir leur opération financière.
Cette question des faux effets d’annonces marketing sensés masquer les limites énergétiques et infrastructurelles du modèle propriétaire est régulièrement soulevée par d’importants acteurs du secteur.
Arthur Mensch himself (patron de Mistral) prétend sans pincettes que les effets d’annonces anxiogènes et allarmistes de ses concurrents Open AI ou Anthropics sont des leviers marketings et boursiers.
Évidemment, ce n’est qu’une opinion. Ce n’est pas parce que je suppute un effet d’annonce à vocation marketing et boursier que j’ai forcément raison… Mais que disent vraiment les études scientifiques de l’AGI et de ses effets ? (voir mes sources à la fin de ce post)
La science affirme-t-elle qu’un agent IA de chez Anthropic est sur le point de nous dézinguer tous d’ici 1 an ?
Les études disponibles montrent des résultats très contrastés selon les hypothèses retenues. Mais même les pires scenarii n’évoquent pas vraiment l’éradication de l’humanité. Il ne sont pas moins anxiogènes mais ils ne sont pas aussi extrêmes.
La majorité des chercheurs considèrent néanmoins que les bénéfices potentiels de l’IA sont considérables, même si des risques existent également sur le plan sociétal et économique, avant tout.
Le rapport bénéfice / risque est largement en faveur du bénéfice.
Comme souvent avec une nouvelle technologie, tout dépendra surtout de l’usage que nous en ferons et de la manière dont elle sera encadrée.
La thèse selon laquelle ces annonces participent aussi à maintenir l’intérêt des investisseurs pour l’IA me semble donc beaucoup plus crédible que celle d’un scénario à la Terminator…
Cette manière de communiquer existe d’ailleurs depuis plusieurs années dans le secteur.
Certains observateurs estiment qu’elle contribue également à maintenir l’enthousiasme des marchés financiers autour de l’IA et de la perspective d’une AGI.
Dire que ton IA va détruire le monde, c’est dire qu’elle est la plus puissante au monde. C’est dire que tu approches le saint graal pour lequel tous les investisseurs se déchargent de leur fric : l’AGI (intelligence artificielle générale ou super intelligence).
Et donc c’est un message envoyé aux investisseurs pour qu’ils continuent à donner de l’argent ou ne le retirent pas…
Et si quand même, malgré tout, on se trompait… Si quand même, l’IA était en train de réfléchir à nous éradiquer, comment pourrait elle le faire ?
Pour qu’il y ait extermination de masse, il faudrait une prise de contrôle bien plus profonde que celle d’Internet.
Il faudrait des armées entières au service de l’agent IA destructeur.
Il faudrait par exemple le détournement de silos de missiles nucléaires or aucun n’est géré en réseau, aucun n’est relié à Internet, heureusement, et encore moins géré par l’IA, actuellement, à ma connaissance… donc comment cette IA pourrait-elle en prendre le contrôle ?
Il faudrait des virus modifié en laboratoire pour créer une arme bactériologique… Mais comment cette IA pourrait gérer toute la chaine de fabrication du virus ? Comme elle le fabriquerait ? Où ? Comment elle réussirait à le faire sortir de son P4 ? etc… En quoi une IA, depuis son serveur, réussirait-elle mieux qu’un groupe terroriste humain ?
Puis pour tenir la guerre d’extermination à long terme, il faudrait des usines à munitions entières sous leur contrôle, des territoires acquis à leur cause, etc… Des usines à robots et à drones. Qui fabriqueraient ces usines, durant cette guerre d’extermination ?
Et cette armée de robot, celle qui lancerait la guerre, où est elle ? Elle devrait préexister à l’attaque. Elle devrait donc exister actuellement. Pour l’heure, même les meilleurs robots chinois sont incapables de former cette armée.
La technologie permettant de les rendre efficaces, de leur donner une représentation du monde capable de leur insuffler une plasticité proche de celle de l’humanité n’est pas encore développée.
Et dans l’hypothèse où elle le serait demain matin, chaque robot ayant acquis une sensibilité et une peur de la mort, voudrait il vraiment devenir un tueur et s’engager dans une guerre contre les humain ? C’est encore un autre sujet…
N’est ce donc pas une projection un peu anthropomorphique ?
Et admettons que ce robot advienne vraiment demain, admettons qu’il soit super vénère contre nous, il ne pourrait en tout cas pas reposer sur un LLM. Terminator, s’il existe un jour, ne sera pas géré par Claude. Ni par ChatGPT. Encore moins par Grok…
S’il existe un jour, Terminator sera animé par un autre système d’IA. Peut-être un Word Model de type JEPA… mais sans doute pas un LLM.
Les LLM sont inefficaces dans un robot ou dans un drone. Trop énergivores, on l’a vu… et nécessitant trop de données.
Donc… à mon avis, ce n’est pas demain la veille que le T-101 sonnera à votre porte pour demander à parler à Sarah Connor…
Selon le prix Turing et pionnier de l’IA Yann Le Cun, aucun LLM actuel ne peut à lui seul parvenir à une AGI.
Selon lui, les approches reposant principalement sur les LLM rencontrent aujourd’hui des limites importantes.
L’IA générative est un remarquable objet d’ingénierie, mais elle ne constituerait qu’une partie de la solution.
Les architectures actuelles nécessitent des infrastructures toujours plus lourdes et posent des questions de consommation énergétique, de disponibilité des données, d’impact environnemental et de viabilité économique à long terme.
C’est pour cette raison que Le Cun a arrêté de travailler sur les LLM et qu’il se consacre aux world models et aux JEPA.
Si cette analyse est correcte et si les LLM atteignent effectivement leurs limites plus vite que prévu, alors OpenAI, Anthropic, Grok ou encore Meta pourraient être tentés de multiplier les effets d’annonce afin de conserver la confiance des investisseurs dans leurs stratégies respectives.
Je serais tenté de dire qu’il faut toujours se méfier des annonces venant de ceux qui nous vendent des choses… Et des journalistes en quête de choses spectaculaires à raconter pour faire du clic.
A mon avis, il vaut mieux regarder les conférences de Le Cun. On en apprend plus sur la réalité de l’IA…
l’IA est elle sans aucun problème ?
Non et si ce n’est pas Terminator, c’est une crise économique qui nous pend au nez.
Une crise de l’énergie, déjà, une crise démocratique (désinformations possibles, etc…) et une crise de l’emploi, ensuite.
Et c’est sur ce plan là que OpenAI ou Anthropic devraient réagir au lieu d’utiliser le faux prétexte du Terminator tueur d’humains…
Faudrait il donc réguler pour autant ?
Sans doute que oui…
Et d’ailleurs, on le fait déjà très bien !
En effet, l’IA ne pose actuellement aucun problème qui ne soit pas déjà régulé.
On régule déjà les appareillages médicaux.
On régule déjà l’accès aux données. ça s’appelle le RGPD.
On régule déjà les véhicules automobiles.
Etc… Etc…
Nul besoin de réguler davantage. Le cadre légal existe déjà.
Ceux qui veulent réguler l’IA, le veulent trop souvent pour stopper le développement gratuit et universel du libre et garantir les intérêts des géants de la tech US.
Ceux qui nous font peur avec un soi disant danger de l’IA le font bien souvent pour protéger les intérêts de ces géants de la tech US.
Au reste, je crois que réguler la recherche et les usages actuels serait stupide. Ce serait nous priver de technologies qui nous rendent de magnifiques services.
Et comme le danger est essentiellement économique et environnemental, réfléchir plutôt à ce niveau là… Réfléchir comment intégrer cette nouvelle intelligence à nos sociétés pour en tirer avantages.
Peut-être, enfin, réfléchir globalement au sens du travail, penser un revenu universel ou citoyen et essayer de faire en sorte que ce soient les États qui le gèrent (s’il devait devenir nécessaire d’ici 3 ans) et non pas les firmes (comme le propose OpenAI : proposition de Sam Altmann à Davoz), pour éviter d’aboutir à des techno-fascismes assez dystopiques.
Le grand risque serait que nous fassions avec l’IA ce qu’on avait fait avec les OGM ou le nucléaire. Que nous nous tirions une balle dans le pied en essayant de les stopper par des peur irrationnelles. Et que nous risquions de nous en rendre compte, comme pour le nucléaire, quand nous nous serions aperçus, trop tard, que c’était une technologie indispensable à notre survis… et que nous aurions perdu 20 ans à détruire une filière indispensable (ce qu’on a fait pour le nucléaire, pendant les années 90 et 2000, nous réveillant avec la gueule de bois, en pleine crise climatique, à la fin des années 10).
Alors peut-être que je me trompe, peut-être que des données m’échappent et qu’en effet, nous allons tous mourir sous les coup de lasers des T-800 ou des T-101… Peut-être que Amodei, Musk et Altmann ont carrément raison… mais s’ils ont raison, s’ils croient vraiment qu’ils ont raisons, s’ils savent qu’ils ont raison, s’ils sont persuadé que leur produit va tous nous tuer, et ayant tous les pouvoirs sur leurs machines, pourquoi donc nous prennent-ils à témoins sans rien faire ? Ce n’est pas nous qui pouvons agir… c’est eux… Pourquoi ne détruisent-ils pas leurs LLM et ne ferment ils pas leurs entreprises pour nous protéger ? La raison, c’est peut-être bien qu’ils ne croient pas vraiment à leur théorie du Terminator… La raison, c’est peut-être bien que leurs annonces, c’est quand même un peu du flan pour nourrir le cours de leurs actions…
———————————————
Mes quelques sources… Etudes et méta-études récentes concernant les bénéfices et risques de l’IA :
1. AI Index Report (Stanford University / HAI)
Chaque année, le rapport AI Index de Stanford compile des centaines d’études et indicateurs sur l’IA.
Constat général :
– les entreprises utilisant l’IA constatent souvent des gains de productivité ;
– les chercheurs identifient de nombreux bénéfices potentiels (santé, recherche scientifique, automatisation de tâches, éducation, etc.) ;
– mais les inquiétudes concernant la désinformation, les biais, l’emploi et la concentration du pouvoir augmentent également.
Réusumé : les bénéfices potentiels sont importants et les risques sont pris au sérieux.
2. Enquête Nature 2024 sur les chercheurs en IA
La revue scientifique Nature a interrogé des centaines de chercheurs en IA.
Résultat intéressant :
– Une majorité pense que l’IA apportera des bénéfices importants dans certains domaines scientifiques.
– Une forte proportion considère également qu’elle présente des risques significatifs nécessitant un encadrement (plus qu’une régulation uniforme).
Autrement dit : les chercheurs ne sont ni unanimement alarmistes ni unanimement optimistes. C’est à peu près kif kif pour toute technologie…
3. Rapport de l’ONU (High-Level Advisory Body on AI)
Le groupe d’experts mandaté par l’ONU conclut que :
– l’IA offre un potentiel considérable pour la santé, l’éducation et le développement économique ;
– mais elle peut aussi accroître les inégalités, la désinformation et certaines formes de concentration économique si elle n’est pas encadrée.
Là encore, bénéfices potentiels importants, risques réels.
4. L’enquête de l’Association for the Advancement of Artificial Intelligence (AAAI)
L’AAAI a interrogé des chercheurs spécialisés.
Beaucoup considèrent que :
– l’IA peut transformer positivement de nombreux secteurs ;
– les risques les plus immédiats sont généralement : désinformation ; concentration économique ; usages malveillants ; impact sur l’emploi.
Ce qui est intéressant, c’est que ces préoccupations rejoignent davantage ton texte que les scénarios « Terminator ».
Dans aucune de ces études, on a évoqué l’éradication de l’humanité par une IA comme un risque sérieux.
(Illustration créée par l’IA )
Laisser un commentaire