{"id":842,"date":"2023-06-29T21:27:03","date_gmt":"2023-06-29T20:27:03","guid":{"rendered":"https:\/\/virtualperson.org\/deja-vu\/?p=842"},"modified":"2023-06-29T21:31:47","modified_gmt":"2023-06-29T20:31:47","slug":"le-plus-grand-pillage-de-lhistoire-de-lhumanite","status":"publish","type":"post","link":"https:\/\/virtualperson.org\/deja-vu\/le-plus-grand-pillage-de-lhistoire-de-lhumanite\/","title":{"rendered":"Le Plus Grand Pillage de l’Histoire de l’Humanit\u00e9"},"content":{"rendered":"

\"\"<\/a><\/p>\n

Pour Naomi Klein, les IA organisent \u201cle plus grand pillage de l\u2019histoire de l\u2019humanit\u00e9\u201d<\/a><\/h1>\n

Au milieu du d\u00e9luge de pol\u00e9miques inspir\u00e9es par le lancement pr\u00e9cipit\u00e9 des technologies dites \u201cd\u2019intelligence artificielle\u201d (IA), une obscure querelle fait rage autour du verbe \u201challuciner\u201d. C\u2019est le terme qu\u2019emploient les concepteurs et d\u00e9fenseurs des IA g\u00e9n\u00e9ratives pour caract\u00e9riser certaines des r\u00e9ponses totalement invent\u00e9es, ou objectivement fausses, formul\u00e9es par les robots conversationnels, ou chatbots.<\/p>\n

En r\u00e9cup\u00e9rant un terme plus commun\u00e9ment utilis\u00e9 dans les domaines de la psychologie, du psych\u00e9d\u00e9lisme ou dans diverses formes de mysticisme, les ap\u00f4tres de l\u2019IA reconnaissent certes le caract\u00e8re faillible de leurs machines, mais, surtout, ils renforcent le mythe favori de cette industrie\u00a0: l\u2019id\u00e9e qu\u2019en \u00e9laborant ces grands mod\u00e8les de langue [LLM] et en les entra\u00eenant gr\u00e2ce \u00e0 tout ce que l\u2019humanit\u00e9 a pu \u00e9crire, dire ou repr\u00e9senter visuellement, ils sont en train de donner naissance \u00e0 une forme d\u2019intelligence dou\u00e9e d\u2019une existence propre et sur le point de marquer\u00a0un bond majeur pour l\u2019\u00e9volution<\/a>\u00a0de notre esp\u00e8ce.<\/p>\n

Si les hallucinations sont effectivement l\u00e9gion dans le monde de l\u2019IA, elles ne sont toutefois pas le produit des chatbots, mais des esprits fi\u00e9vreux de certains grands pontes de la tech. Les IA g\u00e9n\u00e9ratives mettront fin \u00e0 la pauvret\u00e9 dans le monde, nous disent-ils. Elles vont r\u00e9soudre le probl\u00e8me du d\u00e9r\u00e8glement climatique. Et elles vont redonner du sens \u00e0 nos m\u00e9tiers et les rendre plus int\u00e9ressants.<\/p>\n

Il existe bien un monde o\u00f9 les IA g\u00e9n\u00e9ratives pourraient effectivement \u00eatre au service de l\u2019humanit\u00e9, des autres esp\u00e8ces et de notre maison commune. Encore faudrait-il pour cela qu\u2019elles soient d\u00e9ploy\u00e9es dans un environnement \u00e9conomique et social radicalement diff\u00e9rent de celui que nous connaissons.<\/p>\n

Nous vivons dans un syst\u00e8me con\u00e7u pour extraire le maximum de richesses et de profits \u2013\u00a0\u00e0 la fois des \u00eatres humains et de la nature. Et dans cette r\u00e9alit\u00e9 o\u00f9 le pouvoir et l\u2019argent sont hyperconcentr\u00e9s, il est nettement plus probable que les IA se transforment en terrifiants instruments de vol et de spoliation.<\/p>\n

Je reviendrai sur ce point, mais, dans un premier temps, il est utile de r\u00e9fl\u00e9chir au\u00a0but<\/em>\u00a0que servent les charmantes hallucinations des utopistes de l\u2019IA. Voici une hypoth\u00e8se\u00a0: sous leur vernis brillant, ces jolies histoires permettent de dissimuler ce qui pourrait se r\u00e9v\u00e9ler le plus vaste pillage, et le plus cons\u00e9quent, de l\u2019histoire de l\u2019humanit\u00e9. Car ce que l\u2019on observe, c\u2019est que les entreprises les plus riches de l\u2019histoire sont en train de faire main basse sur l\u2019enti\u00e8ret\u00e9 des connaissances humaines consign\u00e9es sous forme num\u00e9rique et de les enfermer dans des produits propri\u00e9taires, parmi lesquels bon nombre porteront pr\u00e9judice \u00e0 des hommes et femmes dont le travail aura \u00e9t\u00e9 utilis\u00e9 \u2013\u00a0sans leur consentement<\/a>\u00a0\u2013 pour fabriquer ces machines.<\/p>\n

C\u2019est ce que la Silicon Valley appelle couramment\u00a0\u201cdisruption\u201d<\/em>\u00a0\u2013\u00a0un tour de passe-passe qui a trop souvent fonctionn\u00e9. On conna\u00eet le principe\u00a0: foncez dans le Far West r\u00e9glementaire\u00a0; clamez haut et fort que les vieilles r\u00e8gles ne peuvent pas s\u2019appliquer \u00e0 vos nouvelles technologies. Le temps de d\u00e9passer l\u2019effet de nouveaut\u00e9 et de commencer \u00e0 mesurer les d\u00e9g\u00e2ts sociaux, politiques et \u00e9conomiques de ces nouveaux jouets, la technologie est d\u00e9j\u00e0 si omnipr\u00e9sente que les l\u00e9gislateurs et les tribunaux jettent l\u2019\u00e9ponge.<\/p>\n

Voil\u00e0 pourquoi les hallucinations sur tous les bienfaits qu\u2019apporteront les IA \u00e0 l\u2019humanit\u00e9 prennent tant d\u2019importance. Non seulement ces belles promesses tentent de faire passer un pillage \u00e0 grande \u00e9chelle comme un cadeau, mais en plus elles contribuent \u00e0 nier les incontestables menaces que constituent ces technologies.<\/p>\n

Comment justifie-t-on le d\u00e9veloppement d\u2019instruments qui pr\u00e9sentent des risques aussi catastrophiques\u00a0? G\u00e9n\u00e9ralement, en affirmant que ces outils rec\u00e8lent d\u2019immenses b\u00e9n\u00e9fices potentiels. Sauf que la plupart de ces b\u00e9n\u00e9fices rel\u00e8vent de l\u2019hallucination, du mirage. Examinons-en quelques-uns.<\/p>\n

Hallucination n\u00b0\u00a01\u00a0: les IA r\u00e9soudront la crise climatique<\/h2>\n

Parmi les qualit\u00e9s des IA, l\u2019id\u00e9e qu\u2019elles pourront d\u2019une mani\u00e8re ou d\u2019une autre trouver une solution \u00e0 la crise climatique figure presque invariablement en t\u00eate de liste. L\u2019ancien PDG de Google Eric Schmidt r\u00e9sume cette conception\u00a0dans un entretien paru dans\u00a0The Atlantic<\/em><\/a>,\u00a0<\/em>o\u00f9 il affirme qu\u2019en mati\u00e8re d\u2019IA, le jeu en vaut la chandelle\u00a0:\u00a0\u201cQuand on pense aux principaux probl\u00e8mes dans le monde, ils sont tous tr\u00e8s compliqu\u00e9s \u2013\u00a0le changement climatique, les organisations humaines, etc. Et donc, je milite toujours pour que les gens soient plus intelligents.\u201d<\/em><\/p>\n

Selon cette logique, l\u2019absence de solution aux grands d\u00e9fis de notre \u00e9poque \u2013\u00a0tels que la crise climatique\u00a0\u2013 serait donc li\u00e9e \u00e0 un d\u00e9ficit d\u2019intelligence. Sauf que cela fait des d\u00e9cennies que des gens tr\u00e8s intelligents, bard\u00e9s de doctorats et de prix Nobel, pressent les gouvernements de prendre des mesures imp\u00e9ratives. Si leurs tr\u00e8s judicieux conseils n\u2019ont pas \u00e9t\u00e9 \u00e9cout\u00e9s, ce n\u2019est pas parce qu\u2019on ne les comprend pas. C\u2019est parce qu\u2019en suivant leurs recommandations, les gouvernements risqueraient de perdre des milliards et des milliards de dollars dans l\u2019industrie des \u00e9nergies fossiles et que cela ferait vaciller le mod\u00e8le de croissance fond\u00e9 sur la consommation, qui est la cl\u00e9 de vo\u00fbte de nos \u00e9conomies interconnect\u00e9es. L\u2019id\u00e9e qu\u2019il vaut mieux attendre que des machines formulent des solutions plus acceptables et\/ou profitables n\u2019est pas un rem\u00e8de au mal, mais un sympt\u00f4me de plus.<\/p>\n

Balayez ces hallucinations et il appara\u00eet nettement plus probable que le d\u00e9ploiement des IA contribuera au contraire \u00e0 activement aggraver la crise climatique. D\u2019abord parce que les immenses serveurs qui permettent \u00e0 ces chatbots de produire des textes et des cr\u00e9ations artistiques instantan\u00e9s sont une source \u00e9norme et croissante d\u2019\u00e9missions de CO2<\/sub>. Ensuite, parce qu\u2019\u00e0 l\u2019heure o\u00f9\u00a0des entreprises comme Coca-Cola<\/a>\u00a0investissent massivement dans les IA g\u00e9n\u00e9ratives pour doper leurs ventes, il devient parfaitement \u00e9vident que l\u2019objectif n\u2019est pas de sauver le monde, mais d\u2019inciter les gens \u00e0 acheter toujours plus de produits \u00e9metteurs de carbone.<\/p>\n

Enfin, cette \u00e9volution aura une autre cons\u00e9quence, plus difficile \u00e0 anticiper. Plus nos m\u00e9dias seront envahis de\u00a0deepfakes<\/em>\u00a0et de clones, plus les informations se transformeront en zone de sables mouvants. Lorsque nous nous m\u00e9fions de tout ce que nous lisons et voyons dans un environnement m\u00e9diatique de plus en plus troublant, nous sommes encore moins bien \u00e9quip\u00e9s pour r\u00e9soudre les probl\u00e8mes les plus pressants de l\u2019humanit\u00e9.<\/p>\n

Hallucination n\u00b0\u00a02\u00a0: les IA assureront une bonne gouvernance<\/h2>\n

Il s\u2019agit ici d\u2019\u00e9voquer un avenir proche dans lequel politiciens et bureaucrates, s\u2019appuyant sur l\u2019immense intelligence cumul\u00e9e des IA, seront capables [comme le vante par exemple ce groupe de r\u00e9flexion<\/a>] de\u00a0\u201cd\u00e9tecter des besoins r\u00e9currents et d\u2019\u00e9laborer des programmes fond\u00e9s sur des \u00e9l\u00e9ments concrets\u201d\u00a0<\/em>pour le plus grand b\u00e9n\u00e9fice de leurs administr\u00e9s.<\/p>\n

Comme pour le climat, la question\u00a0m\u00e9rite d\u2019\u00eatre pos\u00e9e\u00a0: est-ce par manque d\u2019\u00e9l\u00e9ments concrets que les responsables politiques imposent des d\u00e9cisions aussi cruelles qu\u2019inefficaces\u00a0? Est-ce qu\u2019ils ne comprennent vraiment pas le co\u00fbt humain qu\u2019impliquent les r\u00e9ductions budg\u00e9taires du syst\u00e8me de sant\u00e9 en pleine pand\u00e9mie\u00a0? Ne voient-ils pas le b\u00e9n\u00e9fice pour leurs administr\u00e9s de cr\u00e9er des logements non soumis aux r\u00e8gles du march\u00e9 quand le nombre de sans domicile ne cesse d\u2019augmenter\u00a0? Ont-ils vraiment besoin des IA pour devenir \u201cplus intelligents\u201d ou bien sont-ils juste assez intelligents pour savoir qui financera leur prochaine campagne\u00a0?<\/p>\n

Ce serait merveilleux si les IA pouvaient effectivement contribuer \u00e0 rompre les liens entre l\u2019argent des entreprises et la prise de d\u00e9cision de politiques irresponsables. Le probl\u00e8me est que ces liens sont pr\u00e9cis\u00e9ment la raison pour laquelle des entreprises comme Google et Microsoft ont \u00e9t\u00e9 autoris\u00e9es \u00e0 d\u00e9ployer leurs chatbots sur le march\u00e9 en d\u00e9pit d\u2019une avalanche de mises en garde. L\u2019an dernier, les grandes entreprises de la tech\u00a0ont d\u00e9pens\u00e9 la somme record de 70\u00a0millions de dollars<\/a>\u00a0[65\u00a0millions d\u2019euros] pour d\u00e9fendre leurs int\u00e9r\u00eats \u00e0 Washington.<\/p>\n

Alors qu\u2019il conna\u00eet pertinemment le pouvoir de l\u2019argent sur les politiques du gouvernement, Sam Altman, le PDG d\u2019OpenAI \u2013\u00a0concepteur de ChatGPT\u00a0\u2013, semble halluciner un monde compl\u00e8tement diff\u00e9rent du n\u00f4tre, un monde dans lequel les dirigeants politiques et les industriels prendraient leurs d\u00e9cisions sur la base des donn\u00e9es les plus pertinentes. Ce qui nous am\u00e8ne \u00e0 une troisi\u00e8me hallucination.<\/p>\n

Hallucination n\u00b0\u00a03\u00a0: les IA nous lib\u00e9reront des travaux p\u00e9nibles<\/h2>\n

Si les s\u00e9duisantes hallucinations de la Silicon Valley semblent plausibles, la raison en est simple. Les IA g\u00e9n\u00e9ratives en sont pour l\u2019heure \u00e0 un stade de d\u00e9veloppement qu\u2019on pourrait qualifier de \u201csimili-socialisme\u201d. C\u2019est une \u00e9tape incontournable dans la m\u00e9thode d\u00e9sormais bien connue des entreprises de la Silicon Valley. D\u2019abord, cr\u00e9ez un produit attractif et mettez-le \u00e0 disposition gratuitement ou presque pendant quelques ann\u00e9es, sans apparent mod\u00e8le commercial viable. Faites de nobles d\u00e9clarations sur votre objectif de cr\u00e9er une\u00a0\u201cplace publique\u201d<\/em>\u00a0[Elon Musk \u00e0 propos de Twitter<\/a>] ou de\u00a0\u201crelier les gens\u201d,<\/em>\u00a0tout en propageant la libert\u00e9 et la d\u00e9mocratie. Puis, voyez les gens devenir accros \u00e0 votre outil gratuit et vos concurrents faire faillite. Une fois le champ libre, faites de la place pour la publicit\u00e9, la surveillance, les contrats avec l\u2019arm\u00e9e et la police, la bo\u00eete noire des reventes de donn\u00e9es utilisateurs et les frais d\u2019abonnement croissants.<\/p>\n

Des chauffeurs de taxi en passant par les locations saisonni\u00e8res et les journaux locaux, combien de vies et de secteurs ont-ils \u00e9t\u00e9 d\u00e9cim\u00e9s par cette m\u00e9thode\u00a0? Avec la r\u00e9volution de l\u2019IA, ces pr\u00e9judices pourraient para\u00eetre marginaux par rapport au nombre d\u2019enseignants, de programmeurs, de graphistes, de journalistes, de traducteurs, de musiciens, de soignants et tant d\u2019autres professionnels menac\u00e9s de voir leur gagne-pain remplac\u00e9 par du mauvais code.<\/p>\n

Mais n\u2019ayez crainte, proph\u00e9tisent les ap\u00f4tres de l\u2019IA \u2013\u00a0ce sera merveilleux. Qui a envie de travailler de toute mani\u00e8re\u00a0? Les IA g\u00e9n\u00e9ratives ne signeront pas la fin du travail, nous dit-on, seulement du travail \u201cennuyeux\u201d. Pour sa part,\u00a0Sam Altman imagine<\/a>\u00a0un avenir o\u00f9 le travail \u201crecouvre une notion plus large\u00a0; [o\u00f9]<\/em>\u00a0ce n\u2019est pas quelque chose que l\u2019on fait pour manger, mais pour laisser parler sa cr\u00e9ativit\u00e9, comme une source de joie et d\u2019\u00e9panouissement.\u201d<\/em><\/p>\n

Il se trouve que cette vision de l\u2019existence qui fait la part belle aux loisirs est partag\u00e9e par de nombreux militants de gauche. Sauf que nous, gauchistes, pensons \u00e9galement que si gagner de l\u2019argent n\u2019est plus le but de l\u2019existence, il faut d\u2019autres moyens pour satisfaire \u00e0 nos besoins essentiels, tels que la nourriture et le logis. Dans un monde d\u00e9barrass\u00e9 des m\u00e9tiers ali\u00e9nants, l\u2019acc\u00e8s au logement doit donc \u00eatre gratuit, de m\u00eame que l\u2019acc\u00e8s aux soins, et chaque individu doit se voir garantir des droits \u00e9conomiques inali\u00e9nables. Et soudainement, le d\u00e9bat ne tourne plus du tout autour des IA, mais du socialisme.<\/p>\n

\n

Or nous ne vivons pas dans le monde rationnel et humaniste que Sam Altman semble voir dans ses hallucinations. Nous vivons dans un syst\u00e8me capitaliste o\u00f9 les gens ne sont pas libres de devenir philosophes ou artistes, mais o\u00f9 ils contemplent l\u2019ab\u00eeme \u2013\u00a0les artistes \u00e9tant les premiers \u00e0 y plonger.<\/p>\n

Alors que les g\u00e9ants de la tech voudraient nous faire croire qu\u2019il est d\u00e9j\u00e0 trop tard pour revenir en arri\u00e8re et renoncer aux machines qui supplantent les humains, il est bon de rappeler qu\u2019il existe des pr\u00e9c\u00e9dents l\u00e9gaux d\u00e9montrant le contraire. Aux \u00c9tats-Unis, la Commission f\u00e9d\u00e9rale du commerce (FTC) [l\u2019autorit\u00e9 am\u00e9ricaine de la concurrence] a contraint\u00a0Cambridge Analytica<\/a>, ainsi qu\u2019Everalbum, propri\u00e9taire d\u2019une application photographique, \u00e0 d\u00e9truire la totalit\u00e9 de plusieurs algorithmes entra\u00een\u00e9s avec des donn\u00e9es et des photos acquises de mani\u00e8re ill\u00e9gitime.<\/p>\n

Un monde de\u00a0deepfakes<\/em>\u00a0et d\u2019in\u00e9galit\u00e9s croissantes n\u2019est pas une fatalit\u00e9. Il est le r\u00e9sultat de choix politiques. Nous avons les moyens de r\u00e9glementer les chatbots qui vampirisent aujourd\u2019hui nos existences et de commencer \u00e0 b\u00e2tir un monde o\u00f9 les promesses les plus fantastiques des IA ne seront pas que des hallucinations de la Silicon Valley.<\/p>\n

 <\/p>\n<\/div>\n

<\/div>\n

 <\/p>\n","protected":false},"excerpt":{"rendered":"

Pour Naomi Klein, les IA organisent \u201cle plus grand pillage de l\u2019histoire de l\u2019humanit\u00e9\u201d Au milieu du d\u00e9luge de pol\u00e9miques inspir\u00e9es par le lancement pr\u00e9cipit\u00e9 des technologies dites \u201cd\u2019intelligence artificielle\u201d (IA), une obscure querelle fait rage autour du verbe \u201challuciner\u201d. C\u2019est le terme qu\u2019emploient les concepteurs et d\u00e9fenseurs des IA g\u00e9n\u00e9ratives pour caract\u00e9riser certaines des […]<\/p>\n","protected":false},"author":3,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[8],"tags":[],"class_list":["post-842","post","type-post","status-publish","format-standard","hentry","category-i-a"],"_links":{"self":[{"href":"https:\/\/virtualperson.org\/deja-vu\/wp-json\/wp\/v2\/posts\/842","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/virtualperson.org\/deja-vu\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/virtualperson.org\/deja-vu\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/virtualperson.org\/deja-vu\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/virtualperson.org\/deja-vu\/wp-json\/wp\/v2\/comments?post=842"}],"version-history":[{"count":3,"href":"https:\/\/virtualperson.org\/deja-vu\/wp-json\/wp\/v2\/posts\/842\/revisions"}],"predecessor-version":[{"id":846,"href":"https:\/\/virtualperson.org\/deja-vu\/wp-json\/wp\/v2\/posts\/842\/revisions\/846"}],"wp:attachment":[{"href":"https:\/\/virtualperson.org\/deja-vu\/wp-json\/wp\/v2\/media?parent=842"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/virtualperson.org\/deja-vu\/wp-json\/wp\/v2\/categories?post=842"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/virtualperson.org\/deja-vu\/wp-json\/wp\/v2\/tags?post=842"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}