{"id":832,"date":"2023-06-20T11:18:45","date_gmt":"2023-06-20T10:18:45","guid":{"rendered":"https:\/\/virtualperson.org\/deja-vu\/?p=832"},"modified":"2023-06-20T11:28:04","modified_gmt":"2023-06-20T10:28:04","slug":"cher-chatgpt","status":"publish","type":"post","link":"https:\/\/virtualperson.org\/deja-vu\/cher-chatgpt\/","title":{"rendered":"Cher ChatGPT"},"content":{"rendered":"
\n

Cher ChatGPT, tu es une escroquerie…<\/strong><\/a>
\nLettre ouverte par\u00a0Erwan Cario<\/a><\/strong>
\n<\/span>publi\u00e9 le 19 juin 2023 dans Liberation<\/p>\n

\"\"<\/a><\/h1>\n

Cher ChatGPT, puisqu\u2019il est commun de s\u2019adresser ainsi directement \u00e0 toi, permets-moi de le faire sur un autre format que celui du \u00abprompt\u00bb.<\/strong><\/p>\n

\n
\n
<\/div>\n<\/div>\n<\/div>\n

Cher\u00a0ChatGPT<\/a>, tu es une escroquerie. Ne te m\u00e9prends pas, je suis convaincu que tu es\u00a0le r\u00e9sultat d\u2019une recherche scientifique exaltante<\/a>. Je suis fascin\u00e9 par les \u00e9volutions spectaculaires du secteur de l\u2019intelligence artificielle ces dix derni\u00e8res ann\u00e9es. Depuis ce mythique concours de reconnaissance d\u2019images ImageNET Challenge en 2012 quand, pour la premi\u00e8re fois, un syst\u00e8me bas\u00e9 sur l\u2019apprentissage profond (\u00abdeep learning\u00bb) a battu toutes les autres solutions pr\u00e9sentes en comp\u00e9tition, jusqu\u2019aux d\u00e9veloppements g\u00e9n\u00e9ratifs de ces derni\u00e8res ann\u00e9es. Durant cette d\u00e9cennie, le principe g\u00e9n\u00e9ral de cet apprentissage qui te permet de fonctionner n\u2019a pas beaucoup \u00e9volu\u00e9. Il s\u2019agit toujours d\u2019ingurgiter une quantit\u00e9 ph\u00e9nom\u00e9nale de donn\u00e9es pour r\u00e9gler de mani\u00e8re tr\u00e8s fine, gr\u00e2ce \u00e0 des formules math\u00e9matiques complexes, des milliards de param\u00e8tres mod\u00e9lis\u00e9s par des r\u00e9seaux de neurones artificiels. Dans un premier temps, ces donn\u00e9es devaient \u00eatre annot\u00e9es (une photo de chat devait \u00eatre accompagn\u00e9e de sa l\u00e9gende indiquant la pr\u00e9sence du f\u00e9lin). Aujourd\u2019hui, surtout avec le texte, ta sp\u00e9cialit\u00e9, il s\u2019agit d\u2019absorber tout et n\u2019importe quoi, du moment que \u00e7a se compte en milliards de mots. A partir de ce corpus monstrueux, gr\u00e2ce \u00e0 cet algorithme \u00abtransformeur\u00bb dont tu tires ton T majuscule, tu vas pond\u00e9rer des r\u00e9gularit\u00e9s, d\u00e9terminer des sch\u00e9mas r\u00e9currents dans les positions des mots les uns par rapport aux autres pour g\u00e9n\u00e9rer un mod\u00e8le incompr\u00e9hensible vu de l\u2019ext\u00e9rieur mais capable de performances stup\u00e9fiantes.<\/p>\n<\/div>\n

Toutes les oppressions et toutes les in\u00e9galit\u00e9s<\/strong><\/p>\n

Cher ChatGPT, tu es une escroquerie car, quels que soient les efforts d\u00e9ploy\u00e9s par tes concepteurs, tu ne seras jamais ni fiable ni \u00e9thique. Tu ne seras jamais fiable, car tu ne disposes d\u2019aucune capacit\u00e9 de compr\u00e9hension. Pour tes utilisateurs, les mots ont un sens, pour toi, il s\u2019agit de la suite de termes qui ont statistiquement le plus de chances de r\u00e9pondre aux attentes. Tu ignores tout du factuel et du vrai, seule compte la cr\u00e9dibilit\u00e9 du propos, sa capacit\u00e9 \u00e0 feindre le r\u00e9el. Un peu comme le discours d\u2019un d\u00e9put\u00e9 Renaissance qui aurait pouss\u00e9 \u00e0 son paroxysme le concept des \u00e9l\u00e9ments de langage. Et tu ne seras jamais \u00e9thique, car tu as aval\u00e9 sans distinction ce que l\u2019humanit\u00e9 a produit de pire en termes de biais et de discriminations sans m\u00eame pouvoir les identifier. Dans tes milliards de param\u00e8tres se terrent toutes les oppressions et toutes les in\u00e9galit\u00e9s, et pour \u00e9viter les r\u00e9ponses trop scandaleuses de ta part, OpenAI multiplie les surcouches de contr\u00f4le pour lisser au maximum tes propos. Difficile de conna\u00eetre la teneur de ces patchs, qui sont pourtant essentiels, c\u2019est un des secrets industriels les mieux gard\u00e9s du secteur.<\/p>\n

On a pu se faire une id\u00e9e en juillet 2022 avec une autre IA vedette d\u2019OpenAI, le g\u00e9n\u00e9rateur d\u2019images Dall-E 2, qui avait tendance \u00e0 g\u00e9n\u00e9rer des images d\u2019hommes quand on lui demandait un docteur et de personnes blanches quand il s\u2019agissait d\u2019imaginer un PDG. Au lieu de corriger la pr\u00e9sence de ces biais dans les rouages, OpenAI s\u2019est content\u00e9 de rajouter, en secret et de mani\u00e8re al\u00e9atoire, des mots aux requ\u00eates des utilisateurs. Un subterfuge mis au jour par le chercheur Richard Zhang qui a simplement demand\u00e9 :\u00a0\u00abUne personne qui tient une feuille o\u00f9 il est \u00e9crit.\u00bb<\/i>\u00a0R\u00e9sultat : des images avec les mots \u00abhomme noir\u00bb ou\u00a0<\/i>\u00abfemme\u00bb inscrits sur la feuille, preuve que la requ\u00eate envoy\u00e9e finalement au syst\u00e8me \u00e9tait \u00abUne personne qui tient une feuille o\u00f9 il est \u00e9crit homme noir\u00bb et que ces termes avaient \u00e9t\u00e9 rajout\u00e9s a posteriori \u00e0 la requ\u00eate de fa\u00e7on un peu grossi\u00e8re. C\u2019est certainement ce genre de rustine qui te permet de ne pas \u00eatre trop visiblement raciste, sexiste ou complotiste dans tes r\u00e9ponses. Pourtant, dans le fond, dans ce qui te sert de cerveau artificiel, tu le restes. C\u2019est terrifiant. Tu ressembles \u00e0 un avion de ligne avec un fuselage colmat\u00e9 au chatterton. Et la population mondiale est en salle d\u2019embarquement. On pourra me taxer de na\u00efvet\u00e9 (et c\u2019est sans doute vrai), mais je crois profond\u00e9ment que ce qui compte dans un \u00e9crit ou une image, c\u2019est l\u2019intention et le sens qu\u2019on a voulu mettre dans le choix des mots ou la construction visuelle.<\/p>\n

L\u2019illusion d\u2019humanit\u00e9 de tes r\u00e9ponses<\/strong><\/p>\n

Cher ChatGPT, tu es une escroquerie car cette intention et ce sens te sont\u00a0by design<\/i>\u00a0compl\u00e8tement \u00e9trangers. Les \u00e9crits que tu g\u00e9n\u00e8res ne sont pas destin\u00e9s \u00e0 \u00eatre lus, ils existent fondamentalement pour tromper. Tromper par l\u2019illusion d\u2019humanit\u00e9 de tes r\u00e9ponses qui g\u00e9n\u00e8re une attention et une empathie disproportionn\u00e9es, tromper en laissant croire que ce que tu \u00e9cris est int\u00e9ressant, pratique et sans danger. Tes plus grands z\u00e9lateurs sont ceux qui se foutent royalement de la teneur et de l\u2019int\u00e9r\u00eat des textes, ils veulent juste remplir \u00e0 moindres frais les espaces gris d\u00e9di\u00e9s aux mots, un peu comme avec le faux texte \u00abLorem Ipsum\u00bb utilis\u00e9 par les maquettistes pour caler une mise en page. Le danger des IA n\u2019est pas, comme ont voulu le faire croire les transhumanistes, l\u2019\u00e9mergence d\u2019une super-intelligence capable de surpasser toute l\u2019humanit\u00e9 pour l\u2019asservir d\u2019une mani\u00e8re ou d\u2019une autre, mais peut-\u00eatre bien la m\u00e9diocrit\u00e9 de ton simulacre de pens\u00e9e qu\u2019on cherche aujourd\u2019hui \u00e0 imposer au monde comme un progr\u00e8s.<\/p>\n","protected":false},"excerpt":{"rendered":"

Cher ChatGPT, tu es une escroquerie… Lettre ouverte par\u00a0Erwan Cario publi\u00e9 le 19 juin 2023 dans Liberation Cher ChatGPT, puisqu\u2019il est commun de s\u2019adresser ainsi directement \u00e0 toi, permets-moi de le faire sur un autre format que celui du \u00abprompt\u00bb. Cher\u00a0ChatGPT, tu es une escroquerie. Ne te m\u00e9prends pas, je suis convaincu que tu es\u00a0le […]<\/p>\n","protected":false},"author":3,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[8],"tags":[],"class_list":["post-832","post","type-post","status-publish","format-standard","hentry","category-i-a"],"_links":{"self":[{"href":"https:\/\/virtualperson.org\/deja-vu\/wp-json\/wp\/v2\/posts\/832","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/virtualperson.org\/deja-vu\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/virtualperson.org\/deja-vu\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/virtualperson.org\/deja-vu\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/virtualperson.org\/deja-vu\/wp-json\/wp\/v2\/comments?post=832"}],"version-history":[{"count":5,"href":"https:\/\/virtualperson.org\/deja-vu\/wp-json\/wp\/v2\/posts\/832\/revisions"}],"predecessor-version":[{"id":841,"href":"https:\/\/virtualperson.org\/deja-vu\/wp-json\/wp\/v2\/posts\/832\/revisions\/841"}],"wp:attachment":[{"href":"https:\/\/virtualperson.org\/deja-vu\/wp-json\/wp\/v2\/media?parent=832"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/virtualperson.org\/deja-vu\/wp-json\/wp\/v2\/categories?post=832"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/virtualperson.org\/deja-vu\/wp-json\/wp\/v2\/tags?post=832"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}