{"id":3842,"date":"2023-04-01T11:28:16","date_gmt":"2023-04-01T09:28:16","guid":{"rendered":"http:\/\/t-pas-net.com\/librCritN\/?p=3842"},"modified":"2023-04-01T11:29:30","modified_gmt":"2023-04-01T09:29:30","slug":"chronique-sebastien-ecorce-ne-pas-ignorer-les-risques-reels-de-lia","status":"publish","type":"post","link":"https:\/\/t-pas-net.com\/librCritN\/2023\/04\/01\/chronique-sebastien-ecorce-ne-pas-ignorer-les-risques-reels-de-lia\/","title":{"rendered":"[Chronique] S\u00e9bastien Ecorce, Ne pas ignorer les risques r\u00e9els de l&rsquo;IA"},"content":{"rendered":"<p style=\"font-weight: 400; text-align: justify;\">Le Future of Life Institute a publi\u00e9 une lettre ouverte demandant une pause de six mois dans la formation de mod\u00e8les linguistiques \u00ab\u00a0plus puissants que\u00a0\u00bb le GPT-4. Plus de 1 000 chercheurs, technologues et personnalit\u00e9s ont d\u00e9j\u00e0 sign\u00e9 la lettre. La lettre tire la sonnette d&rsquo;alarme sur de nombreux risques li\u00e9s \u00e0 l&rsquo;IA : \u00ab\u00a0Devrions-nous laisser les machines inonder nos canaux d&rsquo;information de propagande et de mensonges ? Devrions-nous automatiser tous les emplois, y compris ceux qui sont gratifiants ? Devrions-nous d\u00e9velopper des esprits non humains qui pourraient un jour \u00eatre plus nombreux, plus intelligents, plus obsol\u00e8tes et nous remplacer ? Devrions-nous risquer de perdre le contr\u00f4le de notre civilisation ?\u00a0\u00bb<\/p>\n<p style=\"font-weight: 400; text-align: justify;\">Nous sommes d&rsquo;accord pour dire que la d\u00e9sinformation, l&rsquo;impact sur la main-d&rsquo;\u0153uvre et la s\u00e9curit\u00e9 sont trois des principaux risques de l&rsquo;IA. Malheureusement, dans chaque cas, la lettre pr\u00e9sente un risque sp\u00e9culatif et futuriste, en ignorant la version du probl\u00e8me qui nuit d\u00e9j\u00e0 aux gens. Elle d\u00e9tourne l&rsquo;attention des vrais probl\u00e8mes et rend plus difficile leur r\u00e9solution. La lettre pr\u00e9sente un \u00e9tat d&rsquo;esprit de confinement analogue au risque nucl\u00e9aire, mais cela ne peut convenir \u00e0 l\u2019analyse des risques et enjeux li\u00e9s \u00e0 l&rsquo;IA. Elle fait en ce sens le jeu des entreprises, des acteurs qu&rsquo;elle a par ailleurs \u00e0 r\u00e9glementer.<\/p>\n<p style=\"font-weight: 400; text-align: justify;\"><strong>Risques sp\u00e9culatifs :<\/strong> D\u00e9sinformation malveillante, les IA remplaceront tous les emplois, risques existentiels \u00e0 long terme. Risques r\u00e9els : D\u00e9pendance excessive \u00e0 l&rsquo;\u00e9gard d&rsquo;outils impr\u00e9cis, pouvoir centralis\u00e9, exploitation de la main-d&rsquo;\u0153uvre, risques de s\u00e9curit\u00e9 \u00e0 court terme.<\/p>\n<p style=\"text-align: center;\"><img loading=\"lazy\" decoding=\"async\" class=\"aligncenter size-full wp-image-3844\" src=\"http:\/\/t-pas-net.com\/librCritN\/wp-content\/uploads\/2023\/04\/DangerIA.jpg\" alt=\"\" width=\"540\" height=\"410\" srcset=\"https:\/\/t-pas-net.com\/librCritN\/wp-content\/uploads\/2023\/04\/DangerIA.jpg 540w, https:\/\/t-pas-net.com\/librCritN\/wp-content\/uploads\/2023\/04\/DangerIA-300x228.jpg 300w, https:\/\/t-pas-net.com\/librCritN\/wp-content\/uploads\/2023\/04\/DangerIA-150x114.jpg 150w, https:\/\/t-pas-net.com\/librCritN\/wp-content\/uploads\/2023\/04\/DangerIA-366x278.jpg 366w\" sizes=\"auto, (max-width: 540px) 100vw, 540px\" \/><\/p>\n<p>&nbsp;<\/p>\n<p style=\"font-weight: 400; text-align: center;\"><strong>Pr\u00e9judice sp\u00e9culatif 1<\/strong> : campagnes de d\u00e9sinformation malveillantes.<\/p>\n<p style=\"font-weight: 400; text-align: justify;\">Devrions-nous laisser les machines inonder nos canaux d&rsquo;information de propagande et de contre-v\u00e9rit\u00e9s ?<\/p>\n<p style=\"font-weight: 400; text-align: justify;\">La lettre fait r\u00e9f\u00e9rence \u00e0 une affirmation assez courante : Les IA conduiront \u00e0 un d\u00e9luge de propagande puisqu&rsquo;ils donnent aux acteurs malveillants les outils pour automatiser la cr\u00e9ation de d\u00e9sinformation. Mais comme nous l&rsquo;avons d\u00e9j\u00e0 dit, il ne suffit pas de cr\u00e9er de la d\u00e9sinformation pour la propager. La distribution de la d\u00e9sinformation est la partie la plus difficile et p\u00e9rilleuse. Les IA open-source suffisamment puissantes pour g\u00e9n\u00e9rer de la d\u00e9sinformation existent \u00e9galement depuis d\u00e9j\u00e0 un certain temps ; nous n&rsquo;avons pas not\u00e9 d&rsquo;utilisation importante de ces IA pour diffuser de la d\u00e9sinformation.<\/p>\n<p style=\"font-weight: 400; text-align: justify;\">Le fait de se concentrer sur la seule d\u00e9sinformation conf\u00e8re \u00e9galement aux entreprises qui d\u00e9veloppent des IA la justification parfaite pour garder leurs mod\u00e8les verrouill\u00e9s : emp\u00eacher les acteurs malveillants de cr\u00e9er de la propagande. C&rsquo;est l&rsquo;une des raisons invoqu\u00e9es par OpenAI pour justifier l&rsquo;opacit\u00e9 sans pr\u00e9c\u00e9dent de la publication de GPT-4.<\/p>\n<p style=\"text-align: center;\"><img loading=\"lazy\" decoding=\"async\" class=\"aligncenter size-full wp-image-3846\" src=\"http:\/\/t-pas-net.com\/librCritN\/wp-content\/uploads\/2023\/04\/SashaStiles2.jpg\" alt=\"\" width=\"540\" height=\"350\" srcset=\"https:\/\/t-pas-net.com\/librCritN\/wp-content\/uploads\/2023\/04\/SashaStiles2.jpg 540w, https:\/\/t-pas-net.com\/librCritN\/wp-content\/uploads\/2023\/04\/SashaStiles2-300x194.jpg 300w, https:\/\/t-pas-net.com\/librCritN\/wp-content\/uploads\/2023\/04\/SashaStiles2-150x97.jpg 150w, https:\/\/t-pas-net.com\/librCritN\/wp-content\/uploads\/2023\/04\/SashaStiles2-366x237.jpg 366w\" sizes=\"auto, (max-width: 540px) 100vw, 540px\" \/><\/p>\n<p>&nbsp;<\/p>\n<p style=\"font-weight: 400; text-align: center;\"><strong>Premier pr\u00e9judice r\u00e9el<\/strong> : la d\u00e9sinformation due \u00e0 l&rsquo;utilisation imprudente des outils d&rsquo;IA.<\/p>\n<p style=\"font-weight: 400; text-align: justify;\">En revanche, la v\u00e9ritable raison pour laquelle les IA constituent un risque pour l&rsquo;information est la d\u00e9pendance excessive et le biais d&rsquo;automatisation. Le biais d&rsquo;automatisation est la tendance qu&rsquo;ont les gens \u00e0 trop se fier aux syst\u00e8mes automatis\u00e9s. Les IA ne sont pas form\u00e9es pour produire la v\u00e9rit\u00e9 ; elles produisent des d\u00e9clarations \u00e0 consonance plausible. Cependant, les utilisateurs peuvent toujours se fier aux IA dans les cas o\u00f9 l&rsquo;exactitude des faits est importante.<\/p>\n<p style=\"font-weight: 400; text-align: justify;\">Prenons l&rsquo;exemple du fil de discussion viral sur Twitter concernant le chien qui a \u00e9t\u00e9 sauv\u00e9 parce que ChatGPT a donn\u00e9 le bon diagnostic m\u00e9dical. Dans ce cas, ChatGPT a \u00e9t\u00e9 utile. Mais nous n&rsquo;entendrons pas parler de la myriade d&rsquo;autres exemples o\u00f9 ChatGPT a port\u00e9 pr\u00e9judice \u00e0 quelqu&rsquo;un en raison d&rsquo;un diagnostic erron\u00e9. De m\u00eame, le CNET a utilis\u00e9 un outil automatis\u00e9 pour r\u00e9diger 77 articles contenant des conseils financiers. Ils ont par la suite cern\u00e9 des erreurs dans 41 de ces 77 articles.<\/p>\n<p style=\"font-weight: 400; text-align: center;\"><img loading=\"lazy\" decoding=\"async\" class=\"aligncenter size-full wp-image-3847\" src=\"http:\/\/t-pas-net.com\/librCritN\/wp-content\/uploads\/2023\/04\/ChatGPT.jpg\" alt=\"\" width=\"540\" height=\"380\" srcset=\"https:\/\/t-pas-net.com\/librCritN\/wp-content\/uploads\/2023\/04\/ChatGPT.jpg 540w, https:\/\/t-pas-net.com\/librCritN\/wp-content\/uploads\/2023\/04\/ChatGPT-300x211.jpg 300w, https:\/\/t-pas-net.com\/librCritN\/wp-content\/uploads\/2023\/04\/ChatGPT-150x106.jpg 150w, https:\/\/t-pas-net.com\/librCritN\/wp-content\/uploads\/2023\/04\/ChatGPT-366x258.jpg 366w\" sizes=\"auto, (max-width: 540px) 100vw, 540px\" \/><\/p>\n<p>&nbsp;<\/p>\n<p style=\"font-weight: 400; text-align: center;\"><strong>Pr\u00e9judice sp\u00e9culatif 2<\/strong> : les IA vont rendre tous les emplois obsol\u00e8tes.<\/p>\n<p style=\"font-weight: 400; text-align: justify;\">Devrions-nous automatiser tous les emplois, y compris ceux qui sont gratifiants ?<\/p>\n<p style=\"font-weight: 400; text-align: justify;\">La publication de GPT-4 a fait l&rsquo;objet d&rsquo;un grand battage m\u00e9diatique en raison de ses performances lors d&rsquo;examens humains, tels que le barreau et l&rsquo;USMLE. La lettre prend les affirmations de l&rsquo;OpenAI au pied de la lettre : elle cite le document GPT-4 de l&rsquo;OpenAI pour affirmer que \u00ab\u00a0les syst\u00e8mes d&rsquo;IA contemporains deviennent maintenant comp\u00e9titifs pour les humains dans les t\u00e2ches g\u00e9n\u00e9rales\u00a0\u00bb. Mais tester les IA sur des benchmarks con\u00e7us pour les humains ne nous dit pas grand-chose sur leur utilit\u00e9 dans le monde r\u00e9el.<\/p>\n<p style=\"font-weight: 400; text-align: justify;\">Il s&rsquo;agit l\u00e0 d&rsquo;un exemple typique critique. La lettre rappelle ostensiblement le d\u00e9ploiement imprudent des IA, mais elle exag\u00e8re simultan\u00e9ment leurs capacit\u00e9s et les d\u00e9peignent comme beaucoup plus puissantes qu\u2019elles ne le sont en r\u00e9alit\u00e9. Cela aide \u00e0 nouveau par retour les entreprises en les pr\u00e9sentant comme des cr\u00e9ateurs d&rsquo;outils hors du commun.<\/p>\n<div id=\"attachment_3848\" style=\"width: 550px\" class=\"wp-caption aligncenter\"><img loading=\"lazy\" decoding=\"async\" aria-describedby=\"caption-attachment-3848\" class=\"size-full wp-image-3848\" src=\"http:\/\/t-pas-net.com\/librCritN\/wp-content\/uploads\/2023\/04\/MarioKlingermann.jpg\" alt=\"\" width=\"540\" height=\"320\" srcset=\"https:\/\/t-pas-net.com\/librCritN\/wp-content\/uploads\/2023\/04\/MarioKlingermann.jpg 540w, https:\/\/t-pas-net.com\/librCritN\/wp-content\/uploads\/2023\/04\/MarioKlingermann-300x178.jpg 300w, https:\/\/t-pas-net.com\/librCritN\/wp-content\/uploads\/2023\/04\/MarioKlingermann-150x89.jpg 150w, https:\/\/t-pas-net.com\/librCritN\/wp-content\/uploads\/2023\/04\/MarioKlingermann-366x217.jpg 366w\" sizes=\"auto, (max-width: 540px) 100vw, 540px\" \/><p id=\"caption-attachment-3848\" class=\"wp-caption-text\">Mario Klingermann<\/p><\/div>\n<p>&nbsp;<\/p>\n<p style=\"font-weight: 400; text-align: center;\"><strong>Deuxi\u00e8me pr\u00e9judice r\u00e9el<\/strong> : les outils d&rsquo;IA exploitent la main-d&rsquo;\u0153uvre et transf\u00e8rent le pouvoir aux entreprises.<\/p>\n<p style=\"font-weight: 400; text-align: justify;\">L&rsquo;impact r\u00e9el de l&rsquo;IA sera probablement plus subtil : Les outils d&rsquo;IA \u00e9loigneront le pouvoir des travailleurs et le centraliseront entre les mains de quelques entreprises. L&rsquo;IA g\u00e9n\u00e9rative pour la cr\u00e9ation artistique en est un exemple assez marquant. Les entreprises qui cr\u00e9ent des outils de conversion de texte en image ont utilis\u00e9 le travail d&rsquo;artistes sans les r\u00e9mun\u00e9rer ni les cr\u00e9diter. Autre exemple : les travailleurs qui filtraient le contenu toxique des entr\u00e9es et sorties de ChatGPT \u00e9taient pay\u00e9s moins de 2 USD\/heure.<\/p>\n<p style=\"font-weight: 400; text-align: justify;\">L&rsquo;arr\u00eat du d\u00e9veloppement de nouvelles IA ne contribue en rien \u00e0 r\u00e9parer les pr\u00e9judices caus\u00e9s par les mod\u00e8les d\u00e9j\u00e0 d\u00e9ploy\u00e9s. Une fa\u00e7on de rendre service aux artistes serait de taxer les entreprises d&rsquo;IA et d&rsquo;utiliser cette contribution pour augmenter le financement des arts. Malheureusement, la volont\u00e9 politique d&rsquo;envisager de telles options fait particuli\u00e8rement d\u00e9faut. Les interventions qui procurent et propagent un sentiment de bien-\u00eatre, ou d\u2019auto-satisfaction comme appuyer sur le bouton \u00ab\u00a0pause\u00a0\u00bb, d\u00e9tournent ainsi l&rsquo;attention et la port\u00e9e salutaire de ces d\u00e9bats politiques difficiles.<\/p>\n<p style=\"font-weight: 400; text-align: center;\"><img loading=\"lazy\" decoding=\"async\" class=\"aligncenter size-full wp-image-3849\" src=\"http:\/\/t-pas-net.com\/librCritN\/wp-content\/uploads\/2023\/04\/SashaStiles1.jpg\" alt=\"\" width=\"540\" height=\"410\" srcset=\"https:\/\/t-pas-net.com\/librCritN\/wp-content\/uploads\/2023\/04\/SashaStiles1.jpg 540w, https:\/\/t-pas-net.com\/librCritN\/wp-content\/uploads\/2023\/04\/SashaStiles1-300x228.jpg 300w, https:\/\/t-pas-net.com\/librCritN\/wp-content\/uploads\/2023\/04\/SashaStiles1-150x114.jpg 150w, https:\/\/t-pas-net.com\/librCritN\/wp-content\/uploads\/2023\/04\/SashaStiles1-366x278.jpg 366w\" sizes=\"auto, (max-width: 540px) 100vw, 540px\" \/><\/p>\n<p>&nbsp;<\/p>\n<p style=\"font-weight: 400; text-align: center;\"><strong>Pr\u00e9judice sp\u00e9culatif 3<\/strong> : risques existentiels \u00e0 long terme.<\/p>\n<p style=\"font-weight: 400; text-align: justify;\">Devrions-nous d\u00e9velopper des esprits non humains qui pourraient un jour \u00eatre plus nombreux, plus intelligents, plus obsol\u00e8tes et nous remplacer ? Devrions-nous risquer de perdre le contr\u00f4le de notre civilisation ?<\/p>\n<p style=\"font-weight: 400; text-align: justify;\">Les risques catastrophiques \u00e0 long terme li\u00e9s \u00e0 l&rsquo;IA ne datent pas d&rsquo;hier. La science-fiction nous a d\u00e9j\u00e0 habitu\u00e9s \u00e0 penser \u00e0 un corpus imaginaire de \u00ab\u00a0terminators\u00a0\u00bb et autres \u00ab\u00a0robots tueurs\u00a0\u00bb. Dans la communaut\u00e9 de l&rsquo;IA, ces pr\u00e9occupations ont \u00e9t\u00e9 exprim\u00e9es sous la forme d&rsquo;un risque de nature existentiel ou d&rsquo;un risque x, et se refl\u00e8tent dans les inqui\u00e9tudes exprim\u00e9es dans la lettre au sujet de la perte de contr\u00f4le de la civilisation. Nous reconnaissons la n\u00e9cessit\u00e9 de r\u00e9fl\u00e9chir \u00e0 l&rsquo;impact \u00e0 long terme de l&rsquo;IA. Mais ces inqui\u00e9tudes li\u00e9es \u00e0 ce fond science-fictionnel ont aspir\u00e9 l&rsquo;oxyg\u00e8ne et d\u00e9tourn\u00e9 les ressources des risques r\u00e9els et urgents li\u00e9s \u00e0 l&rsquo;IA, y compris les risques tangibles pour la s\u00e9curit\u00e9.<\/p>\n<p style=\"font-weight: 400; text-align: center;\"><img loading=\"lazy\" decoding=\"async\" class=\"aligncenter size-full wp-image-3850\" src=\"http:\/\/t-pas-net.com\/librCritN\/wp-content\/uploads\/2023\/04\/AI.jpg\" alt=\"\" width=\"540\" height=\"320\" srcset=\"https:\/\/t-pas-net.com\/librCritN\/wp-content\/uploads\/2023\/04\/AI.jpg 540w, https:\/\/t-pas-net.com\/librCritN\/wp-content\/uploads\/2023\/04\/AI-300x178.jpg 300w, https:\/\/t-pas-net.com\/librCritN\/wp-content\/uploads\/2023\/04\/AI-150x89.jpg 150w, https:\/\/t-pas-net.com\/librCritN\/wp-content\/uploads\/2023\/04\/AI-366x217.jpg 366w\" sizes=\"auto, (max-width: 540px) 100vw, 540px\" \/><\/p>\n<p>&nbsp;<\/p>\n<p style=\"font-weight: 400; text-align: center;\"><strong>Troisi\u00e8me danger r\u00e9el <\/strong>: les risques de s\u00e9curit\u00e9 \u00e0 court terme.<\/p>\n<p style=\"font-weight: 400; text-align: justify;\">Une ing\u00e9nierie assez rapide a d\u00e9j\u00e0 permis \u00e0 des utilisateurs de divulguer des d\u00e9tails confidentiels sur pratiquement tous les chatbots qui ont \u00e9t\u00e9 lanc\u00e9s jusqu&rsquo;\u00e0 pr\u00e9sent. Au fur et \u00e0 mesure que des outils comme ChatGPT sont int\u00e9gr\u00e9s dans des applications r\u00e9elles, ces risques pour la s\u00e9curit\u00e9 deviennent de plus en plus graves. Les assistants personnels bas\u00e9s sur des IA pourraient \u00eatre pirat\u00e9s pour r\u00e9v\u00e9ler des donn\u00e9es personnelles, prendre des mesures pr\u00e9judiciables dans le monde r\u00e9el telles que l&rsquo;arr\u00eat de syst\u00e8mes, ou m\u00eame donner naissance \u00e0 des vers qui se propagent sur l&rsquo;internet par l&rsquo;interm\u00e9diaire des LLM. Plus important encore, ces risques de s\u00e9curit\u00e9 n&rsquo;exigent pas un saut dans les capacit\u00e9s des mod\u00e8les \u2013 les mod\u00e8les existants y sont vuln\u00e9rables.<\/p>\n<p style=\"font-weight: 400; text-align: justify;\">Le traitement des risques de s\u00e9curit\u00e9 n\u00e9cessitera une collaboration et une coop\u00e9ration avec le monde universitaire. Malheureusement, le battage m\u00e9diatique focalisant de cette lettre \u2013 l&rsquo;exag\u00e9ration des capacit\u00e9s et des risques existentiels \u2013 conduira probablement \u00e0 verrouiller encore plus les mod\u00e8les, ce qui rendra plus difficile la prise en compte r\u00e9elle des risques.<\/p>\n<p style=\"font-weight: 400; text-align: justify;\">La mentalit\u00e9 de confinement ne convient pas \u00e0 l&rsquo;IA g\u00e9n\u00e9rative.<\/p>\n<p style=\"font-weight: 400; text-align: justify;\">La lettre pr\u00e9sente le risque li\u00e9 \u00e0 l&rsquo;IA comme analogue au risque nucl\u00e9aire ou au risque li\u00e9 au clonage humain. Elle pr\u00e9conise la mise en veilleuse des outils d&rsquo;IA parce que d&rsquo;autres technologies catastrophiques ont d\u00e9j\u00e0 \u00e9t\u00e9 mises en veilleuse. Mais il est peu probable qu&rsquo;une approche de confinement ne soit efficace pour l&rsquo;IA. Les IA sont des ordres de grandeur moins co\u00fbteux \u00e0 construire que les armes nucl\u00e9aires ou le clonage \u2013 et leur co\u00fbt moyen diminue plus rapidement. De plus, le savoir-faire technique n\u00e9cessaire \u00e0 leur construction est d\u00e9j\u00e0 largement r\u00e9pandu et diffus\u00e9.<\/p>\n<p style=\"font-weight: 400; text-align: justify;\">Bien que cela ne soit pas bien compris en dehors de la communaut\u00e9 technique, au cours des six derniers mois, un changement majeur s&rsquo;est op\u00e9r\u00e9 dans la recherche et la commercialisation des IA. L&rsquo;augmentation de la taille des mod\u00e8les n&rsquo;est plus le principal facteur d&rsquo;accroissement de l&rsquo;utilit\u00e9 et des capacit\u00e9s. L&rsquo;action s&rsquo;est d\u00e9port\u00e9e vers l&rsquo;encha\u00eenement et la connexion des IA au monde r\u00e9el. Les nouvelles capacit\u00e9s et les nouveaux risques d\u00e9couleront principalement des milliers d&rsquo;applications dans lesquelles les IA sont actuellement int\u00e9gr\u00e9es &#8211; et des plugins int\u00e9gr\u00e9s \u00e0 ChatGPT et \u00e0 d&rsquo;autres chatbots.<\/p>\n<p style=\"font-weight: 400; text-align: justify;\">La compression est une autre tendance technologique majeure des IA. Elles sont optimis\u00e9es pour fonctionner localement sur les appareils mobiles. Un mod\u00e8le de 4 Go bas\u00e9 sur l\u2019IA LLaMA de Meta peut fonctionner sur un Macbook Air 2020. Les capacit\u00e9s de ce mod\u00e8le sont du m\u00eame ordre que celles du GPT-3 et, bien entendu, il est connect\u00e9 \u00e0 d&rsquo;autres applications. Contenir de tels mod\u00e8les est un non-sens, car ils sont faciles \u00e0 distribuer et peuvent fonctionner sur du mat\u00e9riel grand public.<\/p>\n<p style=\"font-weight: 400; text-align: justify;\">La s\u00e9curit\u00e9 des produits et la protection des consommateurs constituent un meilleur cadre pour r\u00e9glementer les risques li\u00e9s \u00e0 l&rsquo;int\u00e9gration des IA dans les applications. Les pr\u00e9judices et les interventions varieront consid\u00e9rablement d&rsquo;une application \u00e0 l&rsquo;autre : recherche, assistants personnels, applications m\u00e9dicales, etc.<\/p>\n<p style=\"font-weight: 400; text-align: justify;\">Il est important d&rsquo;att\u00e9nuer les risques li\u00e9s \u00e0 l&rsquo;IA. Mais il est tout aussi important de r\u00e9fl\u00e9chir \u00e0 la nature de ces risques. Les solutions na\u00efves telles que les moratoires \u00e0 grande \u00e9chelle d\u00e9tournent les d\u00e9bats politiques s\u00e9rieux au profit de r\u00eaves f\u00e9briles et fantasmatiques sur l&rsquo;IAO, et sont en fin de compte contre-productives. Il est temps d&rsquo;affiner notre analyse et de la confronter aux enjeux r\u00e9els.<\/p>\n<p style=\"font-weight: 400; text-align: right;\">S\u00e9bastien Ecorce<\/p>\n<p style=\"font-weight: 400; text-align: right;\">Prof de neurobiologie, Salp\u00eatri\u00e8re, ICM,<br \/>\nco-responsable de la plateforme Neurocytolab,<br \/>\nbricoleur de mots, cr\u00e9ateur graphique<\/p>\n<p style=\"font-weight: 400;\">\n","protected":false},"excerpt":{"rendered":"<p>Le Future of Life Institute a publi\u00e9 une lettre ouverte demandant une pause de six mois dans la formation de mod\u00e8les linguistiques \u00ab\u00a0plus puissants que\u00a0\u00bb le GPT-4. Plus de 1 000 chercheurs, technologues et personnalit\u00e9s ont d\u00e9j\u00e0 sign\u00e9 la lettre. La lettre tire la sonnette d&rsquo;alarme sur de nombreux risques li\u00e9s \u00e0 l&rsquo;IA : \u00ab\u00a0Devrions-nous laisser les machines inonder nos canaux d&rsquo;information de propagande et de mensonges ? Devrions-nous automatiser tous les emplois, y compris ceux qui sont gratifiants ? Devrions-nous d\u00e9velopper des esprits non humains qui pourraient un jour \u00eatre plus nombreux, plus intelligents, plus obsol\u00e8tes et nous remplacer ? Devrions-nous risquer de perdre le contr\u00f4le de notre civilisation ?\u00a0\u00bb Nous sommes d&rsquo;accord pour dire que la d\u00e9sinformation, l&rsquo;impact sur la main-d&rsquo;\u0153uvre et la s\u00e9curit\u00e9 sont trois des principaux risques de l&rsquo;IA. Malheureusement, dans chaque cas, la lettre pr\u00e9sente un risque sp\u00e9culatif et futuriste, en ignorant la version du probl\u00e8me qui nuit d\u00e9j\u00e0 aux gens. Elle d\u00e9tourne l&rsquo;attention des vrais probl\u00e8mes et rend plus difficile leur r\u00e9solution. La lettre pr\u00e9sente un \u00e9tat d&rsquo;esprit de confinement analogue au risque nucl\u00e9aire, mais cela ne peut convenir \u00e0 l\u2019analyse des risques et enjeux li\u00e9s \u00e0 l&rsquo;IA. Elle fait en ce sens le jeu des entreprises, des acteurs qu&rsquo;elle a par ailleurs \u00e0 r\u00e9glementer. Risques sp\u00e9culatifs : D\u00e9sinformation malveillante, les IA remplaceront tous les emplois, risques existentiels \u00e0 long terme. Risques r\u00e9els : D\u00e9pendance excessive \u00e0 l&rsquo;\u00e9gard d&rsquo;outils impr\u00e9cis, pouvoir centralis\u00e9, exploitation de la main-d&rsquo;\u0153uvre, risques de s\u00e9curit\u00e9 \u00e0 court terme. &nbsp; Pr\u00e9judice sp\u00e9culatif 1 : campagnes de d\u00e9sinformation malveillantes. Devrions-nous laisser les machines inonder nos canaux d&rsquo;information de propagande et de contre-v\u00e9rit\u00e9s ? La lettre fait r\u00e9f\u00e9rence \u00e0 une affirmation assez courante : Les IA conduiront \u00e0 un d\u00e9luge de propagande puisqu&rsquo;ils donnent aux acteurs malveillants les outils pour automatiser la cr\u00e9ation de d\u00e9sinformation. Mais comme nous l&rsquo;avons d\u00e9j\u00e0 dit, il ne suffit pas de cr\u00e9er de la d\u00e9sinformation pour la propager. La distribution de la d\u00e9sinformation est la partie la plus difficile et p\u00e9rilleuse. Les IA open-source suffisamment puissantes pour g\u00e9n\u00e9rer de la d\u00e9sinformation existent \u00e9galement depuis d\u00e9j\u00e0 un certain temps ; nous n&rsquo;avons pas not\u00e9 d&rsquo;utilisation importante de ces IA pour diffuser de la d\u00e9sinformation. Le fait de se concentrer sur la seule d\u00e9sinformation conf\u00e8re \u00e9galement aux entreprises qui d\u00e9veloppent des IA la justification parfaite pour garder leurs mod\u00e8les verrouill\u00e9s : emp\u00eacher les acteurs malveillants de cr\u00e9er de la propagande. C&rsquo;est l&rsquo;une des raisons invoqu\u00e9es par OpenAI pour justifier l&rsquo;opacit\u00e9 sans pr\u00e9c\u00e9dent de la publication de GPT-4. &nbsp; Premier pr\u00e9judice r\u00e9el : la d\u00e9sinformation due \u00e0 l&rsquo;utilisation imprudente des outils d&rsquo;IA. En revanche, la v\u00e9ritable raison pour laquelle les IA constituent un risque pour l&rsquo;information est la d\u00e9pendance excessive et le biais d&rsquo;automatisation. Le biais d&rsquo;automatisation est la tendance qu&rsquo;ont les gens \u00e0 trop se fier aux syst\u00e8mes automatis\u00e9s. Les IA ne sont pas form\u00e9es pour produire la v\u00e9rit\u00e9 ; elles produisent des d\u00e9clarations \u00e0 consonance plausible. Cependant, les utilisateurs peuvent toujours se fier aux IA dans les cas o\u00f9 l&rsquo;exactitude des faits est importante. Prenons l&rsquo;exemple du fil de discussion viral sur Twitter concernant le chien qui a \u00e9t\u00e9 sauv\u00e9 parce que ChatGPT a donn\u00e9 le bon diagnostic m\u00e9dical. Dans ce cas, ChatGPT a \u00e9t\u00e9 utile. Mais nous n&rsquo;entendrons pas parler de la myriade d&rsquo;autres exemples o\u00f9 ChatGPT a port\u00e9 pr\u00e9judice \u00e0 quelqu&rsquo;un en raison d&rsquo;un diagnostic erron\u00e9. De m\u00eame, le CNET a utilis\u00e9 un outil automatis\u00e9 pour r\u00e9diger 77 articles contenant des conseils financiers. Ils ont par la suite cern\u00e9 des erreurs dans 41 de ces 77 articles. &nbsp; Pr\u00e9judice sp\u00e9culatif 2 : les IA vont rendre tous les emplois obsol\u00e8tes. Devrions-nous automatiser tous les emplois, y compris ceux qui sont gratifiants ? La publication de GPT-4 a fait l&rsquo;objet d&rsquo;un grand battage m\u00e9diatique en raison de ses performances lors d&rsquo;examens humains, tels que le barreau et l&rsquo;USMLE. La lettre prend les affirmations de l&rsquo;OpenAI au pied de la lettre : elle cite le document GPT-4 de l&rsquo;OpenAI pour affirmer que \u00ab\u00a0les syst\u00e8mes d&rsquo;IA contemporains deviennent maintenant comp\u00e9titifs pour les humains dans les t\u00e2ches g\u00e9n\u00e9rales\u00a0\u00bb. Mais tester les IA sur des benchmarks con\u00e7us pour les humains ne nous dit pas grand-chose sur leur utilit\u00e9 dans le monde r\u00e9el. Il s&rsquo;agit l\u00e0 d&rsquo;un exemple typique critique. La lettre rappelle ostensiblement le d\u00e9ploiement imprudent des IA, mais elle exag\u00e8re simultan\u00e9ment leurs capacit\u00e9s et les d\u00e9peignent comme beaucoup plus puissantes qu\u2019elles ne le sont en r\u00e9alit\u00e9. Cela aide \u00e0 nouveau par retour les entreprises en les pr\u00e9sentant comme des cr\u00e9ateurs d&rsquo;outils hors du commun. &nbsp; Deuxi\u00e8me pr\u00e9judice r\u00e9el : les outils d&rsquo;IA exploitent la main-d&rsquo;\u0153uvre et transf\u00e8rent le pouvoir aux entreprises. L&rsquo;impact r\u00e9el de l&rsquo;IA sera probablement plus subtil : Les outils d&rsquo;IA \u00e9loigneront le pouvoir des travailleurs et le centraliseront entre les mains de quelques entreprises. L&rsquo;IA g\u00e9n\u00e9rative pour la cr\u00e9ation artistique en est un exemple assez marquant. Les entreprises qui cr\u00e9ent des outils de conversion de texte en image ont utilis\u00e9 le travail d&rsquo;artistes sans les r\u00e9mun\u00e9rer ni les cr\u00e9diter. Autre exemple : les travailleurs qui filtraient le contenu toxique des entr\u00e9es et sorties de ChatGPT \u00e9taient pay\u00e9s moins de 2 USD\/heure. L&rsquo;arr\u00eat du d\u00e9veloppement de nouvelles IA ne contribue en rien \u00e0 r\u00e9parer les pr\u00e9judices caus\u00e9s par les mod\u00e8les d\u00e9j\u00e0 d\u00e9ploy\u00e9s. Une fa\u00e7on de rendre service aux artistes serait de taxer les entreprises d&rsquo;IA et d&rsquo;utiliser cette contribution pour augmenter le financement des arts. Malheureusement, la volont\u00e9 politique d&rsquo;envisager de telles options fait particuli\u00e8rement d\u00e9faut. Les interventions qui procurent et propagent un sentiment de bien-\u00eatre, ou d\u2019auto-satisfaction comme appuyer sur le bouton \u00ab\u00a0pause\u00a0\u00bb, d\u00e9tournent ainsi l&rsquo;attention et la port\u00e9e salutaire de ces d\u00e9bats politiques difficiles. &nbsp; Pr\u00e9judice sp\u00e9culatif 3 : risques existentiels \u00e0 long terme. Devrions-nous d\u00e9velopper des esprits non humains qui pourraient un jour \u00eatre plus nombreux, plus intelligents, plus obsol\u00e8tes et nous remplacer ? Devrions-nous risquer de perdre le contr\u00f4le de notre civilisation ? Les risques catastrophiques \u00e0 long terme li\u00e9s \u00e0 l&rsquo;IA ne datent pas d&rsquo;hier. La science-fiction nous a d\u00e9j\u00e0 habitu\u00e9s \u00e0 penser&#8230;<\/p>\n","protected":false},"author":1,"featured_media":3843,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[35,2],"tags":[1943,1944,31],"class_list":["post-3842","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-chronique","category-une","tag-dangers-de-ia","tag-ecorce-critique-sociale","tag-ecorce-sebastien"],"post_mailing_queue_ids":[],"_links":{"self":[{"href":"https:\/\/t-pas-net.com\/librCritN\/wp-json\/wp\/v2\/posts\/3842","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/t-pas-net.com\/librCritN\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/t-pas-net.com\/librCritN\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/t-pas-net.com\/librCritN\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/t-pas-net.com\/librCritN\/wp-json\/wp\/v2\/comments?post=3842"}],"version-history":[{"count":2,"href":"https:\/\/t-pas-net.com\/librCritN\/wp-json\/wp\/v2\/posts\/3842\/revisions"}],"predecessor-version":[{"id":3851,"href":"https:\/\/t-pas-net.com\/librCritN\/wp-json\/wp\/v2\/posts\/3842\/revisions\/3851"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/t-pas-net.com\/librCritN\/wp-json\/wp\/v2\/media\/3843"}],"wp:attachment":[{"href":"https:\/\/t-pas-net.com\/librCritN\/wp-json\/wp\/v2\/media?parent=3842"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/t-pas-net.com\/librCritN\/wp-json\/wp\/v2\/categories?post=3842"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/t-pas-net.com\/librCritN\/wp-json\/wp\/v2\/tags?post=3842"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}