[Chronique] Sébastien Ecorce, Pandémie et dépendance à l’écosystème numérique

En ce qui concerne les technologies numériques et la COVID-19, la grande majorité des débats s’est concentrée sur les applications de recherche de contacts. Bien que fondamentale, cette focalisation étroite a occulté des effets plus centraux et de grande portée à l’intersection de la technologie numérique, de la surveillance et de la riposte à une pandémie. Alors que nous nous fixons sur les mérites de telle ou telle application, nous avons raté dans le même temps l’ensemble d’un paysage qui évolue sous nos pieds.

En grande partie sans débat public – et en l’absence de nouvelles sauvegardes – nous sommes devenus encore plus dépendants d’un écosystème technologique notoirement peu sûr, mal réglementé, hautement invasif et sujet aux abus en série. Ce serait un peu comme construire au deuxième étage de nos maisons sans réparer l’infrastructure en décomposition. Finalement, tout finira par l’effondrement – ou nous rendra lentement malades.

Considérez le cas Amazon. Le succès de l’entreprise au milieu du COVID-19 devient évident simplement en regardant par la fenêtre l’invasion des fourgonnettes de livraison perchées sur les trottoirs et garées sur des pistes cyclables, livrant des colis aux bureaux à domicile de fortune.

Autrefois revendeur de livres et de DVD en démarrage, Amazon est devenu l’incarnation corporative de la mondialisation et du capitalisme de surveillance. Avec des magasins et des centres commerciaux pour la plupart fermés, les services en ligne d’Amazon ont explosé.

Mais cette croissance soudaine ne fait qu’exacerber les pathologies existantes d’Amazon. Ils comprennent les prix d’éviction de l’entreprise, les pratiques monopolistiques et les conditions de travail lamentables pour son entrepôt et son personnel de livraison. Ces travailleurs dits « flexibles » manquent de soins de santé ou d’autres avantages et sont soumis à une surveillance étendue, y compris un logiciel de navigation, des bracelets, des caméras de sécurité et des caméras thermiques (probablement autant pour la prévention de l’organisation syndicale que pour la « sécurité »). La société est également responsable de la prolifération de Ring, un système de sécurité domestique notoire associé au profilage racial et au partage de données sans mandat avec les forces de l’ordre, ainsi que ses vastes « fermes de données », gaspilleuses et hautement polluantes (qui alimentent des services de streaming vidéo tels que Prime et Netflix) – notées « F » pour la transparence énergétique par Greenpeace en 2017.

Pendant ce temps, les startups technologiques de toutes formes et tailles – le plus souvent avec des qualifications douteuses – tentent de capitaliser sur la demande croissante de technologie pour espionner les travailleurs à la maison (surnommée « bossware »), mettre fin aux syndicats, renforcer la productivité, surveiller les symptômes, distancer physiquement la police, détecter les émotions et, oui, surveiller les examens à distance. Cette gamme ahurissante de nouveaux bracelets numériques, moniteurs de cheville électroniques, applications de passeport d’immunité, lunettes de détection de fièvre, drones, caméras thermiques et systèmes de capture vidéo et audio n’est pas soumise à des audits approfondis, ni conçue pour protéger la confidentialité. A l’inverse, ils sont l’équivalent numérique de « l’huile de serpent » qui cherche à gagner rapidement de l’argent sur l’économie de la surveillance en pleine expansion.

Cette explosion des applications de l’ère pandémique amplifiera invariablement les défauts de l’industrie du marketing mobile et du suivi de localisation – un secteur composé principalement d’entreprises de bas niveau dont le modèle commercial repose sur la collecte de milliards de points de données générés par les utilisateurs, plus tard vendus et reconditionnés par les annonceurs, les forces de l’ordre, l’armée, les douanes et les services frontaliers et les services de sécurité privés (sans oublier les chasseurs de primes et autres personnages douteux). Un nombre choquant d’entrepreneurs et de décideurs politiques se tournent néanmoins vers ce cloaque d’entreprises parasites – mal réglementées et très sujettes aux abus – comme solution proposée en cas de pandémie.

Il est évident que l’ensemble de l’écosystème présente une aubaine pour les petits criminels, les opportunistes de ransomware, les sociétés de logiciels espions et les espions très sophistiqués des États-nations. Pendant ce temps, les forces de l’ordre et d’autres organismes publics – déjà de plus en plus habitués à récolter de données numériques avec un contrôle judiciaire faible – bénéficieront d’une multitude d’informations nouvelles et révélatrices sur les citoyens sans aucune nouvelle garantie pour empêcher les abus de ce pouvoir.

Certains affirment que ce cycle d’innovation de l’ère COVID-19 passera une fois qu’il y aura un vaccin. Mais plus nous embrassons et nous habituons à ces nouvelles applications, plus leurs tentacules pénètrent profondément dans notre vie quotidienne et plus il sera difficile de revenir en arrière. La « nouvelle normalité » qui émergera après le COVID-19 n’est pas une application unique de suivi des contacts sur mesure. C’est plutôt un monde qui normalise les outils de surveillance à distance tels que Proctorio, où les maisons privées sont transformées en lieux de travail surveillés de manière omniprésente et où les startups biométriques louches et les sociétés d’analyse de données se nourrissent et infusent les financements de l’économie de la biosurveillance.

Il existe sans aucun doute des aspects positifs des technologies numériques. Mais, tels qu’ils sont actuellement constitués, ces avantages sont largement compensés par les nombreuses conséquences négatives à long terme que nous risquons sans débat public sérieux et qui reviendront presque certainement nous hanter dès lors que cette « nouvelle normalité » s’installe.

Quelle pourrait être l’alternative ? Une approche différente utiliserait la crise historique que la pandémie présente comme une opportunité de réinitialisation et de repenser l’ensemble de l’écosystème technologique à partir de zéro. Pendant trop longtemps, les entreprises de surveillance des données ont été largement isolées des réglementations gouvernementales. Mais cela a eu un coût social majeur et de nombreuses conséquences involontaires. Les technologies numériques étant désormais une « bouée de sauvetage » et un service essentiel pour ceux qui doivent s’adapter à la fois au travail et à la vie à la maison, les consommateurs et les citoyens ont le droit d’exiger davantage. Que pourraient impliquer ces demandes ?

Premièrement, et surtout, nous devons nettoyer le puisard des sociétés de courtage de données, de publicité et de localisation. De nouvelles lois devraient être adoptées pour donner aux utilisateurs un réel pouvoir et restreindre la manière dont les entreprises technologiques collectent, traitent et traitent leurs informations personnelles. Cela inclut des mesures « opt-in » significatives et faciles à comprendre, des règles pour minimiser le type de données collectées à des fins spécifiques et justifiables, et de meilleures possibilités pour les utilisateurs de poursuivre les entreprises qui transgressent ces lois. En particulier, la législation devrait permettre aux consommateurs de restreindre l’utilisation des données de géolocalisation par des tiers, interdisant la publicité ciblée aux utilisateurs visitant des thérapeutes, des cliniques et d’autres activités « hors de votre entreprise ».

Deuxièmement, les droits des travailleurs « flexibles », des entrepreneurs indépendants et des autres travailleurs de « l’économie des petits boulots » nécessitent une protection juridique significative. Les grandes plateformes technologiques et autres entreprises ne devraient pas être en mesure d’utiliser le COVID-19 comme excuse pour espionner les travailleurs dans les entrepôts, les usines, les voitures de location et les maisons, ou pour surveiller clandestinement leurs flux sur les réseaux sociaux susceptibles de perturber l’organisation du travail. Les PDG des grandes technologies et leurs actionnaires devraient également être obligés d’utiliser la nouvelle prospérité qu’ils récoltent grâce au COVID-19 pour améliorer la vie de leurs employés. Il est à la fois grotesque et contraire à l’éthique que les Jeff Bezos du monde puissent faire exploser leur richesse personnelle alors que leurs travailleurs de première ligne subissent des licenciements, des heures plus longues, moins d’avantages sociaux, des risques sanitaires disproportionnés et des mesures de surveillance déshumanisantes.

Troisièmement, les plates-formes technologiques devraient être légalement tenues d’ouvrir leurs algorithmes et autres technologies propriétaires à un examen extérieur et à des audits d’intérêt public. Les géants du capitalisme de surveillance détiennent un pouvoir considérable sur nos vies, y compris sur les choix que nous faisons, les produits que nous achetons, les nouvelles que nous voyons et les personnes avec lesquelles nous nous associons. Ces plates-formes sont devenues de plus en plus essentielles à presque tout ce que nous faisons, et elles ne devraient plus être en mesure de fonctionner comme des « boîtes noires » dont le fonctionnement interne demeure obscurci à tous, sauf à quelques privilégiés. Il est temps d’ouvrir le couvercle des technologies qui nous entourent.

Enfin, nous pouvons tous faire quelque chose. Nous nous sommes tous habitués à rechercher des solutions techniques dans le cadre de problèmes sociaux et politiques complexes. Et si les technologies peuvent produire d’énormes avantages, nous aurons besoin de bien plus que quelques nouveaux gadgets (ou artifices) pour résoudre les problèmes de notre temps. Nous devons résister à la tentation de nous tourner par réflexe vers les « applications » et les « plates-formes » alors qu’il existe d’autres moyens plus traditionnels et finalement plus enrichissants d’organiser nos vies, de répondre aux problèmes sociaux et d’atteindre nos objectifs.

Contrairement à de nombreux autres secteurs industriels, les plateformes technologiques sont sorties de la pandémie plus forte et se positionnent déjà comme indispensables à la santé publique. Il est temps de les tenir, ainsi que nous tous, pour en rendre compte.

Sébastien Ecorce, Prof. de Neurobiologie (Salpêtrière : Icm), enseignant chercheur