Géopolitique de l’intelligence artificielle
Le capitalisme de surveillance, démocraties algorithmiques et un horizon d’États techno-colonisés

Introduction

Les développements de l’intelligence artificielle (IA) sont appelés à provoquer des changements profonds sur la vie quotidienne des personnes. A la maison, au travail, dans les finances, dans les moments de loisir. Telle qu’annoncée, rien ne restera en dehors de son impact irrésistible. Ce sont des outils qui gèrent l’information à travers des algorithmes dans des quantités et à une vitesse qui dépasse la capacité du cerveau humain. Et qui représentent le chaînon le plus récent de la matrice techno-hégémonique qui articule l’ordre systémique mondial émergent. Cette matrice se nourrit des technologies de l’information et de la communication (Tics) qui ont converti l’information en un facteur de production essentiel et dont l’application, massive et intensive, va habiliter un scénario géopolitique inédit, signé par la bataille pour l’obtention, la manipulation et l’utilisation de grands volumes de données (Big Data). Ce processus de changement technologique crée un nouveau paradigme. Une phrase à l’usage des experts décrit cette nouvelle réalité : « Le Big Data sera le pétrole du XXIe Siècle ». La matière essentielle d’un nouveau type de capitalisme dans le cadre du processus décrit comme « révolution informationnelle ». La vitesse, l’étendue et l’intensité qui montre la dynamique en vigueur de l’innovation technologique modifie la nature et les schémas de distribution du pouvoir. Ce processus de masse de digitalisation de l’information sur les personnes s’est transformé en construction d’une « infosphère », imposante caisse de résonance qui mélange et reconfigure constamment les idées, les émotions et les impulsions émises par un nombre infini d’utilisateurs dans le réseau. Il s’agit d’un processus qui, ordonné et manipulé en fonction d’une subjectivité dominante, peut avoir une influence décisive sur les individus et les organisations.

Les outils digitaux facilitent la recompilation, l’administration et la vente de bases de données. Ces derniers, en eux et par eux mêmes ont peu d’importance, mais acquièrent une signification quand ils sont organisés ou systématisés en fonction d’un sens ; le processus qui les transforme en information. Tout est enregistré et tout est emmagasiné. Leur manipulation met en marche une logique d’accumulation qui a comme finalité la prédiction du comportement humain pour maximiser les gains et pour perfectionner la pénétration et le contrôle des marchés. L’information sur et depuis les personnes se transforment en facteur de production stratégique pour la création de richesse et de pouvoir. L’universitaire Shoshana Zubbof décrit ce paradigme émergent comme le « Capitalisme de surveillance » et soutient que la technologie de pouvoir qui dérive de cette nouvelle logique d’accumulation accorde la priorité, sur la propriété des moyens de production, à celle des moyens de manipulation du comportement. [1]. Les TICs automatisent les opérations que l’être humain mène mais elles peuvent, simultanément générer aussi des nouvelles informations. Cette information, mesurée par des algorithmes, rend visibles des objets et les processus qui restaient opaques, et fait office de facteur constitutif d’une logique d’accumulation qui produit ses propres relations sociales. Le « capitalisme de surveillance » établit une nouvelle frontière de business et ouvre les portes à un nouvel univers d’opportunités de monétisation, après avoir créé des possibilités pour opérer et modifier un comportement à des fins de profit. Pourquoi « de surveillance » ? Parce que l’accès à l’intimité des personnes à travers l’extraction de leur information privée et la possibilité de la manipuler pour influer sur leur comportement, ouvre les portes à de nouvelles formes, tant intrusives et sophistiquées, de régulation sociale :

« Le Capitalisme de surveillance évoque un pouvoir profondément antidémocratique. L’assaut sur les données concernant le comportement quotidien des personnes est d’une telle magnitude, que les doutes ne peuvent déjà plus se limiter au concept de vie privée et à leurs effets. Maintenant, nous sommes devant d’autres types de défis, qui menacent les bases mêmes de l’ordre libéral-moderne. Ce sont des défis qui impactent l’intégrité politique des sociétés et l’avenir de la démocratie. » [2].

L’impérialisme infrastructurel

L’IA est en train de changer l’échelle du modèle de business sur laquelle se base cette étape du développement du capitalisme de surveillance. Poussé par des entreprises privées et concentré entre quelques rares acteurs : « Il y a sept entreprises étasuniennes et chinoises - google, Facebook, Microsoft, Amazon, Baidu, Alibaba et Tencent - qui utilisent l’intelligence artificielle de façon exhaustive et étendent leurs opérations à d’autres pays, dont elles s’emparent clairement des marchés. Il semble que les fournisseurs des Etats-Unis domineront les marchés développés et quelques marchés en développement, tandis que les entreprises chinoises auront la majorité des marchés en développement » [3]

Le poids stratégique croissant des groupes du « capitalisme de surveillance » émergent a trouvé un allié clef dans l’État. Celui-ci s’est ouvert à l’usage des TICs à la recherche d’une plus grande efficacité et transparence (l’État est encore le plus grand détenteur de données d’identité, fiscales, patronymiques et dactyloscopiques), à travers un nouveau modèle de gestion, « new public magnagement » qui facilite l’intégration de grands fournisseurs de solutions d’IA dans les zones clefs du secteur public (par exemple, la sécurité). Ce procédé, bien qu’il puisse rendre plus efficient et productif son fonctionnement, facilite un processus de colonisation par des acteurs privés dans des domaines qui relèvent de lui. Le secteur technologique a atteint un niveau d’influence systémique. Ce sont des géants ambitieux et novateurs qui assument des rôles quasi gouvernementaux et qui jouent le rôle principal dans un processus accéléré et très efficace d’accumulation du pouvoir politique, économique, culturel et logistique. Les entreprises peuvent croiser des millions de données et établir tendances et des prévisions ; en pouvant prévoir des comportements statistiquement probables. Au fur et à mesure que l’information coule, ils peuvent obtenir une connaissance extrêmement détaillée des utilisateurs, de leurs états d’âme face à la consommation et à leurs interactions.

Google, par exemple, est une entreprise privée qui assume comme objectif évident d’« organiser l’information mondiale et la rendre universellement accessible et utile ». Il s’agit de fonctions qui, par leur nature et impact, la transforment en un éminent acteur géopolitique mondial. C’est la compagnie qui accapare le plus grand volume de données. Au moyen de ses plateformes, elle répond à plus de 100 millions de consultations de recherche par mois et peut suivre à plus de 20 millions de personnes par jour. Le professeur Siva Vaidhyanathan, auteur du livre «  The Googlization of Everything ( And Why We Should Worry )  » [La Googlisation de tout (et pourquoi devrions nous nous inquiéter)], utilise le concept de « l’impérialisme infrastructurel » pour décrire le vrai pouvoir des groupes du secteur : « l’ important n’est pas tant ce qui circule à travers des réseaux, mais comment cela circule, combien de revenus génèrent ces flux et qui les utilise et réutilise… À travers l’impérialisme infrastructurel, Google peut agrandir son pouvoir et sa vision du monde, en sélectionnant les ajustements prédéterminés qui provoquent le type de comportement chez les personnes qu’il désire renforcer ». [4]

« L’impérialisme infrastructurel » est l’une des références de la nouvelle dynamique géopolitique mondiale, qui s’articule à travers des impératifs du techno-capitalisme, de l’industrie culturelle, de la surconsommation, des médias et des réseaux informatiques. Comment résister à l’impérialisme infrastructurel ? Pour l’instant, le cas témoin est la Chine. D’un côté, son gouvernement impose des conditions aux géants du secteur technologique en accord avec ses propres intérêts politiques et, d’un autre côté, il pousse ses propres corporations pour concourir avec les entreprises étasuniennes et européennes. « La Chine a construit un système flexible qui permet simultanément d’accorder aux entreprises privées la capacité d’exploiter Internet avec presque autant de liberté que les entreprises des Etats-Unis et européennes le font partout dans le monde, pour distraire la plus grande population avec des perspectives de consommation et de distraction, et cependant, pour gêner suffisamment les dissidents politiques et religieux afin de limiter leur influence sur la vie quotidienne. » [5]

La capacité de la Chine pour résister aux conditions que le secteur technologique cherche à imposer dans ses formats de distribution et en termes d’accès et d’usage, est difficile à reproduire. Il s’agit d’une puissance mondiale émergente qui a démontré une densité politique suffisante pour soutenir ses aspirations d’autonomie.

La nouvelle dépendance

Dans ce contexte, le fait que le secteur de l’IA se concentre dans peu d’entreprises, toutes de pays centraux, et par ailleurs les faibles développements technologiques visibles dans la région dans ce domaine, laissent présumer que les pays de l’Amérique Latine devront affronter les défis que ce nouveau paradigme renferme dans des conditions de vulnérabilité évidente, exposés à de nouvelles formes de subordination. « L’intelligence artificielle est une industrie dans laquelle la force engendre la force : plus tu as de données, meilleur sera ton produit ; meilleur est ton produit, plus de données tu pourras obtenir … C’est un cercle vertueux, et les États-Unis et la Chine ont déjà pétri le talent, la part de marché et les données pour se mettre en marche ». [6]

L’utilisation de ressources de l’IA dans pratiquement tous les secteurs de l’économie produira un autre effet appelé à générer des réactions sociales et politiques : le chômage croissant par le remplacement de la main-d’œuvre traditionnelle. Ces technologies bouleverseront la relation entre capital et travail dans toutes les économies du monde. Même si elles génèrent de nouveaux postes de travail, on prévoit qu’elles le feront dans une proportion nettement moindre que ceux qu’elles détruiront. Cette réalité, dans des pays avec des taux de croissance démographique élevés comme les pays Latinoaméricains, ajoutera un nouveau facteur d’instabilité et de crise pour l’avenir. De plus, le secteur technologique fait pression pour imposer ses intérêts dans l’agenda de l’Organisation Mondiale de Commerce (OMC) pour démolir les barrières (politiques, administratives) qui pourraient affecter sa prédominance sur les marchés et faire valoir son pouvoir pour dessiner les chapitres sur le commerce électronique. Au fur et à mesure qu’ avance le commerce des biens et des services digitaux au détriment du commerce des biens et des services physiques, la nécessité d’un cadre régulateur mondial devient plus évidente. À travers des entreprises du secteur, les pays centraux veulent faire valoir l’avantage d’avoir développé des produits et des services digitaux pour s’assurer l’accès aux marchés du monde.

Certaines des prérogatives que les pays centraux posent dans l’OMC en matière du commerce électronique sont : l’interdiction de tarifs douaniers sur les produits digitaux ; la fin des restrictions des flux transfrontaliers de données ; l’élimination de l’obligation de stocker des données chez des serveurs locaux [comme en Russie]. De plus, ils poussent à l’interdiction de régulations qui obligent les entreprises à transférer une technologie, des processus de production ou toute autre information qui affecte la propriété des développements ; ainsi que l’abolition de l’obligation d’utiliser une technologie locale. Ces demandes interdisent pratiquement les pays du Sud de créer et d’appliquer des stratégies de souveraineté technologique. Plus encore, ils les désarment face à la capacité que les groupes transnationaux ont d’ imposer leurs priorités patronales. Accepter ces règle du jeux, impliquerait les exposer au risque de renforcer la subordination technologique, augmenterait la vulnérabilité dans des zones clefs de l’État et les exposerait à une refonte productive-économique qui génèrerait une forte perte de postes de travail.

Ces précédents indiquent que l’application effective de l’IA ouvrira une nouvelle ligne de rupture dans la géopolitique mondiale, entre les pays qui ont développé ces solutions technologiques et ceux qui ne les possèdent pas ; obligés à imaginer des stratégies pour supporter et résoudre les conséquences d’une nouvelle forme de dépendance. Si les données sont la source de richesse dans l’ère de la révolution de la technologie digitale, le fait que les fournisseurs habilités à les obtenir, à les stocker, à les manipuler et à les distribuer sont un groupe réduit d’entreprises de pays centraux, signale l’imminence d’une nouvelle dynamique de transfert de richesse du Sud vers le Nord. La teneur du défi stratégique que représente pour les pays latinoaméricains d’affronter les effets de cette nouvelle réalité, fait qu’aucune solution effective ne peut surgir de manière individuelle, mais seulement de l’ensemble, de la somme des capacités à élargir l’horizon d’opportunités et atténuer la vulnérabilité, peut surgir une stratégie durable.

Un taureau débridé

Les experts soulignent que la possibilité d’appliquer effectivement des solutions d’IA avance beaucoup plus rapidement que prévu. Beaucoup plus rapidement que les reflexes démontrés par les États et les organisations internationales pour régler ou surveiller leurs usages et applications. L’usage abusif d’une technologie qui a la capacité de manipuler les émotions et le comportement des personnes « a des fonctionnalités pour créer une dictature informationnelle. Il faut le dire ouvertement, c’est ce qui me préoccupe plus. La démocratie représentative ne fonctionne pas de cette façon  », remarque l’expert Martin Hillbert. [7] Eric Schmidt, président de Google, dans les premières lignes de son livre The New Digital Age l’explique ainsi : « Des centaines de millions de personnes, chaque minute, créent et consomment une quantité incalculable de contenu digital dans un monde en ligne qui n’est pas vraiment régi par des lois ». [8]

Universitaires et leaders d’opinion poussent une campagne de prise de conscience pour avertir de l’énorme et complexe défi que représente pour l’ordre politique moderne le fait que certaines entreprises mondiales peuvent influer d’une manière profonde sur tant paramètres de la vie quotidienne des personnes sans qu’existe aucun cadre légal de régulation. Le professeur Jonathan Rust, directeur du Centre Psicométrique de l’Université de Cambridge, avertit des risques : « Le danger, de ne pas avoir de régulation autour du genre de données qui peut être obtenues via Facebook et dans des sites similaires est clair. Avec cela, un ordinateur peut faire réellement de la psychologie, peut prédire et potentiellement contrôler le comportement humain (...) C’est comme laver le cerveau de quelqu’un. C’est incroyablement dangereux (...) Le comportement peut être anticipé et contrôlé (…) Les gens ne savent pas ce qui leur arrive. Leurs attitudes sont modifiées sans en avoir connaissance. » [9]

Les outils d’IA appliqués sans régulations qui satisfont les demandes de l’intérêt commun peuvent rendre la démocratie représentative non viable. Et utilisés sur l’État ils peuvent dévier le sens de ses prestations. Par exemple, l’impact de ces technologies en matière de politiques de sécurité nationale changera radicalement les modèles opératifs de la même façon que l’ont fait à leur époque d’autres créations disruptives, comme l’aviation, les armes nucléaires, les ordinateurs et la biotechnologie. Chacune de ces technologies ont produit des changements dans la vision et la planification stratégique qui ont affecté l’intérêt national et ont eu un impact sur la politique extérieure des États qui les ont développées. L’intégration croissante de systèmes d’armes intelligentes et autonomes permet des opérations militaires plus précises, mais porter ces mécanismes en dehors de la gestion opérative de l’être humain impliquera des risques et des réserves légales et éthiques.

La possibilité réelle de ce que dans un peu plus d’une décennie se concrétise l’automatisation définitive de l’exercice de la guerre, pourrait marquer un point d’inflexion dans la dynamique des relations internationales telle que nous la connaissons : « La technologie moderne pose des défis pour l’ordre mondial et la stabilité mondiale sans précédents... Personnellement, je crois que ce que porte avec elle l’intelligence artificielle est crucial… Que nos créations ont une meilleure capacité pour calculer que nous, c’est une question que nous devons résoudre », a affirmé l’ex-secrétaire d’État des Etats-Unis Henry Kissinger, stratège de référence de la puissance mondiale pendant le XXéme siècle [10]

Enzo Girardi* pour le Dossier : « Plateformes, surveillance et postpolitique dans la cybersociété »

Cuadernos del CEL. UNE ANNÉE 3 - NUMÉRO 5., 2018, Vol. III, Nº 5 Págs. 8-16. Un ISSN : 2469-150X

Traduit de l’espagnol pour El Correo de la Diaspora par : Estelle et Carlos Debiasi

El Correo de la Diaspora. Paris, le 11 mars 2018

Cette création par http://www.elcorreo.eu.org est mise à disposition selon les termes de la licence Creative Commons Paternité - Pas d'Utilisation Commerciale - Pas de Modification 3.0 Unported. Basée sur une œuvre de www.elcorreo.eu.org.