recherche

Accueil > Cybersocieté > Geopolítica de la inteligencia artificialCapitalismo de vigilancia, (...)

8 mars 2018

Dossier : « Plataformas, vigilancia y pospolítica en la cibersociedad »

Geopolítica de la inteligencia artificial
Capitalismo de vigilancia, democracias algorítmicas y un horizonte de Estados tecno-colonizados

par Enzo Girardi*

 

Toutes les versions de cet article : [Español] [français]

« Los macrodatos hacen superfluo el pensamiento,
porque si todo es numerable, todo es igual...
Estamos en pleno dataísmo :
el hombre ya no es soberano de sí mismo
sino que es resultado de una operación algorítmica
que lo domina sin que lo perciba. »
Byung-Chul Han


Introducción

Los desarrollos de inteligencia artificial (IA) están llamados a provocar cambios profundos sobre la vida cotidiana de las personas. En el hogar, en el trabajo, en las finanzas, en los momentos de ocio. Tal como se anuncia, nada quedará fuera de su impacto arrollador. Son herramientas que procesan información mediante algoritmos en cantidades y a una velocidad que excede la capacidad del cerebro humano. Y que representan el eslabón más reciente de la matriz tecno-hegemónica que está articulando el orden sistémico global emergente. Esta matriz se nutre de las tecnologías de la información y de la comunicación (TICs) que convirtieron a la información en un insumo esencial y cuya aplicación, masiva e intensiva, va a habilitar un escenario geopolítico inédito, signado por la batalla por la obtención, manipulación y utilización de grandes volúmenes de datos (Big Data). Ese proceso de cambio tecnológico está creando un nuevo paradigma. Una frase al uso de los expertos describe esta nueva realidad : « La Big Data será el petróleo del Siglo XXI ». La materia esencial de un nuevo tipo de capitalismo en el marco del proceso que descripto como « revolución informacional ». La velocidad, extensión e intensidad que muestra la dinámica vigente de innovación tecnológica está modificando la naturaleza y los patrones de distribución del poder. Ese masivo proceso de digitalización de información sobre las personas devino en la construcción de una « infoesfera », imponente caja de resonancia que mezcla y reconfigura constantemente las ideas, las emociones y los impulsos emitidos por un número infinito de usuarios en la red. Se trata de un proceso que, ordenado y manipulado en función de una subjetividad dominante, puede ejercer una influencia decisiva en los individuos y las organizaciones.

Las herramientas digitales facilitan la recopilación, administración y venta de bases de datos. Éstos últimos, en sí y por sí mismos, carecen de relevancia, pero adquieren significación cuándo se los organiza o sistematiza en función de un sentido ; proceso que los convierte en información. Todo se registra y todo se almacena. Su manipulación pone en marcha una lógica de acumulación que tiene por finalidad la predicción del comportamiento humano para maximizar ganancias y perfeccionar la penetración y el control de los mercados. La información sobre y de las personas deviene en insumo estratégico para la creación de riqueza y de poder. La académica Shoshana Zubbofdescribe a este paradigma emergente como « Capitalismo de vigilancia » y sostiene que la tecnología de poder que se deriva de esta nueva lógica de acumulación prioriza, por sobre la propiedad de los medios de producción, la de los medios de manipulación de comportamientos. [1]. Las TICs automatizan operaciones que realiza el ser humano pero también pueden, simultáneamente, generar nueva información. Esta información, mediada por algoritmos, hace visibles objetos y procesos que permanecían opacos, y funge como factor constitutivo de una lógica de acumulación que produce sus propias relaciones sociales. El « capitalismo de vigilancia » establece una nueva frontera de negocios y abre las puertas a un nuevo universo de oportunidades de monetización, al crear posibilidades para intervenir y modificar comportamientos con fines de lucro. ¿Por qué « de vigilancia » ? Porque el acceso a la intimidad de las personas a través de la extracción de su información privada y la posibilidad de manipularla para influir en sus comportamientos, abre las puertas a formas novedosas, por lo intrusivas y sofisticadas, de control social :

« El Capitalismo de vigilancia evoca un poder profundamente antidemocrático. El asalto sobre los datos acerca del comportamiento en el día a día de las personas es tan amplío, que las dudas ya no se pueden circunscribir al concepto de privacidad y a sus efectos. Ahora estamos ante otro tipo de desafíos, que amenazan las bases mismas del orden liberalmoderno. Son retos que impactan sobre la integridad política de las sociedades y el futuro de la democracia. » [2].

Imperialismo infraestructural

La IA está cambiando la escala del modelo de negocios en que se basa esta etapa de desarrollo del capitalismo de vigilancia. Impulsado por corporaciones privadas y concentrado en unos pocos actores : « Hay siete empresas estadounidenses y chinas -Google, Facebook, Microsoft, Amazon, Baidu, Alibaba y Tencent- que están utilizando la inteligencia artificial de forma exhaustiva y están expandiendo sus operaciones a otros países, con lo cual básicamente se están adueñando de esos mercados. Parece que los proveedores estadounidenses dominarán los mercados desarrollados y algunos de los mercados en desarrollo, mientras las empresas chinas tendrán la mayoría de los mercados en desarrollo » [3]

El creciente peso estratégico de las corporaciones del emergente « capitalismo de vigilancia » dio con un aliado clave en el Estado. Éste se abrió al uso de las TICs en pos de una mayor eficacia y transparencia (el Estado es todavía el mayor poseedor de datos personales, fiscales, patronímicos y dactiloscópicos), a través de un nuevo modelo de gestión, el « new public magnagement », que facilita la inserción de los grandes proveedores de soluciones de IA en áreas clave del sector público (por ejemplo, la seguridad). Este procedimiento, si bien puede hacer más eficiente y productivo su funcionamiento, facilita un proceso de colonización por actores privados sobre áreas relevantes del mismo. El sector tecnológico alcanzó un nivel de influencia sistémico. Son gigantes ambiciosos e innovadores que asumen roles cuasi gubernamentales y que están protagonizando un acelerado y certero proceso de acumulación de poder político, económico, cultural y logístico. Las empresas pueden cruzar millones de datos y establecer tendencias y predicciones ; pudiendo prever comportamientos estadísticamente probables. A medida que la información fluye, pueden lograr un conocimiento sumamente detallado de sus usuarios, desde los estados de ánimo hasta los consumos y sus interacciones. Google, por caso, es una empresa privada que asume como objetivo declarado « organizar la información mundial y hacerla universalmente accesible y útil ». Se trata de funciones que, por su naturaleza e impacto, la convierten en un actor geopolítico global relevante. Es la compañía que acapara el mayor volumen de datos. Por medio de sus plataformas responde a más de 100 millones de consultas de búsqueda por mes y se pueden rastrear a más de 20 millones de personas por día. El profesor Siva Vaidhyanathan, autor del libro « The Googlization of Everything (And Why We Should Worry) », utiliza el concepto de « imperialismo infraestructural » para describir el verdadero poder de las corporaciones del sector : « No es tan importante lo que fluye a través de las redes sino cómo fluye, cuánto ingresos generan esos flujos y quién los usa y reutiliza… A través del imperialismo infraestructural, Google puede ampliar su poder y su visión del mundo, seleccionando los ajustes predeterminados que promueven el tipo de comportamiento en las personas que desea reforzar. » [4]

El « imperialismo infraestructural » es una de las referencias de la nueva dinámica geopolítica global, que se articula a través de los imperativos del tecnocapitalismo, la industria cultural, el consumismo, los medios de comunicación y las redes informáticas. ¿Cómo resistir al imperialismo infraestructural ? Por ahora, el caso testigo es China. Su gobierno, por un lado, impone condiciones a los gigantes del sector tecnológico en orden sus propios intereses políticos y, por otro, está impulsando a sus propias corporaciones para competir con las empresas estadounidenses y europeas. « China ha construido un sistema flexible que permite simultáneamente conceder a las empresas privadas la capacidad de explotar Internet con casi tanta libertad como lo hacen en todo el mundo las empresas americanas y europeas, para distraer a la mayor población con las perspectivas de consumo y entretenimiento, y sin embargo, obstaculizar suficientemente a los disidentes políticos y religiosos para limitar su influencia en la vida cotidiana. » [5]

La capacidad de China para resistir las condiciones que pretende imponer el sector tecnológico en sus formatos de distribución y términos de acceso y uso, es difícil de replicar. Se trata de una potencia global emergente que ha demostrado la suficiente densidad política como para sostener sus aspiraciones de autonomía.

La nueva dependencia

En este contexto, el hecho de que el sector de la IA se concentre en unas pocas empresas, todas de los países centrales, y por otra parte, los escasos desarrollos tecnológicos visibles en la región en esta materia, hacen presumir que los países de América Latina deberán afrontar los desafíos que entraña este nuevo paradigma en condiciones de evidente vulnerabilidad, expuestos a nuevas formas de subordinación. « La inteligencia artificial es una industria en la cual la fuerza engendra fuerza : mientras más datos tengas, mejor será tu producto ; mientras mejor sea tu producto, podrás recabar más datos… Es un círculo virtuoso, y Estados Unidos y China ya tienen amasados el talento, la participación en el mercado y los datos para ponerse en marcha. » [6]

La aplicación de recursos de la IA a prácticamente todos los sectores de la economía producirá otro efecto llamado generar reacciones sociales y políticas : el creciente desempleo por el reemplazo de la mano de obra tradicional. Estas tecnologías trastocarán la relación entre capital y trabajo en las economías de todo el mundo. Aun cuándo generen nuevos empleos, se prevé que lo harán en una proporción mucho menor a los que destruirán. Esta realidad, en países con altos índices de crecimiento demográfico como los latinoamericanos, agregará un nuevo factor de inestabilidad y de crisis para el futuro. Además, el sector tecnológico está presionando para imponer sus intereses en la agenda de la Organización Mundial de Comercio (OMC) con el fin de derrumbar las barreras (políticas, administrativas) que pudieran afectar su prevalencia sobre los mercados y hacer valer su poder para diseñar los capítulos sobre comercio electrónico. A medida que avanza el comercio de bienes y servicios digitales en detrimento del comercio de bienes y servicios físicos, se hace más evidente la necesidad de un marco regulatorio global. Los países centrales, a través de las corporaciones del sector, quieren hacer valer la ventaja de haber desarrollado productos y servicios digitales para asegurar su acceso a los mercados del mundo. Algunas de las prerrogativas que los países centrales plantean en la OMC en materia de comercio electrónico son : la prohibición de tarifas aduaneras a los productos digitales ; el fin de las restricciones a los flujos transfronterizos de datos ; la eliminación de la obligación de almacenar datos en servidores locales. Además, impulsan la prohibición de regulaciones que obliguen a las empresas a transferir tecnología, procesos de producción u otra información que afecte la propiedad de los desarrollos ; así como la remoción de la obligación de utilizar tecnología local. Estas demandas prácticamente inhabilitan a los países del Sur para crear y aplicar estrategias de soberanía tecnológica. Más aún, los desarman frente a la capacidad que tienen las corporaciones transnacionales para imponer sus prioridades empresariales. Aceptar esas reglas de juego, implicaría exponerlos al riesgo de consolidar la subordinación tecnológica, acrecentaría la vulnerabilidad en áreas clave del Estado y los expondría a una reestructuración productivo-económica que acarrearía una fuerte pérdida de empleos. Estos antecedentes indican que la aplicación efectiva de la IA abrirá una nueva línea de ruptura en la geopolítica global, entre los países que han desarrollado esas soluciones tecnológicas y aquellos que no las poseen ; obligados a imaginar estrategias para sobrellevar y resolver las consecuencias de una nueva forma de dependencia. Si los datos son la fuente de riqueza en la era de la revolución digital, el hecho que los proveedores capacitados para obtenerlos, almacenarlos, manipularlos y distribuirlos sean un reducido grupo de corporaciones de países centrales, señala la inminencia de una nueva dinámica de transferencia de riqueza desde el Sur al Norte. El tenor del desafío estratégico que representa para los países latinoamericanos hacer frente a los efectos de esta nueva realidad hace que ninguna solución efectiva pueda surgir de manera individual y que sólo del conjunto, de la suma de capacidades para ensanchar el horizonte de oportunidades y atenuar las vulnerabilidades, pueda surgir una estrategia sustentable.

Un toro desbocado

Los expertos están advirtiendo que la posibilidad de aplicar efectivamente soluciones de IA avanza mucho más rápido de lo previsto. Mucho más velozmente que los reflejos demostrados por los Estados y las organizaciones internacionales para regular o vigilar sus usos y aplicaciones. El uso abusivo de una tecnología que tiene la capacidad de manipular las emociones y los comportamientos de las personas « tiene potencial para crear una dictadura informacional. Hay que decirlo abiertamente, es lo que más me preocupa. La democracia representativa de esta manera no funciona », advierte el experto Martin Hillbert. [7] » Eric Schmidt, presidente de Google, en las primeras líneas de su libro The New Digital Age lo explica así : « Cientos de millones de personas, cada minuto, crean y consumen una cantidad incalculable de contenido digital en un mundo on line que no está verdaderamente regido por las leyes ». [8] Académicos y líderes de opinión están impulsando una campaña de concientización para advertir sobre el enorme y complejo desafío que entraña para el orden político moderno el hecho que unas pocas compañías globales puedan influir de manera profunda en tantas áreas de la vida cotidiana de las personas sin que exista un marco legal de regulación. El profesor Jonathan Rust, director del Centro Psicométrico de la Universidad de Cambridge, advierte sobre los riesgos : « El peligro de no tener regulación alrededor del tipo de datos que puede obtenerse de Facebook y en lugares similares es claro. Con esto, una computadora puede realmente hacer psicología, puede predecir y potencialmente controlar el comportamiento humano (...) Es como lavar el cerebro a alguien. Es increíblemente peligroso (...) El comportamiento puede ser anticipado y controlado (…) La gente no sabe qué les está pasando. Sus actitudes son alteradas sin su conocimiento. » [9]

Las herramientas de IA aplicadas sin regulaciones que atiendan las demandas del interés común pueden hacer inviable la democracia representativa. Y utilizadas sobre el Estado pueden desviar el sentido de sus prestaciones. Por ejemplo, el impacto de estas tecnologías en materia de políticas de seguridad nacional cambiará radicalmente los modelos operativos del mismo modo que en su momento lo hicieron otras creaciones disruptivas, como la aviación, las armas nucleares, las computadoras y la biotecnología. Cada una de estas tecnologías produjo cambios en la visión y el planeamiento estratégico que afectaron el interés nacional e impactaron sobre la política exterior de los Estados que las desarrollaron. La creciente incorporación de sistemas de armas inteligentes y autónomas permite operaciones militares más precisas, pero llevar esos mecanismos fuera de la gestión operativa del ser humano implicará riesgos y reparos legales y éticos. La posibilidad efectiva de que en un poco más de una década se concrete la definitiva automatización del ejercicio de la guerra, podría señalar un punto de inflexión en la dinámica de las relaciones internacionales tal cuál la conocemos : « La tecnología moderna plantea desafíos para el orden mundial y la estabilidad mundial sin precedentes... Personalmente, creo que lo que trae aparejado la inteligencia artificial es crucial…Que nuestras creaciones tengan una mejor capacidad para calcular que nosotros, es una cuestión que debemos resolver », afirmó el ex secretario de Estado norteamericano Henry Kissinger, estratega de referencia de la potencia global durante el siglo XX. [10]

Enzo Girardi para el Dossier : « Plataformas, vigilancia y pospolítica en la cibersociedad »

*Enzo Girardi es director de la Maestría en Estudios Latinoamericanos (CEL-UNSAM). Doctor en Relaciones Internacionales, Globalización y Unión Europea (UE) y Diploma de Estudios Avanzados (DEA) por la Facultad de Ciencias Políticas, Universidad Complutense de Madrid (2002). Master en Relaciones Internacionales y Comunicación. Facultad de Ciencias de la Información, Universidad Complutense de Madrid (1998-2000).

Cuadernos del CEL. AÑO 3 - NÚMERO 5. , 2018, Vol. III, Nº 5 Págs. 8-16. ISSN : 2469-150X

Este artículo hace parte del Dossier : « Plataformas, vigilancia y pospolítica en la cibersociedad. » Cuadernos del CEL AÑO 3 - NÚMERO 5

Notes

[1Shoshana ZUBOFF, « Secrets of SurveillanceCapitalism »

[2Shoshana ZUBOFF, op.cit.

[3Se trata de una afirmación de Kai-Fu Lee, presidente de SinovationVentures, una firma de capital de riesgo. Cfr. Kai-Fu LEE, «  The Real Threat of Artificial Intelligence  », New York Times, 27 de junio 2017.

[4Siva VAIDHYANATHAN, TheGooglization of Everything (And WhyWeShouldWorry), University of California Press, 2012, p. 107.

[5Siva VAIDHYANATHAN, op. cit., p. 109.

[6Kai-Fu LEE, op. cit.

[8Eric SCHMIDT-Jared COHEN, « The New Digital Age. Reshaping the Future of People, Nations and Business ». Alfred a Knop, 2013, p. 101.

[9Cfr. Robert Mercer : the big data billionaire waging war on mainstream media ]. Carole Cadwalladr. The Guardian Sun 26 Feb 2017

Répondre à cet article

Retour en haut de la page

El Correo

|

Patte blanche

|

Plan du site

| |

création réalisation : visual-id