distopia tecnologica
Autor: Amy Webb
Editorial: Península
Fecha: 2021
Páginas: 382

La distopía tecnológica se convierte en socioeconómica

Entre la orientación al mercado de las empresas estadounidenses y la orientación al poder de los gigantes chinos, el futuro de la humanidad puede verse amenazado si no se embrida adecuadamente la capacidad de la inteligencia artificial y de los nueve gigantes tecnológicos.
JOSÉ MOISÉS MARTÍN
 | 

En el imaginario social, la amenaza que representa la inteligencia artificial ha basculado entre el candor asesino de HAL, el ordenador que lucha por su supervivencia en el entorno de Júpiter en 2001, una odisea del espacio, y la dictadura benevolente de Matrix, que mantiene a los seres humanos estabulados a cambio de una ensoñación permanente en la que no distinguen la realidad de la ficción. Para Amy Webb, futuróloga y asesora en materia de prospectiva tecnológica y social, las amenazas generadas por la inteligencia artificial no surgen de sus aspectos tecnológicos, sino del entorno social, económico y geopolítico en el que esta se desarrolla. En otras palabras, no esperemos una superinteligencia artificial que dirigirá nuestros destinos de manera autónoma; deberíamos prestar atención, más bien, a lo que lo seres humanos hacemos con tan poderoso instrumento. La distopía tecnológica se vuelve en este caso distopía socioeconómica, con una herramienta –la inteligencia artificial– como palanca para la transformación de las relaciones de poder en el mundo en el que vivimos.

Los nueve gigantes, tal y como la autora los define, son las nueve grandes empresas tecnológicas –seis estadounidenses y tres chinas– que están conformando las bases de un futuro económico y social basado en el uso intensivo de las tecnologías vinculadas a la inteligencia artificial. Partiendo de los orígenes de dicha disciplina, a mediados del siglo XX, cuando los pioneros como Turing o Minsky teorizaron sobre la inteligencia artificial, la autora realiza un repaso sobre la evolución de las técnicas, los hitos y los avances en el objetivo de dotar a la tecnología de capacidades de razonamiento lógico; al principio, como elementos meramente experimentales o demostrativos y, posteriormente, como herramientas comerciales que invaden nuestra vida diaria a través de sistemas como nuestros teléfonos móviles, la toma de decisiones sanitarias o financieras, la seguridad ciudadana o nuestro consumo de contenidos audiovisuales. El potencial de la inteligencia artificial para cambiar el escenario socioeconómico es difícilmente calculable, y precisamente por ello, es necesaria una reflexión, que ella considera urgente, sobre sus efectos y contenidos.

 

«Webb denuncia el aislamiento y la autorreferencia de las ‘tribus de desarrolladores’ que responden a criterios estrictamente técnicos, sin atender adecuadamente a las dimensiones humanas y éticas en el diseño de los algoritmos»

 

En efecto, Webb plantea que el desarrollo de la inteligencia artificial está siendo dirigido por intereses comerciales donde grandes empresas tecnológicas estadounidenses –Google, Microsoft, Amazon, Facebook, IBM y Apple, o la GMAFIA, como ella los denomina– compiten por lograr ecosistemas cerrados y estándares propios a través de la elaboración de complejos algoritmos cada vez más omnipresentes en nuestras vidas. Webb denuncia el aislamiento y la autorreferencia de estas “tribus de desarrolladores” que responden a criterios estrictamente técnicos, sin atender adecuadamente a las dimensiones humanas y éticas en el diseño de los algoritmos. El resultado es una tecnología que controla, segrega y multiplica los prejuicios de los programadores, generando nuevas desigualdades y exclusiones y que termina siendo disfuncional para la democracia y las libertades públicas.

El problema ya sería lo suficientemente grave, pero Webb da una vuelta de tuerca al incorporar a la carrera por lograr la hegemonía tecnológica los tres gigantes chinos –Alibabá, Tencent y Baidu–, impulsados por un régimen, el chino, cuyo objetivo, bajo el mandato de Xi Jinping, no es sino acrecentar su poder geopolítico y someter todavía más a su población a través de herramientas propias de las peores distopías orwellianas. En definitiva, un instrumento demasiado poderoso en las manos equivocadas.

Así, entre la orientación al mercado de las empresas estadounidenses, y la orientación al poder de los gigantes chinos, el futuro de la humanidad puede verse amenazado si no se embrida adecuadamente la capacidad de la inteligencia artificial y de estos nueve gigantes.

Para ilustrar su mensaje de alarma, la autora dibuja tres escenarios de futuro, dos en los que China termina ejerciendo su poder sobre gran parte del planeta —con exterminio estadounidense incluido— y otro en el que la cooperación internacional y el establecimiento de normas para humanizar la inteligencia artificial y resituar los derechos fundamentales en el centro del desarrollo tecnológico evitan este indeseable futuro. Es esta la parte más especulativa del libro, que roza la ciencia ficción, pero que acierta al situar los elementos clave de lo que podría ser una manera de sujetar ese poder y hacerlo más compatible con la democracia. Así, Webb aboga por la creación de una alianza mundial para el control y fomento de una inteligencia artificial en sintonía con los derechos humanos, el reconocimiento de la propiedad y soberanía de todos los ciudadanos sobre sus propios datos y el establecimiento de estándares éticos irrenunciables para futuros desarrollos tecnológicos.

 

«De haber un modelo europeo de inteligencia artificial, más allá de los libros blancos y demás intenciones declarativas, es el momento de invertir en él y de promocionarlo»

 

Como tal, el ensayo de Webb se detiene relativamente poco en los aspectos más visitados en otros ensayos que han tratado este tema. En Vida 3.0 (Taurus, 2017), por ejemplo, Max Tegmark se centra en la relación humano-máquina y en cómo podría ser ese futuro tras la aparición de una superinteligencia artificial. Webb pasa de soslayo sobre esta realidad y prefiere centrarse sobre las dimensiones políticas, sociales y económicas, en un mundo donde la rivalidad es, de manera explícita, una batalla entre las dos superpotencias y donde el resto del planeta solo aparece como mero invitado.

Y esta es, quizá, la mayor lección que podemos extraer del libro, por lo demás, pensado para el mercado estadounidense. Pese a apostar por un tratamiento multilateral de la inteligencia artificial, la batalla aquí descrita es una batalla de dos. La Unión Europea, que no cuenta con ningún gigante tecnológico a la altura de los aquí mencionados, se encuentra atrapada entre el poder tecnológico sin control democrático de China y el crecimiento de grandes tecnológicas estadounidenses orientadas al incremento de sus beneficios, sin más consideraciones sociales.

De haber un modelo europeo de inteligencia artificial –más allá de los libros blancos y demás intenciones declarativas–, es el momento de invertir en él y de promocionarlo. Ahora que nos preocupa tanto la autonomía estratégica de la Unión, ha llegado el momento –si no es demasiado tarde– de incorporar a dicha autonomía la dimensión tecnológica. El Consejo Europeo de Relaciones Exteriores publicó hace un tiempo un pequeño libro sobre ello (La soberanía digital de Europa, Catarata, 2020), y no faltan reflexiones en algunos de los centros de pensamiento más lúcidos. Si, como plantea Webb, la inteligencia artificial requiere de un régimen internacional de desarrollo y control, la UE debe asumir un papel más activo en su construcción y, para ello, no podemos permanecer como simples invitados a una cena en la que el plato, de continuar así, seremos nosotros mismos.