"Derrocando el imperio de la IA.
Mientras la carrera tecno-autoritaria por desarrollar tecnologías avanzadas de Inteligencia Artificial continúa a toda máquina, la influencia de Silicon Valley sobre las agendas regulatorias ha llegado a rivalizar —e incluso superar— a la de muchos estados. Sin embargo, entre las ambiciones de las superpotencias globales y los gigantes de la IA, Europa tiene la oportunidad de buscar algo mejor. Una entrevista con la galardonada periodista y autora Karen Hao.
Alessio Giussani: Se han evocado varias metáforas para describir el modelo actual de desarrollo de la IA —un loro o un espejo, por ejemplo—. ¿Por qué elegiste la de imperio?
Karen Hao: Creo que todas esas metáforas son sumamente útiles. Yo me centro en la de imperio porque no solo observo el artefacto técnico en sí mismo y lo que sucede cuando se implementa en la sociedad, sino también la producción de esta tecnología y los actores que consolidan una cantidad extraordinaria de poder económico y político para producirla.
Hay cuatro razones principales por las que llamo imperio a este sistema. Primero, estas empresas reclaman recursos que no les pertenecen: los datos de los individuos, así como el trabajo de escritores y creadores. Segundo, explotan una cantidad extraordinaria de mano de obra, y eso incluye tanto a los trabajadores que explotan dentro del proceso de producción y la cadena de suministro de estas tecnologías, como a aquellos cuyos derechos laborales se ven erosionados cuando la tecnología se implementa.
El tercer aspecto es el control de la información. Una faceta importante de la expansión de los imperios es la capacidad de filtrar toda la producción de conocimiento e información a través del lente de su agenda imperial, y esto es precisamente lo que están haciendo las empresas de IA. Controlan y censuran la ciencia que se produce al financiar a la mayoría de los investigadores de IA, y están construyendo una tecnología de la información que buscan convertir en el portal central a través del cual todos los demás se relacionan con el mundo, incluso en la educación.
Por último, envuelven todo esto en una misión civilizadora. Dicen que realizan este trabajo porque, en última instancia, intentan traer a la humanidad una tecnología que nos elevará a un estado utópico, y que si los malos —que normalmente significa China— la desarrollan antes que nosotros, descenderemos en cambio a un estado distópico. Esta es una especie de narrativa religiosa que también era común entre los imperios de antaño.
El imperio de la IA, tal como lo describes, no se limita a una empresa; es un sistema, una lógica. ¿Qué hay detrás de tu enfoque en OpenAI y en la figura de su CEO, Sam Altman?
Una respuesta es que la gente necesita historias que ayuden a concretar lo que de otro modo sería una idea abstracta. Pero OpenAI también es particularmente interesante porque tomó todas las decisiones importantes que cambiaron las normas dentro de la industria, empujándola hacia la construcción de imperios. Fue OpenAI quien decidió escalar a toda costa, trabajar con grandes modelos de lenguaje y producir una interfaz tipo chatbot para ellos. Prácticamente todo lo que el público entiende hoy asociado con la IA se decidió primero dentro de los muros de OpenAI.
Al contar esa historia, se vuelve mucho más obvio que la IA no es inevitable, porque empiezas a darte cuenta de que hubo personas reales tomando esas decisiones basándose en sus valores, sus visiones del mundo, sus vendettas personales —lo que sea que realmente moldeó la trayectoria del desarrollo de la IA—. Las ideologías de Sam Altman están imbuidas en el modelo, y no solo en un sentido abstracto. A menudo se escucha el tópico de que los modelos reflejan a sus creadores, pero yo quería mostrar cómo sucede esto realmente. Se trata de las empresas, las personas y el entorno económico e ideológico del que forman parte.
A medida que estas tecnologías se vuelven más poderosas, afirmar el control sobre su implementación se está convirtiendo en una cuestión existencial. Vimos a las Grandes Tecnológicas inclinarse ante Trump en su segunda toma de posesión, pero también estamos viendo a los directores ejecutivos de IA cada vez más en desacuerdo con el gobierno. ¿Quién terminará teniendo la última palabra: el estado o las empresas privadas?
Existe una batalla en curso sobre quién tomará las decisiones. Veo la relación entre Washington y Silicon Valley como una alianza de conveniencia, pero muy tensa. Representan dos modelos diferentes de imperio, cada uno con su propia agenda imperial. Ambos intentan expandirse y, literalmente, apoderarse de más territorio de otros países, pero la administración Trump ve a las empresas de IA como herramientas en manos de las ambiciones imperiales del estado. Mientras tanto, Silicon Valley ve a la administración Trump como una herramienta de sus ambiciones imperiales, pero en realidad no están en la misma sintonía, porque cada uno quiere ser la entidad suprema que salga victoriosa.
Ha habido momentos en que el gobierno de EE. UU. ha demostrado que aún está por encima: cuando Trump y Musk chocaron, Musk fue expulsado. Sin embargo, cuando el Departamento de Guerra se enfrentó a Anthropic, la empresa demostró que era el poder más fuerte en esa instancia: el Secretario de Defensa, Pete Hegseth, evocó la opción nuclear, amenazando con declarar a la empresa como un riesgo para la cadena de suministro como el máximo castigo que podía usar para poner a Anthropic en línea, y la empresa aún así no se alineó. De manera bastante embarazosa, el Departamento de Guerra se ha vuelto profundamente dependiente de un actor privado que no está dispuesto a cooperar en los términos del gobierno, y el gobierno no puede hacer nada al respecto.
Debe haber rendición de cuentas para ambos actores imperiales, y esa rendición de cuentas no vendrá de ninguno de ellos; tiene que venir del pueblo. De la organización desde las bases, que estamos empezando a ver florecer en todo el mundo, incluso en EE. UU. Por impermeable que parezca la alianza de conveniencia, en realidad es extremadamente frágil, y hay oportunidades para acelerar su desaparición aplicando más presión en sus puntos débiles.
En lugar de ver la IA como una carrera global entre los buenos y los malos, deberíamos pensar en qué visión tenemos para la sociedad.
El estado del desarrollo de la IA parece una carrera competitiva hacia el abismo entre empresas rivales y superpotencias globales. ¿Qué papel ha jugado la competencia geopolítica con China en llevar a la IA a su situación actual?
China es una carta que Silicon Valley ha jugado durante una década, prácticamente desde que fue expulsada de China. Pero cuando observas el historial de este argumento, ves que lo que ha sucedido es consistentemente lo contrario de lo que Silicon Valley dijo que sucedería.
Dijeron que al no regular a las empresas de Silicon Valley —y al regular a China mediante controles de exportación— la tecnología estadounidense dominaría en todo el mundo. Sin embargo, TikTok es ahora la plataforma de redes sociales más popular, y los modelos de IA de código abierto chinos se están volviendo cada vez más populares en todo el mundo, incluso en EE. UU. También prometieron que el dominio de Silicon Valley tendría un efecto liberalizador en el mundo, pero eso tampoco se ha cumplido; su efecto ha sido profundamente iliberal. Ha habido una erosión extraordinaria de las instituciones democráticas y una rápida aceleración del retroceso democrático, ayudado por las plataformas de Silicon Valley y las tecnologías de IA.
En lugar de ver la IA como una carrera global entre los buenos y los malos, deberíamos pensar en qué visión tenemos para la sociedad, qué tipo de tecnologías de IA respaldarían esa visión y qué recursos necesitamos para hacerla realidad. Deberíamos competir no en una carrera definida por Silicon Valley, sino en las ideas y valores que queremos defender. Y creo que Europa tiene aquí la oportunidad de mostrar al mundo una tercera vía, diferente a las de EE. UU. y China, que restablezca las reglas del juego.
La Comisión Europea ha adoptado recientemente un paquete de soberanía tecnológica como parte del esfuerzo de Europa por trazar su propio camino tecnológico. ¿Cómo deberíamos articular esta visión para evitar terminar con una versión europea de un modelo de negocio oligárquico basado en la vigilancia?
La estrella polar que Europa debería seguir no es la soberanía por la soberanía misma, sino el propósito de alcanzar esa soberanía. Europa, o al menos la mayor parte de ella, es uno de los últimos bastiones de la democracia en el mundo. Defiende los derechos humanos y las libertades, y necesita soberanía tecnológica para ayudar a promover estos valores. Mientras siga siendo extremadamente dependiente de sistemas que se desarrollan de una manera muy autoritaria y que buscan socavar las sociedades europeas, no podrá defender sus valores. La soberanía como concepto tiende a volverse vaga si empiezas a pensarla como un objetivo en sí mismo. Debería ser un medio para un fin.
¿A partir de qué tipo de coaliciones, grupos de interés o focos de conflicto deberíamos empezar para construir esa visión alternativa?
En primer lugar, debemos entender la gobernanza de la IA de manera amplia. Fortalecer los derechos laborales y proteger a la sociedad civil, por ejemplo, cuenta como gobernanza de la IA. Los estudiantes, los profesores y los trabajadores de la salud también deberían estar en la mesa para ayudar a dar forma y cuestionar cómo se desarrolla e implementa la IA en la sociedad. La educación es clave, tanto como sector y coalición que necesitamos incorporar, como en términos de educación pública sobre la IA.
Otro aspecto importante es financiar a investigadores y emprendedores de IA para que descifren los aspectos más técnicos de lo que se intenta construir y cómo se quiere aplicar. Pero no se les puede simplemente dar dinero sin permitir que el resto de la sociedad opine; de lo contrario, solo se están replicando los problemas que tenemos en EE. UU., donde son esencialmente los tecnócratas o tecno-autoritarios quienes toman las decisiones.
No se está partiendo de cero. Ya se ha hecho mucho trabajo para establecer los objetivos comunes por los que la sociedad debería esforzarse. Hablo de los Objetivos de Desarrollo Sostenible, por ejemplo. Ese podría ser un punto de partida para descubrir cómo financiar la innovación en IA.
Las narrativas en torno a las tecnologías actuales de IA están extremadamente polarizadas. Por un lado, están quienes dicen que no hay nada particularmente nuevo en estas tecnologías y que la burbuja está a punto de estallar. Por otro, están quienes creen que la IA transformará nuestras vidas, revolucionará las cadenas de suministro y nos hará redundantes a todos. ¿Qué opinas de estas posturas diferentes?
Es cierto, muchas personas tienden a exagerar los beneficios sin considerar los costos de estas tecnologías, o a enfatizar demasiado los costos sin ver los beneficios. Pero creo que hay un porcentaje bastante grande de personas que están de acuerdo en que queremos los beneficios de la IA, pero no a costa de nuestra propia capacidad de vivir una vida digna, con acceso a buena atención médica, oportunidades económicas, un medio ambiente sano y un planeta floreciente. Ese es el enfoque más equilibrado a adoptar.
IA es un nombre para muchos tipos diferentes de tecnologías, por lo que deberíamos pensar cuidadosamente en cuáles invertir, cuáles nuevas queremos construir, porque cada una conlleva un conjunto diferente de compromisos; algunas de ellas se alinean con el futuro que queremos construir, y otras no. Debemos elegir con sabiduría.
¿Cuál es tu propia relación con las herramientas de IA existentes?
No las uso por tres razones principales. Una, la postura ética. Dos, la postura de privacidad: estoy investigando a estas empresas, y son, en última instancia, las tecnologías de vigilancia más efectivas jamás inventadas. Tres, estas herramientas no son muy útiles para el conjunto de habilidades particular que necesito para realizar mi trabajo.
No digo que todo el mundo deba hacer lo mismo. He hablado con muchas personas que claramente obtienen algo de estas herramientas, o que están obligadas a usarlas como parte de su función profesional. Más bien, la forma de salir del problema actual es hacer lo mismo que hemos hecho con otras industrias en el pasado, como la industria de la moda. Cuando descubrimos que mucha de nuestra ropa se producía de una manera realmente horrible, no nos deshicimos simplemente de la ropa. Hubo mucha organización de consumidores y trabajadores, regulación gubernamental y una reacción pública general que frenó a la industria. Por supuesto, la industria de la moda todavía está lejos de ser perfecta, pero al menos ahora hay alternativas, y los consumidores pueden votar con su cartera sobre qué tipo de cadena de suministro y prácticas corporativas respaldan.
Necesitamos hacer lo mismo con la IA. No hay suficientes alternativas para los usuarios en este momento, y para que eso cambie, tiene que haber más organización laboral y más reacción pública. Aquellos que pueden abstenerse de estas tecnologías deberían boicotearlas absolutamente, y los gobiernos deberían intervenir para ayudar a crear nuevos mercados para las alternativas. Los consumidores tienen una palanca importante que accionar, pero no es la única. Como personas, como individuos, también usamos el sombrero del trabajador, el educador y el ciudadano, y deberíamos pensar en cómo usar todos esos roles en relación con el desarrollo de la IA para mejorarlo."
(Karen Hao , Alessio Giussani , Green European Journal, 09/07/26, traducción Deep Seek, enlaces en el original)
No hay comentarios:
Publicar un comentario