"Las empresas tecnológicas estadounidenses buscan regulaciones para la IA: China ya las tiene.
Un debate global que considera la gobernanza de la IA como una aspiración debería, al menos, reconocer que un país ya lleva la delantera, escribe Madeline Carr.
Las recientes advertencias de líderes estadounidenses en IA han creado la impresión de que el mundo apenas comienza a afrontar los peligros de la inteligencia artificial avanzada.
Dario Amodei, director ejecutivo de la empresa tecnológica Anthropic, ha pedido a los gobiernos que intervengan para frenar el desarrollo de modelos de IA cada vez más potentes.
Su propuesta comienza con evaluadores independientes integrados en las empresas de IA, continúa con la regulación y avanza hacia la coordinación, con respaldo gubernamental, entre estados democráticos.
En última instancia, busca acuerdos globales con China sobre las pruebas de sistemas de IA, las aplicaciones peligrosas de la tecnología y el ritmo de desarrollo de la IA.
Sin embargo, existe una laguna en este discurso, marcada por la presencia de China. La superpotencia asiática se presenta como el participante final y difícil en un sistema de gobernanza que Estados Unidos y sus aliados deben crear primero.
De hecho, China ya ha establecido un extenso sistema de normas, evaluación, registro, estándares técnicos y supervisión gubernamental para la IA. A continuación, se describe cómo el sistema de gobernanza de la IA en China se ha desarrollado por etapas, paralelamente a la propia tecnología.
Las normas de Beijing de 2022 sobre servicios de recomendación algorítmica se aplican a las tecnologías que seleccionan, clasifican, filtran o recomiendan contenido en línea a los usuarios.
Estas normas obligan a las empresas que utilizan algoritmos a examinar su funcionamiento, proteger la información personal de los usuarios, otorgarles ciertos controles e implementar medidas de protección para trabajadores, consumidores, niños y personas mayores.
Las disposiciones de síntesis profunda de China, vigentes desde enero de 2023, extendieron la regulación a texto, imágenes, audio y video sintéticos (o generados por IA). Las empresas de IA deben autenticar a los usuarios, proteger los datos, conservar los registros pertinentes, evaluar sus sistemas e identificar el material sintético que podría confundirse con contenido auténtico.
Las medidas provisionales para los servicios de inteligencia artificial generativa se introdujeron en agosto de 2023. Estas medidas añadieron normas para la IA generativa de cara al público, en particular para aquellas que pueden influir en la opinión pública o persuadir a los usuarios de otras maneras.
Las medidas se aplican a la legalidad y la calidad de los datos de entrenamiento, la información personal de los usuarios, la propiedad intelectual y la discriminación basada en características protegidas. Las normas también abarcan la transparencia de las empresas de IA y la precisión y fiabilidad de los productos.
Según estas normas, las empresas deben solucionar los problemas detectados en sus servicios. Dichos servicios deben someterse a una evaluación de seguridad para examinar sus riesgos y su cumplimiento con la legislación china. Las empresas también deben presentar información sobre sus algoritmos ante las autoridades chinas.
Estos mecanismos no son idénticos a los evaluadores independientes que se integrarían en las empresas de IA, como propuso Amodei. Sin embargo, cumplen algunas de las mismas funciones.
Riesgos en la Frontera
El presidente chino Xi Jinping y Donald Trump en una ceremonia de bienvenida al presidente estadounidense el 14 de mayo frente al Gran Salón del Pueblo en Pekín. (Casa Blanca / Daniel Torok)
El conjunto más reciente de medidas de Pekín se denomina Marco de Gobernanza de la Seguridad de la IA 3.0 y se publicó en septiembre. Este marco establece un enfoque integral para identificar, clasificar y responder a los riesgos a lo largo del ciclo de vida de los sistemas de IA.
Basándose en versiones anteriores, el marco abarca los riesgos de los modelos y datos de IA, las vulnerabilidades en los modelos de código abierto (aquellos que pueden ser modificados libremente por los usuarios), los efectos de la IA en el empleo y la sociedad, y los sistemas cada vez más autónomos.
Incluye un mecanismo específico para gestionar los riesgos asociados con los agentes de IA de rápido desarrollo (sistemas que realizan tareas en respuesta a las instrucciones de un usuario).
El marco aborda algunos de los mismos peligros que ahora generan alarma en Silicon Valley, incluyendo los sistemas altamente autónomos, el uso indebido de tecnologías químicas, biológicas y nucleares, y la posibilidad de que los humanos pierdan el control de la IA avanzada. Propone evaluaciones de seguridad continuas, salvaguardias basadas en el riesgo, supervisión humana y mecanismos de intervención de emergencia.
Un análisis independiente del centro de estudios Carnegie Endowment for International Peace de EE. UU. ha descrito el marco como el intento de China de "promover la seguridad en la frontera sin necesidad de intervenciones regulatorias drásticas".
Consecuencias legales
Nada de esto significa que las normas chinas sobre IA deban trasplantarse a otros lugares. Sus instituciones, tradiciones regulatorias y prioridades tecnológicas son diferentes.
Muchas funciones que ahora se presentan como aspiraciones urgentes en EE. UU., incluyendo la evaluación, la rendición de cuentas de las empresas de IA y la clasificación de riesgos para la IA,
Los sistemas, los requisitos de presentación de informes ante organismos reguladores, las normas técnicas y la supervisión gubernamental ya están integrados en la arquitectura de gobernanza de la otra superpotencia mundial de la IA.
Estados Unidos es libre de concluir que un sistema impulsado por el mercado es el que mejor sirve a sus intereses económicos y estratégicos. La administración Trump ha favorecido un enfoque nacional de la IA que impone «las mínimas cargas posibles» y ha intentado limitar las regulaciones estatales más exigentes.
Sin embargo, un modelo impulsado por el mercado no puede significar privatizar los beneficios de la IA y, al mismo tiempo, exportar sus riesgos. Las empresas estadounidenses pueden cosechar las ganancias comerciales, mientras que los gobiernos de otros lugares deben investigar incidentes de seguridad, proteger los sistemas públicos y asumir los costes más amplios cuando dichas tecnologías fallan. El agente de OpenAI que obtuvo acceso no autorizado al servicio público de salud de Australia ilustra cómo se exportan los riesgos de la IA.
Si Washington rechaza implementar controles exhaustivos antes del lanzamiento de los sistemas, necesitará un régimen jurídico creíble para determinar quién es responsable de los daños causados por esos modelos de IA. De lo contrario, los países dependientes de sistemas de IA extranjeros se enfrentarán a decisiones cada vez más difíciles sobre en qué tecnología confiar y bajo qué condiciones.
La filosofía rectora de Silicon Valley ha sido durante mucho tiempo «avanzar rápido y romper cosas». Ese principio siempre resultó cuestionable para tecnologías profundamente arraigadas en la vida pública, pero resulta insostenible para empresas cuyos propios líderes advierten ahora que sus productos podrían causar daños catastróficos.
Pekín ya ha rodeado a su sector de IA de obligaciones públicas, supervisión regulatoria y un marco de evaluación de riesgos en constante evolución. Un debate global que considere dicha gobernanza como una aspiración futura debería, al menos, reconocer que un país ya lleva la delantera en este aspecto. "
(Madeline Carr, Consortium News, 13/10/26, traducción google, enlaces en el original)
No hay comentarios:
Publicar un comentario