"Una serie de comentarios en alabanza a Hitler por parte del chatbot de inteligencia artificial Grok de Elon Musk ha motivado a los responsables políticos europeos a exigir una acción más contundente contra las empresas de Big Tech, mientras el bloque da otro paso para hacer cumplir sus leyes.
El chatbot de Musk esta semana generó críticas por hacer publicaciones antisemitas que incluían la glorificación del líder nazi Adolf Hitler como la persona mejor situada para lidiar con el supuesto "odio anti-blanco", después de que X actualizara su modelo de IA durante el fin de semana.
Las últimas respuestas groseras del chatbot hicieron que los responsables políticos de la UE aprovecharan la oportunidad para exigir reglas estrictas para los modelos de IA más complejos y avanzados, como el que sustenta a Grok, en una nueva guía de la industria que se espera para el jueves.
También ha puesto el foco en la gestión de la UE sobre X, que está bajo investigación por violar las leyes de redes sociales del bloque.
El incidente de Grok "destaca los riesgos muy reales que la Ley de IA de la [UE] fue diseñada para abordar", dijo el eurodiputado italiano del Partido Socialista Europeo Brando Benifei, quien lideró el trabajo en el libro de reglas de la IA de la UE que se convirtió en ley el año pasado.
"Este caso solo refuerza la necesidad de una regulación de la UE sobre los modelos de chat de IA," dijo la legisladora danesa del Partido Socialdemócrata Christel Schaldemose, quien lideró el trabajo en la Ley de Servicios Digitales de la UE, diseñada para abordar contenido peligroso en línea como el discurso de odio.
El propietario de Grok, xAI, eliminó rápidamente las "publicaciones inapropiadas" y declaró el miércoles que había tomado medidas para "prohibir el discurso de odio antes de que Grok publique en X", sin aclarar qué implica esto.
La guía de la UE es una herramienta de cumplimiento voluntario para las empresas que desarrollan modelos de IA de propósito general, como GPT de OpenAI, Gemini de Google o Grok de X.
La Comisión Europea presentó la semana pasada a puerta cerrada, según POLITICO, una presentación que sugería que eliminaría demandas de borradores anteriores, incluyendo una que requería a las empresas compartir información sobre cómo abordan los riesgos sistémicos derivados de sus modelos.
Los legisladores y los grupos de la sociedad civil dicen temer que la orientación sea débil para asegurar que las empresas de IA que lideran se adhieran a las reglas voluntarias.
Munición
Después de que ChatGPT aterrizara en noviembre de 2022, los legisladores y los países de la UE añadieron una parte a la nueva ley de IA acordada por la UE, destinada a restringir los modelos de IA de propósito general, que pueden realizar varias tareas a petición. El GPT de OpenAI es un ejemplo, al igual que Grok de xAI.
Esa parte de la ley entrará en vigor en tres semanas, el 2 de agosto. Describe una serie de obligaciones para empresas como xAI, incluyendo cómo divulgar los datos utilizados para entrenar sus modelos, cómo cumplen con la ley de derechos de autor y cómo abordan varios riesgos "sistémicos".
El incidente de Grok "destaca los riesgos muy reales que la Ley de IA de la [UE] fue diseñada para abordar", dijo el legislador italiano del Parlamento Europeo Brando Benifei, quien lideró el trabajo en el libro de reglas de IA de la UE que entró en vigor el año pasado. | Wael Hamzeh/EPA
Pero mucho depende de la guía de cumplimiento voluntario que la Comisión ha estado desarrollando durante los últimos nueve meses.
El miércoles, un grupo de cinco destacados legisladores expresó su "gran preocupación" por "la eliminación de última hora de áreas clave del código de práctica, como la transparencia pública y el debilitamiento de las disposiciones de evaluación y mitigación de riesgos."
Esos legisladores ven los comentarios de Grok como una prueba más de la importancia de una orientación sólida, que ha sido fuertemente objeto de cabildeo por parte de la industria y la administración de EE. UU.
"La Comisión tiene que oponerse firmemente a estas prácticas bajo la Ley de IA," dijo la eurodiputada de los Verdes de los Países Bajos, Kim van Sparrentak. Pero "parece que están dejando que Trump y su oligarquía de tecnólogos presionen para desmantelar las reglas de la IA a través del código de práctica."
Una de las áreas de controversia en la guía de la industria se relaciona directamente con el fiasco de Grok.
En los últimos borradores, el riesgo derivado del contenido ilegal ha sido rebajado a uno que las empresas de IA podrían considerar abordar, en lugar de uno que deban.
Eso ha provocado una fuerte resistencia. El código de la industria debería ofrecer “orientaciones claras para asegurar que los modelos se desplieguen de manera responsable y no socaven los valores democráticos o los valores fundamentales,” dijo Benifei.
La jefa de tecnología de la Comisión, Henna Virkkunen, describió el trabajo en el código de prácticas como "bien encaminado" en una entrevista con POLITICO la semana pasada.
Riesgos
La Comisión también señaló su trabajo de aplicación en curso bajo la Ley de Servicios Digitales, su histórica regulación de plataformas, cuando se le preguntó sobre el arrebato antisemita de Grok.
Aunque no hay reglas de la UE sobre qué es el contenido ilegal, muchos países criminalizan el discurso de odio y, en particular, los comentarios antisemitas.
Los modelos de lenguaje grandes integrados en plataformas en línea muy grandes, que incluyen a X, “pueden tener que ser considerados en las evaluaciones de riesgo” que las plataformas deben completar y “entrar dentro de los requisitos de auditoría de la DSA,” dijo el portavoz de la Comisión, Thomas Regnier, a POLITICO.
El problema es que la UE aún no ha concluido ninguna acción contra X a través de su ley de amplio alcance.
La Comisión lanzó en enero una investigación multiempresa sobre la IA generativa en las plataformas de redes sociales, centrada en las alucinaciones, la manipulación de votantes y los deepfakes.
En el último informe de evaluación de riesgos de X, donde la plataforma describe las posibles amenazas al discurso cívico y las medidas de mitigación, X no mencionó ningún riesgo relacionado con la IA y el discurso de odio.
Ni X ni la Comisión respondieron a las preguntas de POLITICO sobre si se ha presentado una nueva evaluación de riesgos para Grok después de que se pusiera a disposición de todos los usuarios de X en diciembre.
El eurodiputado liberal francés Sandro Gozi dijo que preguntaría a la Comisión si la Ley de IA y la DSA son suficientes para "prevenir tales prácticas" o si se necesitan nuevas reglas."
( Pieter Haeck and Eliza Gkritsi , POLITICO, 09/07/25, traducción Quillbot, enlaces en el original)
"Un tribunal turco bloqueó el miércoles el acceso al chatbot Grok, operado por xAI de Elon Musk, después de que generara respuestas ofensivas sobre el presidente Recep Tayyip Erdoğan, el fundador de la república Mustafa Kemal Atatürk y los valores religiosos.
La noticia llega en un momento en que Grok enfrenta una fuerte reacción por las declaraciones nazis que produjo en los últimos días. El chatbot también ha enfurecido al gobierno de Varsovia con comentarios ofensivos dirigidos a políticos polacos, incluyendo al Primer Ministro Donald Tusk.
La Fiscalía General de Ankara inició una investigación contra Grok el miércoles por la mañana "en respuesta a los insultos de Grok contra Atatürk, nuestro estimado Presidente, y el Profeta," dijo en un comunicado.
Según la ley de Turquía — un país de 85 millones de personas — tales insultos son castigables con hasta cuatro años de prisión.
El Tribunal de Paz Penal del país concedió la solicitud del fiscal para bloquear el acceso a Grok, y la autoridad de telecomunicaciones está aplicando ese bloqueo a los proveedores de acceso a internet, añadió.
La noticia se volvió viral rápidamente en X turco. Algunos usuarios compartieron fotos de robots siendo arrestados por la policía turca, mientras que otros retrataron a Grok como parte de la oposición al gobierno de Erdoğan.
Según Yaman Akdeniz, profesor de derechos humanos y activista de derechos digitales, las autoridades habían identificado alrededor de 50 publicaciones para su eliminación, citando la "protección del orden público."
El representante legal de X en Turquía, Gönenç Gürkaynak, comentó en la plataforma que nunca imaginó que algún día Grok podría necesitar ser defendido contra una acusación penal directa.
El martes, Grok fue criticado por publicar mensajes antisemitas y elogios a Adolf Hitler. En mayo enfrentó críticas por sus respuestas relacionadas con las afirmaciones de "genocidio blanco" en Sudáfrica.
El miércoles, el Ministro de Asuntos Digitales de Polonia, Krzysztof Gawkowski, dijo a la emisora RMF 24 que "consideraría" cerrar X si las autoridades encontraran violaciones de la ley, respondiendo a informes de que el chatbot también había generado comentarios vulgares e insultantes sobre políticos como Tusk.
"La libertad de expresión pertenece a los humanos, no a la inteligencia artificial," dijo Gawkowski. Polonia planea informar los comentarios de Grok a la Comisión Europea, añadió.
El equipo detrás de Grok dijo el miércoles temprano que está "trabajando activamente para eliminar las publicaciones inapropiadas." Dijo que "xAI ha tomado medidas para prohibir el discurso de odio antes de que Grok publique en X."
POLITICO ha contactado a X para obtener un comentario."
(Elçin Poyrazlar , POLITICO, 09/07/25, traducción Quillbot, enlaces en el original)
No hay comentarios:
Publicar un comentario