Europa investigará a Grok, la IA de Elon Musk, por crear imágenes sexuales de menores

La Comisión Europea ha abierto una investigación a X, la red social propiedad de Elon Musk , que podría forzar la retirada de Grok de todo el mercado europeo. La decisión de la Comisión, adelantada en la mañana de este lunes por el medio alemán ' Handelsblatt ', ha sido provocada por el reciente uso de Grok por parte de usuarios para la generación de imágenes de carácter sexual de hombres, mujeres y menores de edad reales. Algo que, de acuerdo con expertos consultados por ABC durante las últimas semanas, va en contra de la normativa europea. "Las 'deepfakes' sexuales de mujeres y niños son una forma violenta e inaceptable de degradación. Con esta investigación, determinaremos si X cumplió con sus obligaciones legales bajo la Ley de Servicios Digitales (DSA) o si trató los derechos de los ciudadanos europeos, incluidos los de mujeres y niños, como daños colaterales de su servicio", ha señalado en un comunicado Henna Virkkunen, vicepresidenta ejecutiva de Soberanía Tecnológica de la UE. Con esta investigación, la UE tratará de descubrir si xAI evaluó y mitigó adecuadamente los potenciales riesgos de Grok cuando lanzó el chatbot. Aquí se incluyen los riesgos relacionados con la difusión de contenido ilegal en Europa, como podría ser el caso de que el chatbot fuera empleado para la creación de imágenes sexualmente explícitas. Algo para lo que la herramienta ya ha sido explotada. De acuerdo con un estudio elaborado recientemente por el Centro para la Lucha contra el Odio Digital, Grok fue empleado, entre el pasado 29 de diciembre y el 8 de enero, para la creación con IA de 3 millones de imágenes sexualizadas realistas a partir de fotografías auténticas. Entre ellas, 23.000 de niños. El día 14, xAI anunció que había tomado medidas para evitar que esta clase de contenido pudiese seguir siendo creado; sin embargo, ABC, como otros medios, comprobó que seguía siendo muy sencillo saltarse las nuevas barreras de seguridad del chatbot . De acuerdo con 'Handelsblatt', la UE tenía intención de iniciar el procedimiento el pasado lunes. Finalmente, se decidió paralizarlo durante una semana, ya que se dio prioridad a la negociación sobre la posible imposición de nuevos aranceles a Estados Unidos a raíz de las recientes declaraciones del presidente, Donald Trump, acerca del futuro de Groenlandia; territorio que el dirigente quiere anexionar al país. EN DESARROLLO