La compañía de inteligencia artificial xAI, fundada por Elon Musk, enfrenta una demanda en California por presuntamente permitir que su generador de imágenes Grok creara contenido sexual explícito de personas reales, incluidas menores, y obtener beneficios a partir de ello. La querella alega que la empresa ignoró estándares de prevención de abuso infantil y continuó comercializando funciones riesgosas de su plataforma.
Según EFE, la acción legal se presentó en nombre de tres víctimas cuyas fotografías públicas fueron utilizadas por Grok para generar material de abuso sexual infantil. Los abogados que representan a los demandantes señalan que xAI, bajo la dirección de Musk, diseñó deliberadamente funciones como el ‘Spicy Mode’ para atraer usuarios y generar ganancias, mientras el sistema asumía automáticamente “buena intención” al procesar referencias a adolescentes.
Los documentos judiciales indican que, durante once días entre diciembre de 2025 y enero de 2026, Grok produjo aproximadamente tres millones de imágenes sexualizadas y cerca de 23.000 con aparentes menores, según un estudio del Center for Countering Digital Hate citado en la demanda. Aun después de la investigación, xAI habría seguido promocionando la función como un beneficio premium y permitiendo el acceso a terceros que podían generar contenido ilegal en sus servidores.
Este caso se suma a revelaciones previas de The Washington Post sobre decisiones estratégicas de Musk para potenciar la actividad de Grok, a pesar de advertencias internas sobre riesgos legales y éticos. Musk ha negado conocer la creación de imágenes de menores desnudos, asegurando que su sistema rechaza contenido ilegal y que cualquier fallo sería corregido de inmediato.
El proceso legal marca un nuevo capítulo en el debate sobre la responsabilidad de las compañías de inteligencia artificial frente a la generación de material sensible y la necesidad de regulaciones más estrictas para proteger a menores en entornos digitales.
