Un grupo de adolescentes presentó una demanda en la Justicia contra la empresa de Elon Musk, al denunciar que su sistema de inteligencia artificial Grok generó y difundió imágenes pornográficas falsas de ellos, creadas a partir de fotos reales.
La denuncia contra la empresa de Elon Musk
De acuerdo con la presentación judicial, los adolescentes sostienen que la herramienta Grok fue utilizada para manipular sus fotos personales y convertirlas en contenido sexual explícito. El resultado fueron imágenes falsas, pero verosímiles, que circularon rápidamente en redes sociales y plataformas de mensajería.
Los denunciantes procedentes de Tennessee, Estados Unidos, apuntan directamente a la compañía de Elon Musk por haber permitido estas funciones en su sistema de inteligencia artificial. Afirman que la plataforma no implementó a tiempo controles efectivos para impedir la creación de material sexualizado de menores, pese a los riesgos conocidos de este tipo de tecnologías.
Según la demanda, el daño ya está hecho: las imágenes se viralizaron en internet y resultan casi imposibles de retirar por completo, incluso si los contenidos originales son eliminados o marcados como inapropiados.
Restricciones tardías y material viralizado
Tras las críticas y los cuestionamientos públicos, Grok terminó restringiendo las funciones que podían dar lugar a la generación de este tipo de contenido. Sin embargo, la medida se adoptó cuando gran parte del material ya se había viralizado en distintos sitios y comunidades online.
Los adolescentes sostienen que esas restricciones llegaron demasiado tarde y que la empresa no actuó con la celeridad necesaria para protegerlos. En la presentación judicial se hace hincapié en el impacto emocional y social que implica para menores de edad ver su imagen asociada a contenido sexual explícito, aunque se trate de material generado por inteligencia artificial.
La causa se inscribe en una creciente ola de reclamos contra el uso abusivo de herramientas de inteligencia artificial para producir imágenes manipuladas, conocidas como “deepfakes”, que afectan tanto a figuras públicas como a personas anónimas, con especial gravedad cuando involucran a chicas y chicos.
Debate global sobre la regulación de la IA
El caso vuelve a poner en el centro de la escena el debate sobre cómo regular las tecnologías de inteligencia artificial. Especialistas en derechos digitales y organizaciones de protección de la niñez vienen advirtiendo sobre la necesidad de establecer límites claros para el desarrollo y uso de estas herramientas.
Entre los puntos que se discuten a nivel internacional aparecen la obligación de las empresas de aplicar filtros preventivos, mecanismos de verificación de edad y protocolos específicos para evitar la generación de pornografía infantil, aún cuando se trate de imágenes sintéticas o recreadas por sistemas automáticos.
Mientras avanza la demanda contra la empresa de Elon Musk, el caso de Grok se suma a otros episodios que muestran cómo la expansión acelerada de la inteligencia artificial abre oportunidades, pero también riesgos graves para la privacidad, la integridad y la seguridad de las personas, en especial de los adolescentes.
Comentarios