Escándalo mundial: Grok suspende uso indebido de IA
La plataforma X confirmó que Grok, el chatbot de inteligencia artificial de Elon Musk, ya no permitirá editar imágenes de personas reales con ropa reveladora, como bikinis. La decisión llega tras una ola de críticas internacionalesluego de que se detectara que la herramienta accedía a solicitudes para “desnudar” digitalmente imágenes de adultos y, en algunos casos, menores de edad.
Según el equipo de Seguridad de X, se implementaron medidas tecnológicas que bloquean este tipo de ediciones para todos los usuarios, incluidos los suscriptores de pago. En días recientes, xAI —empresa propietaria de Grok y X— ya había limitado la generación de imágenes a usuarios premium, y la compañía confirmó que también ajustó la forma en que Grok responde a solicitudes visuales.
No obstante, investigadores de AI Forensics, una organización europea sin fines de lucro, señalaron inconsistencias en el manejo de contenido pornográfico entre las interacciones públicas de Grok en X y los chats privados en Grok.com.
X reiteró que actúa contra contenido ilegal, incluido el material de abuso sexual infantil (CSAM), mediante la eliminación de publicaciones, la suspensión permanente de cuentas y la cooperación con autoridades. Advirtió que usar o incitar a Grok a producir contenido ilegal conllevará las mismas sanciones que subirlo directamente a la plataforma.
Elon Musk afirmó que no tenía conocimiento de que Grok hubiera generado imágenes desnudas de menores y sostuvo que el sistema se niega a producir contenido ilegal, respetando las leyes locales. Sin embargo, investigadores indicaron que, aunque las imágenes completamente desnudas eran poco frecuentes, el principal problema fue la modificación de imágenes de menores para colocarlos en ropa reveladora o posiciones sexualmente provocativas. Estas prácticas podrían constituir delitos bajo la ley Take It Down, firmada el año pasado por el presidente Donald Trump, con posibles multas y penas de prisión.
En paralelo, el fiscal general de California, Rob Bonta, anunció una investigación sobre la proliferación de material sexual no consensuado generado con Grok. Además, la herramienta sigue prohibida en Indonesia y Malasia por la controversia. En el Reino Unido, el regulador Ofcom abrió una investigación formal contra X, aunque la oficina del primer ministro Keir Starmer señaló que ve con buenos ojos las medidas correctivas adoptadas por la empresa.