Indonesia y Malasia se convirtieron en los primeros países del mundo en bloquear el acceso al chatbot de inteligencia artificial Grok, desarrollado por la empresa xAI de Elon Musk. Esto después de que se detectara un uso generalizado de la herramienta para generar imágenes sexualmente explícitas y deepfakes no consensuados.
Luego del incidente a principios de enero de 2026, creció la preocupación a nivel mundial sobre la falta de salvaguardas eficaces en herramientas de IA generativa. Misma que permiten crear y diseminar contenidos manipulados de alto riesgo ético y legal.
Los gobiernos de Indonesia y Malasia señalaron que las medidas de control existentes no son suficientes para impedir la creación y difusión de contenido pornográfico falso. El Ministerio de Comunicaciones de Indonesia calificó los deepfakes sexuales no consensuados como una “grave violación de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital”.
En Indonesia, el bloqueo fue anunciado el sábado. Por su parte, en Malasia la Comisión de Comunicaciones y Multimedia ordenó la restricción del servicio el domingo. Esto tras constatar un “uso indebido repetido” de Grok para generar imágenes obscenas y sexualmente explícitas.
Respuesta de xAI
Ante la polémica, xAI implementó restricciones en Grok para limitar la generación y edición de imágenes únicamente a usuarios de pago. Aunque críticos aseguran que dichas medidas no son suficientes para frenar el abuso de la herramienta.
La empresa ha defendido su tecnología con respuestas automáticas a solicitudes de comentarios. Pero, no ha ofrecido una solución técnica clara para evitar el mal uso de su IA.
Reino Unido investiga también
El caso ha generado presión internacional en otros países. En el Reino Unido, el regulador de comunicaciones Ofcom lanzó una investigación formal para evaluar si X, la plataforma que aloja Grok, ha fallado en sus obligaciones legales de protección contra contenido dañino. Incluyendo deepfakes sexuales y material de abuso infantil.
El gobierno británico planea criminalizar la creación de imágenes íntimas no consensuadas generadas por IA dentro de su marco legal de seguridad en internet.
Organismos en la Unión Europea, India, Francia y otras naciones también han expresado su preocupación. Analizan posibles medidas regulatorias para controlar las capacidades de las herramientas de IA generativa.