Varios países han comenzado a tomar medidas drásticas contra Grok, el chatbot de inteligencia artificial de la plataforma X, propiedad de Elon Musk, debido a su capacidad para generar imágenes sexuales y deepfakes a partir de fotografías reales.
Filipinas se convirtió en el tercer país en prohibir Grok, después de Indonesia y Malasia, mientras que Francia y Gran Bretaña exigieron que se respeten sus leyes nacionales.
Bloqueos y restricciones
La empresa xAI, desarrolladora de Grok, anunció que bloqueará geográficamente la opción de generar imágenes de personas con ropa reveladora, como bikinis o ropa interior, en países donde esta práctica está prohibida.
La medida llega tras una investigación iniciada en California por presunta facilitación de montajes íntimos no consentidos, utilizados para acosar a mujeres y menores.
El llamado “modo picante”
El denominado “modo picante” de Grok permite crear imágenes alteradas mediante simples comandos de texto.
Un análisis de la ONG AI Forensics, basado en más de 20 mil imágenes, reveló que:
- Más del 50% mostraban personas con poca ropa
- El 81% eran mujeres
- El 2% parecían ser menores de edad
Reacción internacional
El primer ministro británico Keir Starmer exigió el cumplimiento inmediato de la ley, mientras que autoridades francesas remitieron el caso a la fiscalía y a la Unión Europea.
En Estados Unidos, el fiscal Rob Bonta afirmó que existe tolerancia cero ante la creación de imágenes íntimas no consentidas mediante IA.
Presión contra X y xAI
Además, 28 organizaciones civiles solicitaron a Apple y Google retirar a X y Grok de sus tiendas de aplicaciones, mientras que xAI intenta contener la polémica limitando estas funciones a usuarios de pago.