Suscríbete a nuestro canal
Los legisladores de la Unión Europea aprobaron este miércoles la prohibición de los sistemas de IA que generan deepfakes sexualizados. Esta decisión surge tras la indignación mundial por las imágenes de desnudos no consentidas que creó el chatbot Grok, propiedad de Elon Musk.
Los Estados miembros de la UE respaldaron la semana pasada la restricción de las denominadas aplicaciones de desnudez. Dicha medida forma parte de las propuestas actuales para modificar las normas sobre inteligencia artificial que rigen en el bloque europeo.
La diputada del grupo de los Verdes, Kim van Sparrentak, calificó este avance como un logro fundamental para la seguridad ciudadana. La funcionaria afirmó lo siguiente respecto al acuerdo: “Esta es una gran victoria, especialmente para las mujeres y los niños en Europa”.
Te puede interesar:
Prohibición de aplicaciones de desnudez en Europa
Por otra parte, la diputada señaló que muchas víctimas enfrentan situaciones críticas al hallar material íntimo generado sin su permiso. Van Sparrentak añadió que muchas personas despiertan desesperadas tras encontrar fotos íntimas de sí mismas, “sintiéndose violadas, intimidadas y acosadas”.
En consecuencia, los legisladores de la comisión de libertades civiles del Parlamento Europeo otorgaron su voto a favor durante la jornada del miércoles. Este trámite administrativo prepara el terreno para la aprobación definitiva por la Asamblea General programada para el 26 de marzo.
Adicionalmente, el eurodiputado irlandés Michael McNamara lidera los trabajos técnicos sobre este expediente de inteligencia artificial. McNamara explicó que la prohibición busca eliminar las “aplicaciones de desnudez sin consentimiento, que han causado mucho sufrimiento para el beneficio de algunos”.
Investigación de la Comisión Europea sobre el chatbot Grok
Asimismo, la plataforma X comunicó en enero que mantiene una política de “tolerancia cero” con los deepfakes sexualizados de niños y mujeres. La red social de Musk implementó diversas medidas de seguridad para intentar detener esta práctica tras las críticas recibidas.
Paralelamente, la Comisión Europea, que actúa como organismo de control digital, inició en enero una investigación formal sobre el chatbot Grok. Los expertos analizan el comportamiento de esta herramienta bajo el marco de las actuales normas de la UE sobre contenidos en línea.
Finalmente, la prohibición adquirirá el rango de ley una vez que concluyan las negociaciones sobre el texto final del reglamento. Este proceso integra las modificaciones al reglamento de inteligencia artificial que debaten actualmente el Parlamento Europeo y los Estados miembros.
Información: AFP