Grok, bajo la lupa europea por generar fotos de desnudos: "El daño que se causa no es falso, es real"

Esta semana, Grok, la IA de Elon Musk en X, ha limitado la edición de imágenes en la red social tras la polémica por la constante petición de usuarios de desnudar personas en la plataforma.

Eso sí, la restricción es que esa petición solo la van a poder hacer ahora los usuarios de pago. Un pequeño cambio que sigue dejando demasiadas dudas y miedos por todo lo que esta aplicación puede hacer.

"Hay algunas inteligencias artificiales, pero fundamentalmente Grok, que están facilitando que algunos usuarios malintencionados cojan una imagen real, de una persona real, y la modifiquen para convertirla en una imagen de carácter erótico, sexual y con desnudos", describe la situación José Gabriel García, de la Agencia PHI.

Está generando y compartiendo con el resto del mundo casi 7.000 fotos de desnudos a cada hora, de los cuales ocho de cada 10 son de mujeres. Y la facilidad para conseguirlo ayuda mucho: "Simplemente con una instrucción tan sencilla, cualquier persona sin conocimiento de diseño puede modificar esas fotos".

Ahora bien, desde este fin de semana, cuando subimos una foto y le pedimos que quite la ropa o que desnude, lo que nos pide es que paguemos. Menos de 10 euros al mes es lo que cuesta hacer todas las que queramos. Y tras pagar, entonces ya sí que nos deja manipular cualquier foto. Lo que antes era sencillo y gratis, ahora es sencillo y barato.

"El daño que se le causa a esas personas no es falso, es real. Es un nuevo tipo de abuso digital que están haciendo ahora. Es violencia digital", denuncia José Gabriel García. Y con ella está haciendo caja Elon Musk, al que todo esto le parece poco más que una broma.

"Una cosa es que no sea delito poner en bikini a alguien, si es desnudo sí puede ser un delito contra la intimidad o contra la integridad moral. Y otra cosa es que no todo lo que no es delito es legal. El problema es de consentimiento. Tú no puedes hacer nada con la foto de otra persona sin su consentimiento ", señala Borja Adsuara, profesor de Derecho Digital en la Universidad de Villanueva.

Francia, Reino Unido y Australia ya lo están investigando. Y en España, el Ministerio de Juventud se lo ha pedido a la Fiscalía: "Ya ha funcionado por ejemplo en el caso de los chicos de Almendralejo y en algunos otros que se dedicaban también a desnudar a sus compañeras de clase, o por encargo".

Mientras tanto, la Comisión Europea acaba de sancionar a X con una multa millonaria por falta de transparencia. Ahora, le ordena que no borre nada relacionado con estos desnudos.

*Sigue a laSexta en Google. Toda la actualidad y el mejor contenido aquí.