Expertos proponen el buen uso de la IA y una adaptación del sistema judicial para combatir la violencia digital de género

Expertos en la materia han propuesto, como medidas para combatir la violencia digital de género, el uso de la inteligencia artificial (IA) para detectar casos de lenguaje abusivo y herramientas que identifiquen y eliminen contenidos no consentidos; y la adaptación del sistema judicial actual para proteger los derechos en la era digital.

Lo han hecho en el marco del debate 'Cómo afrontar la violencia digital de género', que ha acogido el Palau Macaya de la Fundación La Caixa en el marco del ciclo 'Nuestros derechos en la era digital', organizado junto al Observatorio de Derechos Digitales, informa Fundación La Caixa en un comunicado.

En esta sesión han participado Eleonora Espósito, investigadora de la Universidad de Navarra y experta nacional destacada de la Comisión Europea; Yolanda Domínguez, artista visual, activista y consultora y formadora en comunicación igualitaria; y Gabriel González Fernández, fiscal delegado de Criminalidad Informática. Olivia Blanchard, consultora e investigadora especializada en el impacto de la tecnología en la sociedad y directora científica del ciclo, ha sido la responsable de moderarla.

Esta es la primera de las cuatro sesiones del ciclo, una iniciativa público-privada impulsada por Red.es, entidad adscrita al Ministerio para la Transformación Digital y de la Función Pública, y que tiene como objetivo que los expertos y expertas abran un debate sobre el impacto de la digitalización en nuestros derechos en diferentes ámbitos de la vida: las relaciones afectivas, la salud, el trabajo, y nuestra relación con la administración pública.

Expertos proponen el buen uso de la IA y una adaptación del sistema judicial para combatir la violencia digital de géneroLa Caixa

En este primer bloque del debate, los expertos han puesto de relieve la gravedad de la violencia digital de género. Eleonora Espósito ha explicado que, a través de amenazas, acoso, difusión no consentida de contenido íntimo o campañas de desprestigio, miles de mujeres y niñas son atacadas a diario en redes sociales, foros y plataformas de mensajería.

La experta ha descrito la violencia digital de género como "una extensión de violencia machista adaptada al siglo XXI y que debe ser enfrentada con la misma seriedad, recursos y urgencia que cualquier otra forma de violencia de género".

También ha añadido que "la violencia digital de género se muestra de diferentes maneras, como por ejemplo a través de la sextorsión o el hostigamiento ordenado, violencia digital que pueden sufrir las mujeres que tienen un cargo público".

Por otro lado, Gabriel González ha hablado desde su experiencia como fiscal delegado en criminalidad informática sobre los cambios que ha visto en los últimos años, en cuanto al tipo de violencias en general y en específico, en las violencias de género, además de abarcar retos que plantea el uso de las nuevas tecnologías.

En este sentido, González ha destacado que "el mundo analógico se ha trasladado al digital, y que se necesitan las reformas legislativas pertinentes para que la ley se pueda adaptar".

El fiscal también ha alertado, poniendo ejemplos como que, "a través de las tecnologías se puede hacer mucho daño y que desde los tribunales se debería, por ejemplo, prohibir a los agresores que puedan comunicarse a través de ellas". Para González, "actualmente, a través de las redes se puede cometer cualquier delito, trasladado a la violencia de género es muy peligroso, por esta razón hay que modificar el código penal".

Fórmulas para combatir la violencia de género

Espósito ha subrayado que hay dos medidas importantes a nivel europeo: "la nueva legislación europea, representada por la Directiva sobre Violencia contra las Mujeres y la Violencia doméstica; y la Ley de Servicios Digitales (DSA), que marca un punto de inflexión, ya que, por primera vez, la violencia digital de género se reconoce de forma clara y explícita dentro del marco legal europeo".

La investigadora de la Universidad de Navarra también ha dicho que "es importante reconocer que la violencia digital de género es un fenómeno global pero también muy local, porque existen muchas diferencias entre los estados miembros y hay que tenerlas en cuenta".

También ha añadido que "la Inteligencia Artificial (IA) puede ser una herramienta para combatir la violencia digital de género: desde algoritmos capaces de detectar lenguaje abusivo, hasta tecnologías que identifiquen y eliminen contenidos no consentidos o prevengan dinámicas de grooming". Pero la experta de la CE también ha alertado de que la misma IA utilizada sin ética ni supervisión, "puede amplificar el daño, por ejemplo, generando deepfakes pornográficos".

Domínguez, por otro lado, ha destacado el potencial de internet para amplificar y dar visibilidad a ciertos movimientos que pueden contribuir a denunciar la violencia de género, poniendo como ejemplo el #Metoo y ha advertido el peligro de los algoritmos y de las empresas que están detrás. "Pensamos que China ejerce una censura a través de su gobierno y que EEUU representa la libertad de expresión; pero en realidad quienes censuran contenidos son las empresas que poseen aplicaciones y condicionan todo lo que vemos a través de los algoritmos".

Para González, "la IA es una herramienta de doble filo, ya que puede usarse para crear imágenes y vídeos falsos, pero también se puede usar para identificar casos de violencia, etc". En cuanto a cómo la aplicamos en nuestro trabajo, el experto ha añadido que "la IA nos sirve para darnos una aproximación, es un patrón de enseñanza, pero siempre tiene que intervenir un factor humano".

Mirada hacia el futuro

Con una mirada europea, Espósito ha abarcado la regulación digital y ha comentado que "es crucial consolidar los avances normativos recientes, reforzar los mecanismos de rendición de cuentas y continuar implementando la legislación europea vigente, con el fin de garantizar una protección real y efectiva".

Por su parte, Domínguez ha reclamado que en las nuevas tecnologías se pueda controlar el anonimato, para detectar los posibles agresores digitales porque "no tiene sentido en una democracia en que las mujeres tengamos que limitar nuestra participación online porque hay hombres y bots que ejercen violencia digital".

Además, ha añadido que "muchas mujeres vivimos en un búnker digital cerrando la posibilidad de que nos puedan comentar o directamente eliminando nuestras cuentas de las redes". La experta también ha abogado a la responsabilidad de "los usuarios para ser conscientes de los espacios que no respetan ni defienden a las mujeres para poder abandonarlos".