redes sociales
Potencian mensajes polarizados, violentos y de odio a los extranjeros: así funciona el algoritmo ultra en las redes
Las causas Ha influido que el presidente de EEUU, Donald Trump, haya permitido reducir la moderación de contenido a las grandes plataformas en pro de una supuesta libertad de expresión. De ahí el giro político de redes sociales como la de Musk.
Resumen IA supervisado
Al ingresar a redes sociales como X, es común encontrar publicaciones que promueven discursos de odio y mensajes polarizantes, especialmente aquellos que atacan a minorías y migrantes. Uxía Corral, experta en desinformación de la Universidad Carlos III, explica que los algoritmos priorizan contenido conflictivo porque genera más interacción y, por ende, más ganancias. Óscar Aranque, de la Universidad Politécnica de Madrid, añade que los usuarios suelen dedicar más tiempo a este tipo de contenido. Además, la reducción de la moderación en plataformas, impulsada por políticas de Donald Trump, ha permitido un aumento en la difusión de mensajes extremistas, lo que ha provocado un cambio en la dinámica política de estas redes.
* Resumen supervisado por periodistas.
Al entrar en una red social como X nos recibe un post criminalizando a los afroamericanos. Si se sigue bajando, se observa otra publicación crítica con los migrantes y, al continuar, no cuesta encontrar más mensajes de extrema derecha. Es habitual que el algoritmo potencie mensajes polarizados, violentos y de odio a los extranjeros.
"Busca aquellos contenidos que den más rendimiento económico y en este contexto social lo que se mueve es lo conflictivo, lo violento y lo polarizante", ha explicado Uxía Corral, experta en desinformación, discursos de odio y redes de la Universidad Carlos III de Madrid. Mientras, Óscar Aranque, experto en IA y mensajes de odio de la Universidad Politécnica de Madrid, ha apuntado que "el contenido típicamente con odio los usuarios tienden a mirarlo durante más tiempo y a reaccionar a él con más frecuencia".
La pregunta es si somos un reflejo de lo que nos llega. "Yo puedo ser una persona muy pacífica, pera que un contenido de una pelea haga que lo consuma durante 20 segundo", ha señalado Ángel Cuevas, profesor de Ingeniería Telemática de la Universidad Carlos III de Madrid. "El algoritmo sabe más de nosotros que nosotros mismos, incluso cosas que no queremos reconocer, pero que hacemos pensando que estamos en un sitio reservado", ha agregado Corral.
También ha influido que el presidente de Estados Unidos (EEUU), Donald Trump, haya permitido reducir la moderación de contenido a las grandes plataformas en pro de una supuesta libertad de expresión. "El hecho de no tener que moderar contenido reduce sus costes, porque tenían plantillas de miles de personas que ya no necesitan", ha contado Cuevas.
"Gente con ideas más progresistas ha abandonado las plataformas como X y, por otra parte, los de extrema derecha y liberales ya no tienen sus contenidos censurados", ha remarcado Corral. De ahí el giro político de redes sociales como la de Elon Musk.
*Sigue a laSexta en Google. Toda la actualidad y el mejor contenido aquí.