HERRAMIENTA CONTRA LOS ABUSONES
Jigsaw, el algoritmo de Google para acorralar a los 'trolls'
Los trolls pueden llegar a hacer la vida imposible a quien se ponga por delante en internet. La empresa Jigsaw, un retoño de Google, pretende cambiar la situación: ha desarrollado una herramienta capaz de detectar las vejaciones y amenazas de los abusones 2.0.

Publicidad
Internet ofrece una ventaja para los criticones: no tienen que dar la cara al dejar sus comentarios hirientes en webs, foros o redes sociales. Esta facilidad, unida a las infinitas posibilidades de comunicación en la Red, ha convertido al ciberespacio en un nido de troles que no dejan títere con cabeza. Una nueva clase de abusones 2.0 difíciles de rastrear que, en ocasiones, van más allá del sarcasmo para incurrir en amenazas y vejaciones públicas.
Una situación desagradable que no sólo afecta a los famosos, según confirmaba un estudio del Pew Research Center: el 73% de los adultos consultados para el trabajo aseguraron haber recibido insultos en internet alguna vez.
Conscientes de un problema con el que luchan diariamente los responsables de foros, medios ‘online’ y redes sociales, en Jigsaw han decidido utilizar la tecnología para combatir precisamente lo que la tecnología ha provocado. En esta empresa, una evolución del ‘think tank’ Google Ideas, han desarrollado un ‘software’ para detectar las amenazas e injurias en internet.
La herramienta, bautizada Conversation AI, se basa en la inteligencia artificial para identificar palabras, analizar frases y valorar su gravedad. De esta forma, podría utilizarse para ejecutar un filtro antitroles en webs y plataformas.
Sus creadores han 'entrenado' a los algoritmos –un invisible ejército de soplones− a partir de 17 millones de comentarios dejados en los artículos de ‘The New York Times’ y 13.000 discusiones de las páginas de Wikipedia. Les enseñaron así las características de las expresiones más y menos hirientes. Gracias al ‘machine learning’, el programa puede ahora detectarlas y evaluarlas automáticamente.
Según los responsables de Jigsaw, su herramienta supera en eficiencia a cualquiera de los filtros utilizados actualmente con el mismo fin. Hoy en día, plataformas como Reddit, YouTube o Facebook continúan basando las medidas para evitar a los troles en las denuncias de sus propios usuarios.
Antes de focalizarse en este ámbito, la empresa ya había presumido de conciencia social con otras iniciativas. Dos ejemplos son la aplicación gratuita Montage, que permite a periodistas y organizaciones sociales analizar vídeos de conflictos en busca de información, y su proyecto Redirect Method, que tiene como objetivo identificar a quienes reclutan nuevos integrantes para grupos terroristas.
Para su fundador, Jared Cohen, todos los proyectos tienen en común una cosa: se centran en lo que él llama “poblaciones vulnerables”. El estadounidense confía en su propio equipo técnico para encontrar aquellas zonas o grupos sociales que están desfavorecidos y determinar cómo influye su situación en el mundo virtual -y viceversa-.
Todo indica que Jigsaw quiere convertirse así en el brazo justiciero de Google. Sin embargo, no lo va a tener fácil. Aquellos que se han dado por aludidos con el proyecto ya se han puesto en pie de guerra haciendo lo que mejor saben hacer: trolear. Además de publicar memes para burlarse del plan del gigante de internet, han creado todo un glosario de insultos codificados para evitar que los algoritmos les cacen. ¿Quién ganará la partida?
Publicidad