TecnoXplora » Redes Sociales

Implementan un algoritmo para combatir los mensajes ofensivos

Instagram ya utiliza la inteligencia artificial para combatir el bullying en su red

Instagram ha estrenado una nueva función que permite advertir a los acosadores de que sus comentarios no son apropiados en la red.

Instagram

Pixabay Instagram

Publicidad

Hay problemas de los que tomar conciencia en algunas ocasiones es todo un proceso titánico. Sobre todo cuando hablamos de la magnitud de una sociedad, en la que estos cambios van llegando muy poco a poco, y se necesitan herramientas y concienciación colectiva. Las redes sociales son muy importantes como mentores de estos procesos, y una de las más influyentes en la actualidad es Instagram. La red social de fotografía es esa en la que quieren estar los más jóvenes, las estrellas del entretenimiento, del deporte, y al fin y al cabo es un escaparate de influencias para los más jóvenes. Algo que también convierte a esta red social en el caldo de cultivo perfecto para que se extienda el bullying sin control. Pero la red social está tomando cartas en el asunto, y además con la ayuda de la inteligencia artificial.

Advertencias acerca de nuestros comentarios

El bullying es algo que lametablemente forma parte del día a día de muchas personas: Pero no debemos pensar solo que quien acosa a otra persona lo hace de manera consciente, por eso la red social está implementando una nueva tecnología basada en la inteligencia artificial, que es capaz de analizar nuestros comentarios a una foto antes de que sean publicados. Esta nueva tecnología será capaz de saber si un comentario que estamos escribiendo es ofensivo para la otra persona a la que va dirigido. Y parece que este tipo de acciones están teniendo resultado, y vuelve a poner de manifiesto que muchas personas no están siendo conscientes de que están fomentando elbullying al realizar determinados comentarios.

Así advierte Instagram de los mensajes ofensivos
Así advierte Instagram de los mensajes ofensivos | Instagram

Porque según la propia experiencia de la red social, muchos usuarios han reconsiderado sus comentarios y antes de publicarlos al ver las advertencias de esta nueva herramienta. Por lo que en algunos casos se consigue un cambio en la conducta que puede llevar a los acosadores a replantearse su manera de dirigirse a los demás. Como se puede ver en la imagen adjunta, Instagram ahora es capaz de reconocer automáticamente un comentario ofensivo dentro de un post. Algo que se advertirá con una especie de ventana emergente en la que se nos dice que la red social está preguntando a las personas a que reconsideren comentarios similares que han sido reportados por otras personas anteriormente.

Reportando problemas con un usuario
Reportando problemas con un usuario | Instagram

Por tanto, el objetivo esta inteligencia artificial es identificar ese tipo de mensajes ofensivos que ya han sido reportados con anterioridad por otras personas, así como otros similares que también podrían entenderse como acoso. En la misma ventana Instagram nos anima a informarles igualmente si creemos que esa advertencia es un error, y que lo que estábamos escribiendo no era ofensivo. Como en todo, la percepción de lo dañino de los comentarios es distinta según la persona, pero todos entendemos con claridad qué es un comentario ofensivo y lo que no. Y de momento no se trata de señalar a las personas que comentan así, sino que estas sean conscientes de que los comentarios que están vertiendo en la red no son apropiados para una relación de respeto con las demás personas.

Publicidad