El dolor y la perplejidad causados por los atentados de París el pasado mes de noviembre se convirtieron en rabia y, en ocasiones, en agresividad ciega durante los días siguientes en las redes sociales. No era difícil toparse en tu Facebook con publicaciones que atacaban directamente a la religión musulmana y a sus creyentes. Pero la compañía cuenta con mecanismos para evitar que los discursos se descontrolen.

En una visita de prensa a sus oficinas centrales en Europa, situadas en pleno centro de Dublín, Facebook ha contado cómo funcionan estas herramientas. La más evidente de ellas es la eliminación de la publicación correspondiente. Esto se hace en base a un proceso, en el cual un usuario denuncia un contenido a Facebook y este es revisado por un empleado de la red social.

En la política de Facebook hay nueve categorías que están protegidas ante un discurso violento. En un post no se puede atacar a nadie por su raza, etnia, nacionalidad, creencias religiosas, orientación sexual, sexo, género o identidad de género, discapacidades serias o enfermedades. Si la persona que revisa el contenido denunciado considera que una de estas categorías está siendo atacada, lo eliminará.

Eso sí, es imprescindible que un usuario denuncie el contenido. Facebook tiene algunas herramientas automáticas que monitorizan la red social, pero sólo buscan spam. Con lo que si no hay denuncia no se tomarán medidas. Eso sí, si hay una página que se ha denunciado por terrorismo, por ejemplo, los encargados de la eliminación de comentarios podrán buscar otras páginas que administre el mismo usuario para decidir sobre ellas.

Discursos violentos aparte, una de las líneas rojas de la red social son los desnudos: de ninguna manera. Desde la sede de Dublín apuntan que la razón es porque uno de los requisitos para mostrar a alguien desnudo en internet es su consentimiento y ellos no tienen forma de saber si esa persona lo ha dado.

La contrapropaganda

La red social trabaja con otras armas aparte de la eliminación de los mensajes, especialmente en situaciones de mucho descontrol, donde hay una multitud de usuarios haciendo publicaciones sobre un determinado tema y llega a las oficinas de Facebook un aluvión de avisos.

Como todos los avisos tienen que ser revisados por una persona, el proceso requiere su tiempo. Y tiempo es precisamente lo que no se tiene en situaciones como la que se dio tras los ataques de París, cuando una ola de comentarios racistas inundó la red social. En cualquier caso, Facebook está trabajando en crear discursos alternativos  al extremismo: para tal fin la compañía lleva a cabo un plan para enseñar a ONGs y otros actores que puedan tener argumentos para contrarrestar discursos violentos a usar la red social con el fin de que creen contenido viral en momentos difíciles.

¿Qué pasa con los post anti-refugiados?

Una de las polémicas respecto a la censura de contenidos que ha protagonizado Facebook recientemente ha estado relacionada con las publicaciones que se hicieron en contra de los refugiados sirios. En Alemania las cosas se calentaron cuando desde el propio Gobierno le exigieron a la red social que eliminara los comentarios.

En la visita a las oficinas una portavoz de Facebook indicó que los refugiados no están protegidos como categoría en sí, como ocurre con la raza o la sexualidad. Matizó que añadir una categoría tiene muchas implicaciones. Si los refugiados fueran una de las categorías que contempla Facebook, no se podría decir “hay muchos refugiados en Berlín”, como hoy no se puede decir “hay muchos negros en Berlín”.

Los portavoces de Facebook también hablaron de privacidad. Ante la inquietud que despertaron las revelaciones de Edward Snowden en su día, la compañía cree que la solución es obtener la confianza de los usuarios, fundamentalmente con transparencia. Afirman que no tiene sentido crear un centro de datos en Europa sólo para la información de los europeos con el fin de alejarlo de la NSA, tal y como pretende hacer Microsoft, pues el modelo de Facebook se basa en compartir información entre los usuarios, sean de donde sean.