Tres meses después de la retransmisión en directo de los atentados de Nueva Zelanda, Facebook ha decidido implantar medidas de control y anunciado que, desde este miércoles, prohibirá el uso de la aplicación Live, que permite emitir vídeo en tiempo real, a cualquier usuario que viole las normas de la red social sobre organizaciones o individuos peligrosos. La medida se aplicará desde el primer momento que se detecte una publicación vinculada a un acto violento o a la difusión de odio. Es una de las medidas de las redes sociales contra la difusión de contenidos peligrosos, campaña a la que se ha sumado Twitter al anunciar que redirigirá las consultas contrarias a las vacunas a enlaces de autoridades sanitarias donde se explica el daño de esta actitud en la salud individual y pública.
Hasta ahora, cualquier violación de las normas de Facebook suponía la eliminación de la publicación en concreto y solo se bloqueaba la cuenta, a veces temporalmente, si el usuario mantenía la actitud o, de inmediato, en casos de propaganda terrorista o pederastia. Estas normas se aplicarán desde ahora a Live y desde el primer momento.
La medida se produce después de que el vicepresidente de la compañía Guy Rosen haya reconocido que el sistema de inteligencia artificial (IA) de Facebook para prevenir la difusión de imágenes dañinas no fue capaz de identificar la retransmisión en directo del atentado de Christchurch en Nueva Zelanda, en el que murieron 50 personas y varias decenas de personas resultaron heridas. “Los sistemas de IA están basados en datos que los entrenan, lo que significa que se necesitan miles de ejemplos de este contenido para entrenar a un sistema capaz de detectar ciertos tipos de texto, imágenes o vídeos. Ha funcionado muy bien con temas como desnudos, propaganda terrorista y también con gráficos de violencia, de los que hay un gran número de ejemplos que podemos usar para entrenar a nuestros sistemas».
Fotograma de la retransmisión hecha por el atacante de la mezquita de Al Noor, » Más información en elpais.es