Facebook emplea la inteligencia artificial para eliminar 'memes' de odio

Facebook dio a conocer una iniciativa para hacer frente a los memes de odio" usando inteligencia artificial respaldada por la colaboración externa (crowdsourcing) para identificar ese tipo de publicaciones. 

La red social explicó que ya creó una base de datos de 10.000 memes como parte de la intensificación de sus acciones contra los discursos de odio. 

Facebook manifestó que está dando acceso a investigadores a esa base de datos para desarrollar algoritmos mejorados que permitan detectar mensajes visuales con contenido odioso. 

Lee también: Cómo activar el nuevo diseño de Facebook en su versión de computador

"Estos esfuerzos estimularán a la comunidad de investigadores de la inteligencia artificial en general a probar nuevos métodos, comparar su trabajo y cotejar sus resultados para acelerar el trabajo en la detección del discurso de odio multimodal", precisó Facebook.

La plataforma se está apoyando fuertemente en la inteligencia artificial para filtrar contenido cuestionable durante la pandemia de coronavirus, que ha reducido su capacidad de moderación humana como resultado de los confinamientos. 

Extremismo en línea

El informe de transparencia trimestral de la compañía detalla que Facebook eliminó unos 9,6 millones de publicaciones por violar las políticas de "discurso de odio" en los primeros tres meses de este año, incluyendo 4,7 millones de contenidos vinculados al odio organizado. 

Guy Rosen, vicepresidente de integridad de Facebook, dijo que con inteligencia artificial "podemos encontrar más contenido y ahora podemos detectar casi el 90% del contenido que eliminamos antes de que alguien nos lo informe".

Te puede interesar: Transfiere contenido de Facebook a Google Fotos así de fácil

La compañía se comprometió hace un año a interrumpir estas conductas, tras los letales ataques en una mezquita de Nueva Zelanda, que provocaron un "llamado a la acción" por parte de los gobiernos para frenar la propagación del extremismo en línea. 

Los sistemas automatizados pueden ser útiles, según la empresa, para detectar contenido extremista en varios idiomas y analizar texto incrustado en imágenes y videos para comprender su contexto completo.