Facebook ha anunciado en el F8 que planea aumentar la velocidad a la que se eliminan los contenidos, pudiendo incluso acabar con ellos antes de que sean reportados. Para ello, las claves son la inteligencia artificial y el machine learning. Este tipo de filtros ya se usan en Instagram, donde los comentarios tóxicos son filtrados por un algoritmo.
El machine learning ha permitido que gran parte de la moderación de contenidos en Facebook sea automática
En la conferencia, que se ha estado celebrando estos días en California, Facebook ha mostrado como la rapidez a la hora de actuar contra ciertos contenidos es vital. Por ejemplo, la compañía ha comentado que en los casos de suicidio, la velocidad de reacción permite salvar vidas, y cita que ya han ayudado en 1.000 casos de personas con intenciones suicidas.
La inteligencia artificial en la moderación permite llegar a más contenidos, ya que no hay que esperar a que alguien de la voz de alarma.
En lo que llevamos de 2018, Facebook ha eliminado cerca de dos millones de publicaciones relacionadas con ISIS y Al Qaeda, el 99% de los cuales antes de que nadie los reportase. La rapidez también evita que este tipo de publicaciones tengan la audiencia deseada.
Este sistema automático también constituye un alivio para el equipo humano de revisión de contenidos. Así, el contenido que viola de manera flagrante las condiciones de uso (discurso de odio, terrorismo, sexo explícito…) puede ser eliminado rápidamente mientras que los profesionales de carne y hueso deliberan sobre contenidos más ambiguos.
La compañía cita el ejemplo de alguien que cuenta algo sobre una hipotética adicción a las drogas y el equipo intentando discernir si solo se trata de una forma de contar la experiencia o de apología a este tipo de sustancias.
El sistema va aprendiendo gracias al machine learning, y al estar más tiempo en activo, más datos recolecta y más patrones reconoce. Esto permite la expansión gradual hacia contenidos que no sean en inglés, que es el idioma en el que están la mayoría de los contenidos sobre los que Facebook tiene información.
