Facebook implementará una inteligencia artificial para combatir el "porno de venganza"

Facebook anunció que tomará nuevas medidas para combatir el denominado "porno de venganza" en su plataforma principal e Instagram.

A través de una publicación en su blog, la compañía explicó que implementará una inteligencia artificial(IA) que ayudará a detectar imágenes que muestren a personas casi desnudas y videos de las mismas características antes que algún usuario los reporte.

El contenido identificado por la IA posteriormente sería revisado por un moderador humano, quien tendría la última palabra para remover el contenido si atenta contra las Normas de la Comunidad de las Facebook e Instagram.

En ese sentido, las cuentas que hayan publicado el contenido serán suspendidas luego de la detección de este tipo de publicaciones. Sin embargo, los usuarios podrían apelar ante eventuales errores.

El "porno de venganza" es un concepto que se utiliza para definir a las fotos íntimas o nudes publicadas en redes sociales por otra persona sin el consentimiento del protagonista. Principalmente los responsables de estas acciones son ex-parejas, que revelan estas imágenes como una forma de humillar a la otra persona, en "venganza" tras el término de una relación u otro conflicto.

Esta práctica se ha masificado en el último tiempo, levantando una serie de cuestionamientos hacia el manejo de Facebook al respecto.

La nueva IA que Facebook pondrá a trabajar en la materia llegará acompañada de algunas nuevas herramientas que incluyen recursos para las víctimas, como información de contacto de grupos de apoyo locales y guías para reportar contenido al Centro de Seguridad de Facebook.

"Nuestra investigación indica que podemos mejorar nuestras herramientas de informes para garantizar que sean más fáciles de usar y que no frustren a quienes lo intentan", señalaron Karuna Nain, gerente de programas de políticas de seguridad global de Facebook y Radha Iyengar, jefa de investigación de políticas de productos. "Las víctimas con las que hablamos, por ejemplo, dijeron que se sintieron desilusionadas por lo que consideraron la respuesta robótica de Facebook".