Cuando recibes llamadas a toda hora de mujeres desesperadas por que eliminen de la red fotos íntimas suyas publicadas sin su consentimiento, resulta un alivio enterarse de la última movida de Facebook para enfrentar la distribución no consensuada de imágenes íntimas. ¡Por fin! Las soluciones técnicas a los problemas sociales rara vez son perfectamente adecuadas, incluso en un mundo digital, por lo que aquí expresaremos nuestra opinión sobre algunas ventajas y limitaciones de esta decisión, como también varias preguntas. ¿La iniciativa está centrada en evitar los daños o en frenar la expresión, la educación o el placer sexual? 

La innovación
 
Hace unas pocas semanas, Facebook anunció una nueva herramienta cuyo propósito es impedir que una imagen íntima publicada sin consentimiento pueda ser compartida o reproducida en Facebook, Messenger e Instagram. Cuando una imagen es denunciada por una usuaria, el equipo de operaciones de la comunidad la revisa. Si se encuentra que transgrede las normas comunitarias, la imagen será eliminada y la cuenta que la compartió en primer lugar puede quedar inhabilitada. Facebook utilizará entonces su tecnología de “photo-matching” (o tecnología de comparación de fotos) para frustrar los intentos de publicar esa imagen en cualquiera de las otras plataformas que participan e impedir que sea nuevamente publicada desde otras cuentas. Si la denuncia es errónea, existe la posibilidad de apelar la decisión.  
 
Esta misma tecnología, que coteja el valor hash de una imagen contra una base de datos de fotos denunciadas, se utiliza para limitar la distribución de contenidos relacionados con la explotación sexual de menores y, de manera más reciente, con imágenes que muestran extremismo violento. También se utiliza en las herramientas de búsqueda inversa de imágenes. El valor hash consiste en una breve cadena única de caracteres que facilita una rápida búsqueda e identificación de una foto específica. Estas huellas digitales pueden ser fácilmente procesadas, pero resulta difícil reconstruir una foto a partir de su valor hash, lo cual significa que si alguien consigue el hash de una foto sexualmente explícita, no puede regenerar la imagen original.  
 

Pulgar arriba

No hace falta denunciar cada aparición de una foto

Ya no hará falta denunciar una foto todas y cada una de las veces que aparece en Facebook, ni será necesario saber qué otras cuentas la subieron. No importa si la foto se ha reproducido mil veces en Facebook: una sola denuncia bastará no solo para eliminar la foto sino que, además, se utilizará su valor hash para identificar y eliminar duplicados de la misma en Facebook, Messenger e Instagram. Aún será necesario realizar una denuncia por cada foto diferente, pero sólo una vez. Esto trae un enorme alivio para las personas – la mayoría mujeres o LGBTQI – que tratan de controlar la propagación de sus fotos íntimas. 

Puede impedir futuras subidas de la misma foto

Como ya sabemos, la creación de varias cuentas para compartir estas fotos es una estrategia común, en especial cuentas clonadas de la persona cuyas fotos son difundidas sin consentimiento. La tecnología de comparación de fotos alertará a Facebook de que se intenta subir una imagen sin consentimiento y ese intento se frustrará en el acto.    
 
Esto nos suscita una pregunta. Una estrategia frecuente en la extorsión sexual y otras amenazas (pedidos de más fotos o videos íntimos o actos sexuales para evitar la distribución pública de material sexualmente explícito) consiste en publicar una entrada y luego borrarla y/o borrar la cuenta luego de que la persona amenazada la haya visto. Es una forma a través de la cual el perpetrador obtiene mayor control sobre su víctima. Por lo tanto, para cuando se haya revisado la denuncia, la entrada ya no existirá. ¿Esas fotos entrarán todavía en el sistema de hash? 

Por fin denunciar no parecerá inútil 

Las mujeres con las que hemos trabajado suelen desesperarse porque las denuncias parecen inútiles, en especial cuando se les dice que una foto “no viola las normas de la comunidad”. En casos extremos, cuando la denuncia no condujo a nada, algunas mujeres han sucumbido a la extorsión a fin de que el perpetrador eliminara las imágenes. El tratamiento avergonzante, la revictimización y el acoso que las mujeres pueden experimentar cuando denuncian esas fotos (a la policía y a plataformas de internet – por ejemplo, las que ofrecen compartir fotos y videos íntimos y cobran a las mujeres por eliminarlos) desalientan aún más las denuncias. Pero saber que cualquiera puede denunciar y que el sistema hará un escaneo inmediato en busca de la foto una vez que ésta sea identificada como no consensuada elimina el riesgo y la sensación de que hacer la denuncia no cambia nada. 

Sin base de datos de fotos

Para cotejar fotos se utiliza el valor hash, no la foto en sí, lo que significa que las imágenes íntimas no se apilan en una base de datos apta para el hackeo o para que las compartan quienes tienen acceso privilegiado. Esto otorga más confianza para denunciar. Facebook afirma que las fotos se almacenan en su formato original “por un tiempo limitado”. Sería bueno saber cuán limitado.  

Repercusiones para quienes publican

En el anuncio, Facebook asegura que las cuentas que publiquen fotos identificadas como no consensuadas serán inhabilitadas. En otro artículo, la red social hace referencia a desactivarlas en forma permanente: “una vez que tu cuenta es desactivada por compartir esta clase de material, quedará desactivada”, dice Antigone Davis, directora global de seguridad de Facebook.” Esto resultará alentador para muchas personas, ya que batallar contra cuentas falsas creadas con el único fin de ejercer este tipo de acoso consume tiempo y es especialmente decepcionante. 

Facebook toma posición – o algo así

Resulta positivo ver que el énfasis de Facebook está en “proteger las imágenes íntimas” y no en la “porno venganza” (aunque lamentablemente la cobertura de esta innovación de Facebook hecha por los medios prefiere este concepto erróneo). Si seguimos refiriéndonos al problema como “porno venganza”, las respuestas invariablemente incluirán llamados a abstenerse, censura de la expresión sexual y culpabilización de la víctima, en vez de reconocer el derecho de las personas a la privacidad y que la autonomía del cuerpo ha sido violada. La decisión de desactivar las cuentas que han subido imágenes no consensuadas puede enviar un fuerte mensaje acerca de la posición de Facebook en cuanto a las imágenes íntimas y el consentimiento. Las personas que intenten subir una foto denunciada recibirán también un mensaje de advertencia acerca de que violan las normas de la comunidad. Facebook podría hacer una gran tarea en el camino de educar a su comunidad si realmente tiene intención de ayudar a sus usuarios a entender el tema. 
 

Necesita más trabajo para obtener un “me gusta”

Falta de concientización

Los alertas informativos y de la plataforma respecto de la herramienta de Facebook contra las noticias falsas, lanzada apenas una semana después, sobrepasaron por lejos la publicidad en tono a su nuevo abordaje de las imágenes sexualmente explícitas. Las mujeres y otras personas afectadas aún no saben que existe esta nueva solución y la comunidad de Facebook no sabe que la plataforma tiene una posición clara en algo más que pezones femeninos. 
 
Los mensajes de advertencia sobre la violación de las normas de la comunidad son necesarios, pero Facebook también podría aprovechar algún intento de publicación frustrado para concientizar acerca del criterio de consentimiento. ¿Podría Facebook hacer una campaña pública de mensajes dirigidos sobre derechos sexuales, expresión y consentimiento en conjunto con organizaciones de la sociedad civil? ¿O tal vez un simple aviso que anuncie cómo denunciar una imagen íntima no consensuada?
 
En algunos países, Facebook remite a las personas a organizaciones que pueden brindar apoyo cuando se filtran imágenes sexualmente explícitas. Facebook debería ampliar su red de recursos para reflejar la diversidad geográfica y multilingüe de su comunidad. Debería asegurarse de que las organizaciones recomendadas defiendan los derechos de las mujeres desde un marco de derechos humanos en vez de un punto de vista moralista o proteccionista que refuerza los controles y la vergüenza sobre la sexualidad. Facebook podría profundizar el proceso de colaboración con las mesas redondas sobre seguridad iniciado en 2016 para ayudar a que las organizaciones de derechos concienticen en su plataforma sobre la autonomía del cuerpo y las razones por las cuales la distribución no consensuada de imágenes íntimas es una violación de las libertades de las personas.  

El sistema de denuncias no es intuitivo

Facebook tenía desde hace tiempo una opción para denunciar la publicación sin consentimiento de imágenes íntimas – lo que cambia con esta innovación es lo que sucede después de la denuncia. Lamentablemente no es tan directo como podría ser, algo que le hemos señalado a Facebook a lo largo de los años. Si apareces desnuda en una foto y los “me gusta” aumentan exponencialmente, no tienes tiempo para averiguar por cuál recoveco de los menúes deberías meterte. La mayoría de las mujeres que hemos acompañado siguen la lógica “estoy en esta foto y no me gusta”, que sólo te lleva a opciones aparentemente superficiales (por comparación) como la forma en que luce tu pelo y avísale a tu amigo/a que retire la foto. No hay una opción “es una imagen sexual privada compartida sin mi consentimiento”. ¿Por qué no? ¿Por qué no incluir la opción de denunciar una foto no consensuada en cualquier lugar lógico al que pueda ir una usuaria? 

Esto es algo que te gustará: ¿a dónde ir para denunciar imágenes íntimas compartidas sin consentimiento?

¿Dónde dirigirse, entonces, para denunciar? Seleccionar "Creo que no debería estar en Facebook" > “¿Cuál es el problema con esta foto?” > “Se trata de desnudos o pornografía (ejemplos, actos sexuales, personas prostituyéndose o fotos en las que aparezco desnudo)". Esta opción es más intuitiva para alguna observadora – una ciudadana de Facebook preocupada por las normas de la comunidad – que para una persona directamente afectada. También se puede usar este formulario para denuncias, aún si no se eres usuaria de Facebook: https://www.facebook.com/help/contact/567360146613371

Falta de claridad respecto del bloqueo y creación de cuentas

No queda claro por cuánto tiempo Facebook planea mantener desactivada una cuenta. ¿Podrá alguien ser bloqueado de por vida si publicó contenidos íntimos sin consentimento? "Bloqueado de por vida" puede sonar extremo, pero los usuarios pueden, por lo general, crear fácilmente una nueva cuenta. No podrán publicar la misma foto, pero pueden volver a Facebook. La nueva medida no aborda este problema.  
 
Tampoco está claro si desactivará cada una de las cuentas que compartió la foto. ¿Qué pasará con aquellas cuentas que intentan subir una foto previamente objetada? ¿Examinará Facebook otra información como el IP o la huella del navegador para identificar a reincidentes, tal como Twitter intenta frenar las cuentas abusivas comparando números telefónicos o quién es el blanco de ataque de una nueva cuenta? ¿Las nuevas cuentas de reincidentes se desactivarán en forma inmediata? 

El contexto importa

Dejar decisiones con tantos matices en manos de algoritmos o de inteligencia artificial garantiza el desastre. En lugar de ello, Facebook sostiene que un equipo capacitado de operadores de la comunidad vetará las imágenes. Los detalles de esta capacitación especial no están claros. Como mínimo, se necesitará personal multicultural y multilingüe capacitado en temas de género, derechos sexuales y expresión, culpabilización de la víctima y censura no intencional para comprender de manera apropiada el contexto en que se comparten las fotos y el daño que puede provocar el hecho de no eliminarlas. 
 
Aún con una capacitación especial, el contexto es todo. ¿Qué ocurre si la foto no es consensuada pero no viola exactamente las normas de Facebook sobre desnudos? ¿El hecho de que no sea consensuada es suficiente para etiquetarla como una violación? ¿Qué ocurre si la persona está en riesgo porque el contenido de la imagen es contrario a las normas sociales o culturales o revela la identidad de alguien?
 
Muchas personas publican fotos a modo de señuelos que no violan la política de Facebook pero enlazan a otros espacios en línea luego de captar personas dentro de la comunidad de Facebook. ¿Y qué sucede si la usuaria reside en un país donde el control de la sexualidad por parte del estado o la comunidad pone en riesgo su integridad corporal si esas fotos son vistas? ¿Cómo responderá el equipo de operadores de Facebook en estas situaciones específicas de un contexto? ¿La meta última de esta política es “prevenir daños”, garantizar contenidos o imponer sus normas sobre desnudez? 
 
Los operadores de la comunidad se encuentran bajo la presión de tener que tomar decisiones en un abrir y cerrar de ojos debido a la cantidad de denuncias que deben atender. Con la extensión de este problema, lo que se necesita son más miembros de apoyo especialmente capacitados, no decisiones más rápidas.  

Responsabilidad

Toda decisión sobre suprimir contenidos y cerrar cuentas en un servicio tan usado como  Facebook requiere consideraciones sobre responsabilidad, transparencia y apelación. Esperamos que Facebook comparta y continúe consultando con organizaciones de derechos acerca de cómo evolucionarán sus criterios para suprimir, la clase de capacitación de sus operadores de la comunidad y cómo evaluará la efectividad de esta medida. La transparencia respecto de la cantidad de bajas, las cuentas afectadas y un análisis del alcance del problema sería invalorable para desarrollar mejores soluciones en Facebook y más allá. 
 
De acuerdo al interés de cada uno asoman un montón de preguntas. Por ejemplo, quienes trabajan en apoyo de mujeres que enfrentan la distribución de imágenes íntimas sin consentimiento querrán saber más acerca de la cooperación con los procesos legales: ¿estará aún disponible la información relevante como el alcance de la reproducción de una foto y las cuentas responsables de hacerlo o intentarlo, si una orden judicial la solicita, y particularmente si las cuentas fueron cerradas y las fotos eliminadas del sistema?  
 
Quienes defienden la libertad de expresión también tendrán preguntas acerca de la respuesta proporcional y el monitoreo si sucede que Facebook se exceda. Por ejemplo, ¿cómo estar seguro de que el bloqueo de una cuenta es proporcional a la falta cometida? Cualquier mujer que haya sufrido una avalancha de acoso o haya perdido su trabajo (por mencionar sólo algunas consecuencias) debido a la publicación sin consentimiento de una foto íntima no cuestionará si el bloqueo resulta proporcional a esta clase de violación de las normas de Facebook, pero es importante hacerse estas preguntas desde una perspectiva de derechos. Puesto que el bloqueo y expulsión es la opción definitiva y más extrema de Facebook, ¿qué papel juegan el perjuicio o la intención en la suspensión de una cuenta? Por ejemplo, ¿que diferencia hay entre un niño que comparte fotos sexuales al azar, tal vez sin saber de quiénes se trata, y alguien que apunta al empleador de una mujer, o sus colegas, familia o amistades, o vincula la foto con información sobre identidad y ubicación? ¿Y qué ocurre si un usuario es juzgado por la ley civil o penal, paga los perjuicios o incluso pasa un tiempo en la cárcel – nunca más debería tener una cuenta de Facebook? 

La acción de la mujer 

No podemos dejar de lado que en el pasado, una imposición prejuiciosa de las normas de la comunidad se ha traducido en la violación de la libertad de expresión de las mujeres y de su derecho a la autonomía corporal. Facebook considera que los cuerpos de las mujeres son inherentemente sexuales.  Aunque el año pasado Facebook reiteró que las fotos de amamantamiento o masectomías no entran bajo sus normas de desnudez, aún ejerce regularmente la censura de noticias de interés público, fotos de protestas, campañas de educación sexual o sanitaria, y expresiones artísticas. 
 
Resulta esencial garantizar que la expresión sexual consensuada de las mujeres no termine censurada como resultado de estas nuevas medidas, en especial cuando las fotos sean denunciadas por terceros (una función positiva pero también sujeta a abusos).  

El derecho a apelar

Es crucial el proceso de apelación, porque si hay algo que las mujeres conocen bien es que las políticas diseñadas para defender a las personas cuyos derechos son marginados, con frecuencia son aprovechadas por aquellos con poder para marginar aún más a quienes están en riesgo. Debemos estar atentas a cómo este sistema puede utilizarse para atacar la expresión sexual consensuada o cualquier expresión por los derechos de las mujeres y de la comunidad LGBTQI.

Colaboración

Durante años ¡Dominemos la tecnología! y otras activistas por los derechos de las mujeres vienen solicitando a los intermediarios de internet que asuman algún tipo de responsabilidad respecto de la violencia de género en línea que sus plataformas contribuyen a facilitar, incluyendo la distribución de fotos sexualmente explícitas sin consentimiento. Incluso llevamos adelante una campaña en 2014 – ¿Qué estás haciendo para terminar con la violencia contra las mujeres?. Una solicitud clave era la de consultar con activistas por los derechos de las mujeres y con usuarias de Facebook, en especial del “Sur global”, para obtener una mejor comprensión de las realidades de las mujeres en Facebook y cómo los perjuicios que padecen se magnifican por la naturaleza personalizada y en red de la plataforma y su histórica falta de privacidad por defecto. 
 
Para esta innovación, Facebook colaboró con Cyber Civil Rights Initiative, que asesora sobre el tema a sobrevivientes y legisladores/as de Estados Unidos desde 2013. También mantuvo una mesa redonda de conversaciones sobre seguridad con participación de organizaciones de derechos de las mujeres de Asia, de África y, en menor medida, de América Latina en 2016. Si bien la colaboración lleva tiempo, claramente produce soluciones matizadas y valiosas. Si esto hubiese sido prioridad para Facebook, la solución podría haber sido viable mucho antes, en particular dentro de la plataforma de Facebook. 
 
La distribución sin consentimiento de imágenes íntimas es un problema mucho mayor que Facebook. Si la medida se limita a Facebook, las personas simplemente incrementarían su actividad en otros sitios. Un importante paso siguiente sería la colaboración entre plataformas a lo largo de la industria tecnológica. También es necesaria la colaboración con organizaciones de derechos para evitar la censura no intencional y que se abuse del sistema para limitar los derechos de LGBTQI y de las mujeres, incluyendo su derecho a la expresión sexual. La distribución sin consentimiento de imágenes íntimas no es una infracción a la ley en muchos países y puede estar sujeta a acción civil en vez de penal. No suele estar bien definida: algunos países han intentado prohibir el sexting, que consiste en compartir imágenes íntimas de manera consensuada. La experiencia en la evaluación de imágenes extremistas violentas y establecer una base de datos de valores hash, aunque también materia de debate, puede ayudar a informar de cómo esta iniciativa puede crecer.  
 
Si Facebook puede cultivar un personal de apoyo sensible al género e informado sobre derechos capaz de evaluar aspectos de consentimiento y contexto – no sólo desnudez – cuando se trata de imágenes íntimas, la base de datos resultante proporcionará un contenido creíble de invalorable potencial si luego se comparte en una base de datos independente y transversal a distintos sectores. La iniciativa debe centrarse en impedir el daño, no la expresión, educación o placer sexual.