Desgranar la Inteligencia Artificial de la mano DJ la ruda durante los 16 días

Laruda es una identidad en constante mutación. Ocasionalmente facilita talleres de seguridad y cuidados digitales, y también se dedica a leer y conversar sobre tecnología, feminismo, libertad y vida colectiva. En esta oportunidad la entrevistamos para que nos contagiara las ganas de navegar su LiveBoard (selección con pulso de DJ de lo mejor de internet desde una mirada feminista), este año con enfoque sobre la inteligencia artificial para la campaña Dominemos la Tecnología.

P: ¿Qué encontraste para el Liveboard que tenga un aspecto diferencial?

Quizás es bueno decir que fue un reto, porque me hizo pensar en cuál es el papel del feminismo respecto de la Inteligencia Artificial, ¿acaso es ver todo lo malo que tiene? Esa fue la pregunta de partida porque es muy difícil encontrar recursos con un posicionamiento feminista que se permitan disfrutar, jugar o simplemente manipular herramientas de Inteligencia Artificial. Por eso creo que un aspecto diferencial es desgranar lo que es la Inteligencia Artificial. Y yo prefiero llamarla IA para no seguir reproduciendo la idea publicitaria, tan problemática y discutible, de que esta es una tecnología que simula la inteligencia humana.

En la selección me parece muy importante poner en el centro de la discusión sobre IA la posibilidad de una vida libre de violencias. Porque la producción de IA se vale de muchas violencia como el extractivismo, la explotación laboral y otras formas de opresión.

Al mismo tiempo me parece importante resaltar que la IA no tiene poderes sobrenaturales, que es como la venden los medios, sino que es una herramientas más, que puede ser útil para el procesamiento de datos y para el filtrado de información, y así no puede ayudar en el activismo porque agiliza nuestro trabajo de denuncia, nuestras acciones afirmativas y todas esas cosas que igual hacíamos antes de que la IA estuviera tan popularizada.

Y respecto de las violencias, también me parece importante visibilizar cómo se están generando nuevas solidaridades, nuevas formas de organización y nuevos movimientos sociales contra el acoso y la vigilancia masiva, por condiciones laborales más justas, por la defensa del ambiente y el territorio, por la vida en condiciones dignas para las personas, sin necesidad de que seamos iguales. Porque todo esto tiene que ver con el sistema de producción de IA.

P: ¿Cómo se relaciona esto con la ética feminista en los debates actuales de la inteligencia artificial? Si pudieras resumir las principales ideas.

Creo que la ética feminista consiste justamente en voltear la mirada. No se trata solo de hacer los modelos y los algoritmos más transparentes, menos sesgados o más justos, mientras se sigan produciendo y consumiendo de la misma manera. La ética no es un asunto de operaciones matemáticas solamente, no es un problema técnico con soluciones técnicas. Aunque haya un montón de cosas que se pueden hacer en lo técnico, no es suficiente. Desde el feminismo se busca voltear a mirar qué pasa en el proceso de producción, y qué pasa en la implementación. No es solo el impacto social del algoritmo, como si el algoritmo tuviera por sí solo el poder de impactar la sociedad, sino que hay un contexto de injusticia donde el algoritmo se produce y donde el algoritmo se implementa. Y es ese contexto el que tenemos que transformar.

La IA es interesante porque nos permite ver, más que otras tecnologías, cómo lo social y lo técnico están profundamente relacionados. Porque la IA no es solamente código, es imposible pensarla solo como código pues consiste en producir información a partir de la recolección, clasificación y procesamiento de información. Creo que la ética feminista propone mirar las condiciones sociales en que se está produciendo la IA y los efectos que está teniendo sobre ese contexto.

P: Estamos en una haciendo una campaña para llamar la atención sobre acciones desinformativas de género y quería preguntarte ¿cómo te parece que se pueda relacionar la inteligencia artificial con este tipo de campañas desinformativas de género o el uso de deepfakes o la creación  de material destinado a desacreditar la vida, la carrera de de una persona, especialmente de mujeres o personas no binarias?

Con la IA pareciera como que lo decía, pareciera como que son productos sobrenaturales que tienen un poder sobrehumano, así es la idea que nos venden, pero al final la inteligencia artificial son es un efecto matemático, cierto que no es nada del otro mundo.

La IA son técnicas de procesamiento de información, técnicas, estadísticas, técnicas matemáticas de procesamiento de información a unas velocidades muchísimo más rápido de lo que se hacía antes, exponencialmente más rápido.

Cuando hablamos de desinformación de género, el problema central no es el contenido sino la velocidad con que ese contenido puede ser replicado y divulgado ampliamente. Y tanto la velocidad como la escala tienen un efecto sobre quien está consumiendo contenidos. Es decir, los contenidos tienen una carga de género importante, pero además, esos contenidos tienen un efecto potenciado sobre las mujeres y las personas diversas justamente porque se divulgan y se consumen en un contexto particular.

En la selección que hice hay algunos contenidos que hablan de por qué la desinformación está tan ligada a la IA. También hay algunas recomendaciones sobre cómo identificar o verificar la autenticidad de la información. Sin embargo, creo que podemos contrarrestar el poder de la desinformación producida y divulgada con IA si entendemos mejor qué es, cómo funciona y a quién favorecen las herramientas de IA que se están publicitando tanto en los últimos tiempos. Creo que tanto la selección en el liveboard como el taller de fantasías feministas que realizaremos el próximo 7 de diciembre apuntan a eso: conocer mejor, desmitificar y aprovechar las herramientas de IA, al mismo tiempo que cuestionamos sus modelos de producción y de negocio.

Hace poco escuché a la investigadora argentina, Sofía Scasserra decir que el , en una charla que decía “El problema no es que la inteligencia artificial nos vaya a quitar los empleos, sino el problema es que en la narrativa mediática de la inteligencia artificial logremos empezar a comportarnos como algoritmos, cierto a mecanizar nuestra manera de trabajar y de hacer las cosas por el miedo de perder nuestros trabajos por la inteligencia artificial”. Este juego que es muy social, como de las profecías que se cumplen a sí mismas por una narrativa mediática. Pues creo que para herramientas contra la desinformación, aunque tengamos muchas técnicas para verificar si una imagen es real o no, si un texto fue creado con inteligencia artificial o no, las herramientas digitales nos permiten comparar saber si un texto se generó antes. Por ejemplo, los plagios, que son herramientas que no son nuevas, pero más allá de eso, lo que necesitamos es ganarle como la competencia de velocidad al contenido. En el momento en que estamos en nuestra aplicación de mensajería y recibimos un contenido antes de decir de gritar y decir, “oh, no, esto está pasando” y creer que eso está pasando solamente porque lo recibí, pues tengamos la capacidad de decir esto puede no ser cierto, y yo puedo verificarlo. 

Creo que, por supuesto, con cualquier información que esté atravesada por el género es más difícil. Son informaciones que tienen mayor poder, que circulan en otros espacios, y que afectan muchísimo más la intimidad de las personas por su identidad de género, por su expresión de género. Entonces, eso es una cosa que opera, que va mucho más allá de la inteligencia artificial pero como ha pasado históricamente, como con la violencia de género en línea, creo que la principal herramienta es poder parar un momento antes de reaccionar al contenido. Creo que es el camino hacia donde vamos, como generar herramientas, capacidades de reflexionar frente al contenido que recibimos y actuar de manera sensata frente al contenido que estamos recibiendo. Creo que ahí alguna vez alguien comentaba, por ejemplo, de un efecto que había tenido un deepfake, que es como yo sé que esto no pasó pero cuando me veo en ese contenido, hasta dudo si estoy siendo víctima de un deepfake. Dudo porque el contenido me convence. Entonces si alguien que está siendo violentada y de esa manera tiene la capacidad de pensarlo dos veces y reaccionar frente a eso, pues podemos hacer como una masa crítica para contrarrestar los efectos que tienen esos contenidos.

Ilustradora: Ana María Ramírez
Descripción de la ilustración: Una mano de tes morena sosteniendo una rama de muchas hojas verdes y tres flores amarillos, está en el centro de la ilustración, por encima de una estrella dibujada dentro de un círculo, en diferentes tonos de morado.  Alrededor del circulo hay mas ramas encmarcando la ilustración, flores amarillas y naranjadas tenues y hojitas de ruda. El texto abajo dice "DJ laruda". El fondo de todo es azul obscuro a manera de un cielo con estrellitas muy pequeñas y conexiones consteladas.