Por María Fernanda Noboa G., PHD^[1]

#Amassuru

Uno de los debates clave en la producción investigativa y académica actual, es el estudio de la inteligencia artificial (IA), campo especializado y dinámico que exige por lo mismo, una perspectiva de género. Lo que vivía en nuestra imaginación como ciencia ficción, en décadas anteriores, hoy en día es palpable por el desarrollo de los asistentes inteligentes para nuestros hogares y nuestros teléfonos móviles, que instrumentalizan más nuestro sentido de ser y estar en la complejidad de mundo global (Merino, 2020). Con ello se logra mayor eficiencia y eficacia en un sinnúmero de tareas, que otrora significaban inversión de tiempo, que, en medio de una globalización de incertidumbres dinámicas y volatilidad, debe desplazarse hacia otras consideradas relevantes^[2]. Simultáneamente, debido a la ubicuidad de la inteligencia artificial se despliegan, en diversas dimensiones, características de una sociedad de control con autocontrol de nuestro tiempo de vida, una especie de control biopolítico, asignado a las tareas en el espacio doméstico.

Estas pueden ser denominadas las “no tareas”- parafraseando a Augé^[3]– ; es decir, aquellas tareas que son todos y todas,  y a la vez no son de nadie, pero que requieren ser ejecutadas (prender y apagar las luces, prender el aire a condicionado, subir y bajar cortinas y persianas, sintonizar música, programar tiempos de cocción en freidoras de aire, grabación de música y programas en televisión, prender y apagar electrodomésticos, entre otros. Estas tareas cotidianas son de transitoriedad en espacios simbólicos mutantes que se van ajustando y modificando permanentemente, donde la voz femenina de los ordenadores configura un espectro de “lo femenino” ligado a las posibilidades de control y, por ende, a la reproducción de un ejercicio del poder imaginado e instrumentalizado. La UNESCO incluso en varios de sus estudios ha alertado respecto de que:

“… los sesgos de género que persisten en los conjuntos de datos, algoritmos y dispositivos de capacitación de la inteligencia artificial tienen el potencial de propagar y reforzar estereotipos de género perjudiciales. Estos sesgos de género (UNESCO, 2020: 1) pueden estigmatizar y marginar aún más a las mujeres a escala mundial”.

La masculinización de la disciplina de la IA (Cernadas y Calvo, 2020) desde su inicio determina  un ejercicio androcéntrico en la creación de algoritmos y programación de los sistemas que interactúan con nosotros por medio de la voz.  De partida, este hecho condiciona la comprensión de las denominadas tareas domésticas y el sentido de domesticación y sexualización del espacio sobre cuerpos dóciles. Hoy ALEXA es la mujer artificial, es la otrora ama de casa, ama de llaves, empleada doméstica, al servicio de todas /os/ que puede ser controladas y dominadas a gusto sin ninguna reacción, más que la obediencia derivada del cálculo del tipo de algoritmos patriarcal de la inteligencia artificial . En suma, un hombre hace visible incluso a la propia simulación de la mujer que es ALEXA.

¿Quiénes son las mujeres y cómo son vistas y representadas desde ALEXA?

En complicidad con la experta norteamericana, Cynthia Enloe^[4] (Enloe, 2004) vale cuestionarse, entonces, ¿quiénes somos las mujeres, cómo somos construidas y pensadas desde los discursos y las prácticas de la Inteligencia artificial ¿Cuáles son las dinámicas y lógicas de resonancia de  nuestras voces?

Si tomamos en cuenta que ALEXA, como asistente personal dentro del mundo de la IA, tiene múltiples habilidades digitales que están desarrollándose en un espectro más amplio, hasta ser considerada como una asistente virtual ecosistémica:  hay que situarla tal cual, como asistente al fin. Por tanto,  aparece envestida de tareas instrumentales, derivadas de  conceptos y niveles de abstracción básicos, resultados de planificación y cálculos de algoritmos cargados de sesgos de partida: no incluyentes, no interseccionales, con sexismo subyacente, con caracterizadores no verbales sexistas (segregadores de la voz, como tono, timbre, duración  e intensidad) que promocionan ideas de trabajo doméstico asociados con belleza en un contexto de docilidad.

En la construcción del imaginario en torno a ALEXA se evidencia cómo los hombres entienden la categoría mujer  (Sjoberg, 2018) y le asignan mecanismos para operar en la vida social y política. En medio de ello, la pregunta que surge ¿por qué  no ALEXIS?, sobre todo si se considera que con la globalización  se ha producido una creciente desespacialización de lo público y lo privado^[5] y desterritorialización, no como fin de los territorios sino como una comprensión más adecuada de las fronteras no como algo geográfico, sino aludiendo a lo simbólico y lo político. Es más, cuando uno pregunta a la propia ALEXA por su género, responde “ninguno”; es decir,  ha sido construida como una entidad que se auto reconoce asexuada. Quedan de esta manera evidenciadas las presuposiciones en torno al género en la IA, práctica en donde la raza, la clase, la nacionalidad y la sexualidad parecen no importar. 

¿ Cuáles son los desafíos para la reflexión y práctica de la mirada de género ?

• El desarrollo de los Estudios de IA debe sumergirse en la complejidad de los contextos en donde se programan los algoritmos, tomando en cuenta diversas dimensiones, variables, factores espacio-temporales y culturales que coexisten en el mundo real;
• Las prácticas de la IA deben ser vistas críticamente en dos sentidos: una, como autorreflexión de quienes la producen y, la otra, la mirada de quienes la utilizan, evitando la institucionalización y reforzamiento de estereotipos de género, hacia el logro de un crecimiento sostenible de las sociedades, en las cuales la IA sirva para una mayor conciencia social no solo de manera coyuntural sino con mirada estratégica y prospectiva;
• El estudio de los espacios socio- culturales debe incorporar una mirada interseccional a fin de lograr que la IA coadyuve a la construcción de sociedades sostenibles e incluyentes;
• La instrumentalización de la IA para las tareas consideradas “domésticas” deben ser deconstruidas y revalorizadas, ampliando asimismo la mirada que se tiene de las asociaciones discursivas y significativas entre lo doméstico, el espacio de las mujeres como un ejercicio de poder subalterno al masculino;
• La comprensión de que los paradigmas en los que se sustenta la IA deben transitar -aunque parezca paradójico- a una humanización mayor de los vínculos sociales, a la responsabilidad social y el compromiso ético. Coexisten procesos diversos y múltiples en la vida de las personas; por tanto, el estudio de la IA y sus efectos deben estar situados y comprendidos longitudinalmente.
• La IA debe brindar apoyo al desarrollo incluyente de cada sociedad, evitando los riesgos de profundizar desigualdades y encaminándose al servicio de la humanidad en su conjunto;
• El avance de las diversas modalidades de IA debería repensarse, más allá del fetichismo tecnológico, de hiperrealidades construidas por una sociedad de flujos, una sociedad líquida, volátil y disruptiva, que por momentos nos sumerge en una especie de desrealización de lo real, donde los humanos, al parecer, vamos perdiendo espacio ante los inusitados desarrollos de la robótica.

Referencias

Calvo, E. C. (2022). Perspectiva de género en Inteligencia Artificial, una necesidad . En Cuestiones de género: de la igualdad a la diferencia (págs. 111-127). Madrid.

Enloe, C. (2004). » Gender is not enough»: The Need of a Feminist Consciusness. International Affairs, 80(1), 95-97. doi:https://www.jstor.org/stable/3569298

Merino, I. (2020). ¿ Qué hay detrás de Siri y Alexa? Inteligencia artificial aplicada a la empresa. AUSAP-(SAP-IA- Empresa) España, 40-42.

Sjoberg, L. (2018). Feminist Security and Security Studiers. Oxford. The Oxford Habdbook of Security Studies: Oxford University Press.

UNESCO. (2020). ARTIFICIAL INTELLIGENCE AND GENDER EQUALITY. Key findings of UNESCOS´S Global Dialogue. UNESCO. Obtenido de https://www.unesco.org/es/articles/nuevo-informe-de-la-unesco-sobre-inteligencia-artificial-e-igualdad-de-genero

______________________________________________________________________________________________________________________________

^[1] Doctora en Relaciones Internacionales. Investigadora en Estudios Estratégicos y Seguridad. Coordinadora en Ecuador de la Red Amassuru

^[2] Aludo al tiempo de producción y consumo

^[3] Marc Auge, antropólogo francés especializado en etnología. Una de sus principales obras es “Los no lugares. Espacios del anonimato. Antropología de la Sobremodernidad (1993)

^[4] Experta en  Estudios críticos en Seguridad, Feminismo y Asuntos Militares,

^[5] Normalmente las tareas domésticas eran consideradas exclusivamente del dominio privado y el poder político o era público. No obstante, ahora aquello público de la política, como el ejercicio del poder masculino está en los espacios privados o íntimos como son los hogares donde se utiliza la IA  personificada en ALEXA.

Enloe, C. (2004). » Gender is not enough»: The Need of a Feminist Consciusness. International Affairs, 80(1), 95-97. doi:https://www.jstor.org/stable/3569298

Merino, I. (2020). ¿ Qué hay detrás de Siri y Alexa? Inteligencia artificial aplicada a la empresa. AUSAP-(SAP-IA- Empresa) España, 40-42.

Sjoberg, L. (2018). Feminist Security and Security Studiers. Oxford. The Oxford Habdbook of Security Studies: Oxford University Press.

UNESCO. (2020). ARTIFICIAL INTELLIGENCE AND GENDER EQUALITY. Key findings of UNESCOS´S Global Dialogue. UNESCO. Obtenido de https://www.unesco.org/es/articles/nuevo-informe-de-la-unesco-sobre-inteligencia-artificial-e-igualdad-de-genero

Foto de Ibrar Hussain

La opinión de la autora no compromete la posición institucional de Amassuru

____________________________________________________________________________________________

AMASSURU MUJERES EN SEGURIDAD

Somos una red de mujeres que trabajan temas de Seguridad y Defensa en América Latina y el Caribe (ALC), creada para promover el trabajo de las mujeres en el área, además de facilitar la visibilidad y los espacios de discusión en la región. Juntas, somos mucho más poderosas, por eso creemos que es central crear una red entre nosotras, en un área como la de seguridad, en la cual hemos sido segregadas históricamente. Somos una red independiente y apartidaria de mujeres que trabajamos en diversas áreas, incluyendo la investigación, la docencia, el trabajo directo en políticas públicas y prevención, el periodismo, las ONGs, los gobiernos nacionales y locales, así como en organizaciones internacionales y la academia, entre otras áreas. La red de Amassuru está enfocada en la seguridad en el sentido amplio, englobando temáticas de seguridad ciudadana, seguridad humana, seguridad internacional y justicia.