Humans in the Loop (Aranya Sahay) India. |

Humans in the Loop
Aranya Sahay
India. 2024. 74 min

Nehma, una mujer indígena de la tribu Oraon, regresa a su aldea con sus hijos Dhaanu, de doce años, y Guntu, de un año, después de su divorcio. Comienza a trabajar como etiquetadora de datos, entrenando modelos de IA «infantiles» para reconocer imágenes.
Mientras Nehma enfrenta el desafío de conectarse con Dhaanu, quien tiene prejuicios contra la vida del pueblo y siempre está tentada a huir de regreso a la ciudad, también se da cuenta de que la IA con la que trabaja está adoptando prejuicios humanos dañinos, haciéndose eco de los prejuicios contra su propia comunidad.

ARANYA SAHAY

Aranya es un cineasta indio que vive en Mumbai. Estudió Dirección en FTII, Pune. Luego ayudó a Imtiaz Ali y Patrick Graham como director asociado y asistente de dirección. Ha dirigido cinco cortometrajes, de los cuales ‘Songs forBabasaheb’ y ‘Chait’ se han proyectado en el Festival Internacional de Cine de Mumbai, el Festival de Cine Signs y el Festival de Cine de Jaffna. . En 2021, su película ‘Saaya’ fue seleccionada como proyecto ‘Film Bazaar Recommends’. Fue participante y ganador de una subvención en el Programa de becas de impacto del Museo de Futuros Imaginados en 2023.

NOTA DEL DIRECTOR

En 2022 leí un artículo titulado “Human Touch” de Karishma Mehrotra sobre mujeres tribales en Jharkhand que trabajan con inteligencia artificial como anotadoras de datos. Los anotadores ‘etiquetan’ imágenes, videos y audio para mejorar los algoritmos de aprendizaje automático. Cuando se exponen a nuevos datos, estas aplicaciones aprenden y se desarrollan por sí mismas, aprendiendo a diferenciar entre objetos y reconocer patrones, como un niño.

Esto sirvió de inspiración para una historia de civilización que explora la interacción entre una sociedad tradicional y las tecnologías del futuro. Mientras investigaba en Jharkhand, me encontré con restos del colonialismo: edificios, arcos, instituciones y una dolorosa historia del imperialismo que destruyó a las comunidades indígenas, descartando sus conocimientos como “primitivos”. El auge de la IA, moldeado en gran medida por las perspectivas occidentales, amenaza con replicar esta exclusión.

Este fenómeno, conocido como «sesgo de IA», perpetúa los prejuicios humanos a través de datos limitados y sesgados que se utilizan para entrenar modelos de aprendizaje automático, eliminando las identidades y el conocimiento cultural de las mismas personas que son reclutadas para etiquetar estos datos.

El trabajo de mi madre como investigadora en regiones tribales de la India dejó en mí una huella imborrable. Hace tiempo que me inspira a contar una historia ambientada en Jharkhand. No hay mejor lugar que este para situar una historia indígena en el contexto de un mundo que está cambiando rápidamente a través de la IA.