Repensar la creación bajo el algoritmo

La segunda Lección de Cine Latinoamericano 2026, a cargo de Margarita Yépez, cofundadora y directora ejecutiva de la Fundación Datalat, en Ecuador, propuso un intercambio abierto entre la ponencia, que repasa aspectos básicos del análisis de datos, y las experiencias en el campo audiovisual de las personas asistentes. La dinámica de diálogo dió cuenta de la diversidad de perspectivas provenientes del cine, la cultura, el análisis de datos, los derechos digitales y la participación ciudadana en distintos contextos latinoamericanos, en torno a los retos que nos propone el uso de la IA. Esta dimensión interdisciplinaria resultó especialmente significativa, pues Margarita ofrece un enfoque técnico del análisis de datos, a la vez que articula una comprensión amplia de los fenómenos sociales producidos por los desarrollos tecnológicos. Así, la conversación permitió reconocer que los efectos de la IA no se limitan al ámbito de las disciplinas STEM, sino que atraviesan, evidentemente, las formas de crear, mirar, producir, compartir y relacionarnos con los demás, en el ámbito cultural, ecológico y político.

Uno de los puntos de partida para comprender el escenario actual es resaltar que los productos que la inteligencia artificial pone al alcance del público, como imágenes, textos, páginas web, audios, videos, aplicaciones y múltiples formas de asistencia, no son generados de manera “espontánea”. Como sabemos, detrás de ellos existen enormes estructuras de recopilación, almacenamiento y procesamiento de datos. Esta realidad adquiere una dimensión muy delicada cuando consideramos que entre esos datos se encuentran, no sólo producciones de nuestra autoría, sino, de manera todavía más preocupante, información personal sensible. Margarita señaló la importancia de la información biométrica que suministramos irreflexivamente y la posibilidad de que fotografías compartidas públicamente terminen alimentando sistemas capaces de generar, entre otras cosas, nuevas imágenes sobre las que no tenemos agencia. El problema, por tanto, no comienza cuando una imagen producida por IA aparece en una pantalla: comienza mucho antes, en la cadena de extracción, almacenamiento, procesamiento y reutilización de la información.

Esta situación nos obliga a establecer una distinción fundamental entre compartir un dato y autorizar su reutilización. El hecho de que una persona decida publicar voluntariamente una fotografía, no significa que haya concedido permisos para cualquier utilización posterior de esa imagen. La diferencia parece sencilla y manejable en nuestra vida cotidiana, pero tiene una enorme complejidad cuando la pensamos en la escala de los sistemas contemporáneos. En muchas ocasiones, el usuario recibe una aplicación o un servicio aparentemente gratuito sin percibir que parte del intercambio se encuentra precisamente en la entrega de información personal. De ahí la advertencia de Margarita, quien nos indica cómo, detrás de la “gratuidad” en el uso ciertas aplicaciones de la IA, en realidad estamos pagando con nuestros datos más sensibles.

Desde otro ángulo, la reutilización constante de todos estos datos, deviene en procesos de homogeneización de lo que producimos, y sabemos que esta problemática alcanza directamente al campo audiovisual y artístico. La inteligencia artificial se convierte en una herramienta valiosa para desbloquear determinadas limitaciones en el caso, por ejemplo, de un pequeño proyecto que no cuenta con una persona especializada en labores de diseño gráfico, para quien es necesario recurrir a una herramienta generativa que produzca una propuesta visual para su empresa. En este sentido, la IA ofrece una posibilidad democratizadora y facilita el acceso a recursos que antes estaban restringidos por costos o conocimientos técnicos. Sin embargo, esta ventaja coexiste con el riesgo de producir resultados cada vez más homogéneos o genéricos. Como vamos descubriendo poco a poco, la facilidad para crear imágenes termina imponiendo una estética reconocible, marcada por cierta “artificialidad”, que afecta las cualidades estéticas de nuestras creaciones. La herramienta soluciona una carencia concreta, pero también desplaza, sin darnos cuenta, decisiones creativas que dan identidad a una obra o a un proyecto.

Este problema de la reutilización constante de datos (muchas veces sin consentimiento de la población), la homogeneización y la pérdida de autoría, es insostenible cuando se relaciona con el patrimonio cultural de una comunidad. La inteligencia artificial podría constituir una oportunidad para documentar, preservar y “avivar el patrimonio” de pueblos marginados históricamente, pero al mismo tiempo aumenta el riesgo de perpetuar sesgos ideológicos, contribuyendo a la pérdida de soberanía de muchas culturas sobre sus propias producciones, conocimientos e identidades. En ese sentido, vemos en diferentes escenarios cómo comunidades latinoamericanas quedan representadas a partir de categorías, datos e imaginarios producidos desde otros contextos, que desconocen totalmente su complejidad y  peculiaridad. De esta manera, la cuestión no consiste solamente en conservar el patrimonio, sino en preguntarnos quién tiene la capacidad de representarlo, procesarlo, interpretarlo y decidir sobre su circulación.

Por todas estas razones, debemos ser conscientes de los sesgos presentes en los propios datos. Si bien los algoritmos son “simplemente” un conjunto de instrucciones que sigue una computadora para resolver problemas o tareas que se le proponen, la manera en que se plantean estas instrucciones, y los datos de los que se alimenta, no son neutrales. Los sistemas de aprendizaje automático identifican patrones a partir de la información que se les suministra y vuelven sobre ellos “una y otra vez”. Si esos datos contienen imprecisiones, fallos, sesgos, desigualdades o discriminaciones, el sistema puede aprenderlos y reproducirlos. 

Relacionado con lo anterior, Margarita nos invita a reflexionar que, si bien el aumento del uso de la IA en todas las esferas del trabajo humano se basa en  una promesa de eficiencia, la realidad demuestra que la “productividad” es relativa, pues encontramos también que la automatización de tareas presenta errores y disfuncionalidades que tienen un impacto económico. La velocidad de producción no equivale necesariamente a “eficiencia”. Cuando las empresas asumen resultados automatizados sin procesos rigurosos de revisión, aquello que inicialmente parece una optimización puede convertirse en semanas adicionales de corrección y, por tanto, en mayores costos. La automatización mal supervisada no elimina necesariamente el trabajo, sino que lo traslada hacia tareas de revisión, reparación y control.

Si todas estas problemáticas son visibles incluso en países que dominan los desarrollos tecnológicos, el escenario latinoamericano incorpora además dificultades y desigualdades estructurales que lo ponen en un lugar aún más delicado en toda esta cadena. La inteligencia artificial no está disponible de manera homogénea en todos los territorios y existen diferencias en el acceso a modelos y servicios, en la posibilidad de pagar versiones avanzadas, en los conocimientos necesarios para utilizarlos y, sobre todo, en la capacidad de producir la infraestructura tecnológica. Así, la IA profundiza la distancia entre el Norte y el Sur Global, y por tanto debemos preguntarnos quién tiene acceso a las mejores herramientas, quién puede desarrollar tecnología y quién termina proporcionando los recursos necesarios para sostenerla.

Esta última cuestión conduce directamente a la dimensión ecológica. Aunque la inteligencia artificial pudiera percibirse como un fenómeno inmaterial que ocurre “en la nube”, su funcionamiento depende de centros de datos, energía, agua, sistemas de refrigeración y territorio. Margarita habla de una verdadera “batalla por los recursos naturales”, en donde América Latina tiene un lugar central. Si determinados territorios se convierten en espacios de instalación de centros de datos, o de extracción de los recursos necesarios para su funcionamiento, la región puede quedar situada principalmente como proveedora de infraestructura y recursos para una tecnología cuyo control permanece en otros lugares. De allí adquiere sentido la necesidad de construir una ruta creada por nosotras y nosotros, orientada hacia la soberanía tecnológica y digital.

Como sabemos, todo este panorama encuentra un vacío sustancial en las políticas públicas de nuestros países, ya que las tecnologías avanzan con mayor rapidez que las legislaciones. En América Latina, donde las normativas específicas todavía presentan grandes fisuras, nos encontramos en el dilema de esperar a comprender completamente las tecnologías que nos están atravesando, a la vez que debemos actuar ya creando marcos legales para proteger nuestra privacidad, autoría, soberanía territorial y seguridad medio ambiental.

Frente a este diagnóstico, la Lección nos condujo hacia una idea que funciona como eje principal de la reflexión. Debe haber intervención humana, tanto intelectual como sensible, en todos los niveles de este proceso de la implementación de la IA, pues los principales problemas aparecen cuando la herramienta tecnológica deja de ocupar un lugar de asistencia y comienza a sustituir el criterio, la sensibilidad y la capacidad humana de decidir  y tener agencia sobre la gestión nuestras vidas.

Por ello, Margarita nos propone comprender la IA como una herramienta de apoyo a la decisión, y no como sustituto de la decisión. Es necesario comparar constantemente lo que automatizamos con otras capas de datos y, sobre todo, no basarnos en lo que nos dice netamente el modelo. Esta idea adquiere todavía más importancia cuando las decisiones afectan derechos, oportunidades laborales, acceso a servicios o representación cultural. Una máquina puede entregar una respuesta, pero la responsabilidad de aceptar, interpretar o rechazar esa respuesta continúa correspondiendo a seres humanos.

La supervisión debe extenderse, además, a las grandes empresas que desarrollan estas tecnologías, a las instituciones que las incorporan y a los Estados encargados de regularlas. No basta con confiar en declaraciones empresariales que utilizan palabras como “ético” o “responsable”. Margarita nos invita a recibir esas afirmaciones con cuidado, porque la ética no puede reducirse a una estrategia de comunicación, requiere transparencia, participación, mecanismos de control y rendición de cuentas. Debemos dirigir esfuerzos humanos, a través de instituciones públicas, organizaciones privadas, organizaciones sociales y comunidades desde todos los sectores, a supervisar el cumplimiento de los compromisos que entablamos para una gobernanza de datos realmente justa y respetuosa con nuestras formas de vida.

En el campo creativo, esta supervisión debe comenzar por el consentimiento. Una persona debe saber qué ocurrirá con su fotografía, su voz, su rostro o su obra; quién utilizará esos materiales y con qué finalidad. La discusión incorpora, por supuesto, la necesidad de una remuneración justa para quienes aportan contenidos culturales y creativos. Margarita nos trae como ejemplo el conflicto de SAG-AFTRA en Hollywood durante 2023, que mostró de manera concreta la dimensión laboral de esta preocupación: durante 118 días, actrices, actores y otros trabajadores discutieron, entre otros asuntos, las condiciones de utilización de sus imágenes y representaciones digitales. 

Para concluir, Margarita nos invita a conocer procesos desarrollados desde la UNESCO, permitiendo que la discusión abandone momentáneamente el diagnóstico y comience a explorar caminos de respuesta. La cuestión ya no consiste solamente en identificar los riesgos de la inteligencia artificial, sino en construir condiciones para que sus beneficios puedan aprovecharse sin profundizar las desigualdades existentes. En este sentido, la sesión presentó la RAM de UNESCO como una herramienta para evaluar qué tan preparados están los Estados y las organizaciones para desarrollar y utilizar inteligencia artificial de manera responsable. La importancia de esta perspectiva radica en desplazar el centro de atención desde la tecnología hacia las condiciones institucionales que deben acompañarla, para que accedamos a instancias de organización que nos permitan usar a nuestro favor la revolución tecnológica. Si bien la RAM es sólo una herramienta, resulta fundamental rastrear, revisar y difundir las rutas que empiezan a ofrecer diferentes organizaciones, donde se ponga en el centro la dignidad, los derechos humanos, la diversidad cultural, la transparencia, la supervisión humana y la sostenibilidad.