Repensar la creación: mesa de trabajo sobre IA responsable

La tercera sesión de las Lecciones de Cine Latinoamericano 2026 propuso un cambio significativo frente a la dinámica de los encuentros anteriores. En lugar de una conferencia virtual, configuramos mesas de trabajo orientadas al diálogo, la reflexión y la construcción colectiva de criterios acerca del uso de la inteligencia artificial en los procesos creativos de las y los asistentes. La metodología, dirigida por Martín Loza, contempló una introducción general, seguida de un trabajo en grupos pequeños alrededor de casos concretos, guiada por un cuestionario, donde cada mesa encontró preguntas y espacios para consignar sus propias reflexiones. Finalmente, organizamos una puesta en común para conocer algunas de las conclusiones.

La conversación, que inició con la exposición del ponente, situó el debate una vez más entre las posibilidades que ofrece la IA y la gravedad que supone incorporarla, sin un enfoque ético, a las prácticas culturales y creativas. Además, la charla nos condujo a contemplar, como parte de la tensión, los riesgos medioambientales, políticos y económicos que ya son palpables en nuestros territorios.

La discusión, más allá de determinar si la tecnología es conveniente o inconveniente, nos permitió indagar en nuestras experiencias como ciudadanos y creadores, preguntándonos por el lugar que debe ocupar esta tecnología dentro de nuestros oficios, las decisiones que pueden delegarse y las instancias que requieren necesariamente una mirada humana. En este sentido, la dinámica buscó pasar de una discusión general sobre la IA a la construcción colectiva de parámetros aplicables a distintos ámbitos de la creación, como el cine, el arte, la escritura, la curaduría y la mediación.

Una de las principales coincidencias durante las conversaciones grupales fue reconocer que la IA puede ofrecer ventajas concretas cuando se emplea para organizar grandes cantidades de información, agilizar tareas, apoyar procesos de búsqueda o facilitar determinados flujos de trabajo. Esta posibilidad resultó especialmente evidente en el ámbito de la curaduría, donde el volumen de obras que reciben los festivales puede hacer difícil que las personas encargadas de la selección alcancen a visionarlas todas. En ese contexto, se consideró que una herramienta tecnológica podría ayudar a ordenar las obras, clasificarlas por temáticas, países o géneros y facilitar el trabajo de los equipos curatoriales.

Sin embargo, esta utilidad estuvo acompañada de una preocupación central, pues la automatización no debería sustituir la mirada humana. En el caso de la curaduría, se señaló que la selección de una obra no puede depender exclusivamente de criterios establecidos por un sistema, porque los criterios algorítmicos, y sus respectivos márgenes de error, abren siempre la posibilidad de que determinadas propuestas queden excluidas antes de ser realmente apreciadas. La preocupación se relaciona también con la posibilidad de que los festivales terminen privilegiando la eficiencia económica o tecnológica sobre el trabajo de los programadores y curadores. Por ello, la IA podría contribuir a organizar y agilizar el proceso, pero las decisiones que afectan la valoración y selección de las obras deberían permanecer bajo responsabilidad humana.

Esta misma tensión apareció frente al uso de IA en la creación. Para algunas posiciones, la herramienta puede aportar un punto de vista adicional y servir como apoyo en fases preliminares, especialmente cuando existen limitaciones de tiempo. Para otras, precisamente las primeras etapas de un proyecto son aquellas en las que debe protegerse con mayor cuidado la creatividad, por lo que recurrir a la IA demasiado pronto podría condicionar o empobrecer el desarrollo de una idea propia. Más que una oposición absoluta entre utilizar o no utilizar la herramienta, el debate planteó una cuestión de límites en donde debemos preguntarnos qué tareas puede apoyar la IA y en qué momento su intervención comienza a desplazar la autonomía creativa.

La defensa de la diversidad cultural constituyó otra preocupación transversal al señalar el riesgo al que nos conducen los sistemas generativos que homogeneizan las expresiones culturales presentes en nuestros territorios, reproduciendo estereotipos asociados con características raciales, sociales, económicas, etc. La posibilidad de que una herramienta genere imaginarios culturales a partir de sesgos presentes en sus datos de entrenamiento es una problemática que ha aparecido repetidamente en las sesiones, especialmente cuando dirigimos la discusión a la protección de comunidades vulnerables.

El problema de los derechos sobre las obras y los archivos utilizados para alimentar sistemas de IA también apareció como un punto sensible. La utilización de fotografías, fotogramas u obras, sin consultar a sus autores/as, pone en evidencia la apropiación ilegítima de lenguajes y referencias artísticas, lo que obviamente afecta tanto los derechos de autor como la heterogeneidad y diversidad de la creación. En ese mismo camino, las y los asistentes manifestaron la necesidad de reconocer que la IA no posee criterios éticos propios, lo que nos impide asumir automáticamente sus resultados como verdaderos o siquiera adecuados.

De las discusiones emerge, en primer lugar, la propuesta de comprender la IA como una herramienta de apoyo y no como un creador que sustituya la capacidad humana. Su utilización podría concentrarse en actividades operativas, de búsqueda, organización, revisión o apoyo a los flujos de trabajo, mientras que las decisiones técnicas, creativas, curatoriales y políticas permanecerían en manos de las personas. Esta distinción permitiría aprovechar la tecnología sin trasladar la responsabilidad sobre el direccionamiento creativo de una obra o sobre las decisiones que afectan a quienes participan en los procesos culturales.

Una segunda propuesta consiste en establecer mecanismos de revisión y verificación humana. Antes de incorporar un resultado generado por IA, sería necesario comprobar la información, solicitar y contrastar sus fuentes y realizar pruebas que permitan evaluar si la herramienta responde efectivamente a lo que se le solicita. En procesos de selección, la IA podría realizar una primera organización, pero el resultado tendría que ser contrastado con una mirada humana y, en última instancia, con la decisión de un jurado diverso.

También se planteó la necesidad de hacer explícito el uso de la IA. Cuando una imagen o pieza haya sido generada o modificada mediante esta tecnología, debe reconocerse su intervención, particularmente cuando el contenido pueda confundirse con una representación real. Este compromiso es responsabilidad de la organización, o del equipo que publica el contenido, y evita que la utilización de imágenes sintéticas o información generada por IA quede oculta al público.

Las propuestas incluyen, además, una perspectiva de protección de los derechos de autor, la diversidad cultural y la autonomía creativa. En este sentido, se sugirió incluso la creación de herramientas de IA específicamente pensadas para las industrias creativas y acompañadas de mecanismos de regulación de los derechos de autor y de prevención de sesgos ideológicos. Al mismo tiempo, se planteó evitar la replicación o el uso de contenidos preexistentes cuando ello afecte la heterogeneidad de la creación artística.

En conjunto, las conversaciones desarrolladas en esta lección reconocieron la necesidad de empezar a establecer en comunidad los límites que debemos establecer, las responsabilidades que debemos asumir y las condiciones de uso que deben cumplirse para incorporar estas herramientas tecnológicas sin delegar en ellas aquello que corresponde al criterio, la sensibilidad y la ética de las personas. Con este ejercicio queda sembrada la intención de construir un documento colectivo de recomendaciones para el uso de la IA en nuestros procesos creativos.