Unidad 2
Inteligencia artificial, ética y cultura
Una unidad para comprender cómo la inteligencia artificial transforma la creación, la producción, la circulación, el acceso y la monetización cultural, así como los riesgos éticos vinculados con derechos, datos, diversidad, género, pueblos indígenas y trabajo cultural.
Antes de iniciar
¿Cómo miramos la IA en la cultura?
Estas preguntas buscan activar la experiencia personal y la mirada crítica sobre inteligencia artificial generativa en relación con procesos culturales, derechos, comunidades y públicos.
¿En qué procesos culturales ha visto o imagina que podría utilizarse la inteligencia artificial?
¿Qué beneficios podría aportar la IA a personas artistas, instituciones, comunidades y públicos?
¿Qué riesgos identifica para la diversidad cultural, los derechos de autor o la libertad artística?
¿Quién debería decidir si una obra, voz, archivo, memoria o lengua puede usarse para entrenar IA?
¿Qué información debería recibir una persona cuando consume contenido generado o mediado por IA?
¿Qué condiciones mínimas deberían existir para una IA ética, inclusiva y respetuosa de derechos?
Contexto
¿La inteligencia artificial es más que una herramienta técnica?
La rápida evolución de las tecnologías digitales y de la IA está transformando la forma en que se crea, se accede y se comparte la cultura. La IA generativa puede facilitar acceso a colecciones, digitalización, preservación patrimonial, subtitulado, traducción, catalogación y creación de contenidos.
Al mismo tiempo, plantea riesgos: uso de obras sin consentimiento, pérdida o transformación de puestos de trabajo, impacto en ingresos, sesgos, homogeneización cultural, concentración económica y redefinición de la creatividad.
Pregunta central
¿La IA generativa amplía la creatividad o se alimenta de la creatividad sin reconocerla ni redistribuir su valor?
Conceptos base
¿Qué es la IA en el sector cultural?
La inteligencia artificial puede procesar grandes volúmenes de datos, reconocer patrones, recomendar contenidos, clasificar información, hacer predicciones o generar nuevos productos culturales a partir de instrucciones humanas y datos previos.
Creación cultural
Puede generar imágenes, música, textos, guiones, voces, diseños, videos y piezas audiovisuales.
Accesibilidad
Puede apoyar traducción automática, subtitulado, transcripción y audiodescripción.
Patrimonio
Puede apoyar restauración, digitalización, catalogación y acceso a archivos y colecciones.
Gestión cultural
Puede facilitar inventarios, análisis de públicos, mapeos culturales y sistemas de información.
IA generativa
¿Qué es la IA generativa?
La IA generativa es una forma de inteligencia artificial capaz de producir contenidos nuevos a partir de grandes conjuntos de datos previamente procesados. Puede generar textos, imágenes, sonidos, música, videos, animaciones, diseños, voces sintéticas, traducciones, objetos 3D o propuestas visuales.
Esto significa que la IA generativa ya está presente en toda la cadena de valor cultural: creación, producción, distribución, circulación, acceso, archivo, consumo, monetización y evaluación.
Uso cultural
¿Dónde aparece?
- Creación de imágenes a partir de instrucciones textuales.
- Composición musical o acompañamientos sonoros.
- Generación de guiones, relatos, poemas o textos curatoriales.
- Voces artificiales, doblaje automático, videos y animaciones.
- Restauración de imágenes, fotografías o archivos sonoros.
- Automatización editorial, museográfica o de mediación cultural.
Cadena de valor cultural
¿Cómo transforma la IA la cadena de valor cultural?
Con la IA, la cadena cultural deja de ser lineal. Ya no inicia únicamente con la idea creativa, sino también con la recolección de datos culturales que pueden alimentar modelos capaces de generar contenidos nuevos.
| Etapa | Antes de la expansión de la IA | Ahora con IA |
|---|---|---|
| Creación | Centrada en personas artistas, colectivos y comunidades. | Co-creación entre personas, plataformas, modelos generativos y bases de datos. |
| Insumos | Experiencia, memoria, formación, técnicas, materiales y referencias culturales. | Datos masivos: textos, imágenes, voces, archivos, obras digitalizadas, metadatos y patrones. |
| Producción | Procesos técnicos realizados principalmente por equipos humanos. | Automatización de edición, traducción, subtitulación, diseño, catalogación y análisis. |
| Distribución | Mediación de editoriales, salas, festivales, medios, instituciones y redes comunitarias. | Recomendación algorítmica, motores de búsqueda, plataformas digitales y visibilidad automatizada. |
| Derechos | Autoría y propiedad intelectual vinculadas a obras identificables. | Nuevas tensiones sobre entrenamiento de modelos, consentimiento, obras derivadas e imitación de estilos. |
| Diversidad cultural | Dependía de políticas, instituciones, medios, educación y circulación cultural. | Depende también de algoritmos, datos de entrenamiento, plataformas y visibilidad digital. |
Marco normativo
¿Qué es la Recomendación sobre la Ética de la Inteligencia Artificial?
La Recomendación sobre la Ética de la Inteligencia Artificial es un instrumento normativo de la UNESCO, publicado en el año 2021.
La Recomendación de UNESCO de 2021 orienta a Estados, instituciones, empresas, academia, sociedad civil y demás actores sobre cómo desarrollar, regular y utilizar la IA de manera ética, responsable y respetuosa de los derechos humanos.
Su propósito es que la IA esté al servicio de la humanidad, las personas, las sociedades, el medio ambiente y los ecosistemas, previniendo daños derivados de usos inadecuados.
La ética no va al final
Debe estar presente desde el diseño, entrenamiento, adquisición, despliegue, uso, evaluación, mantenimiento y cierre de los sistemas de IA.
Acción pública
¿Qué propone la Recomendación sobre la Ética de la Inteligencia Artificial en términos de acción?
Propone 10 áreas concretas de política pública e institucional. A continuación, se presentan las áreas descritas para esta unidad.
1. Evaluación del impacto ético
Los Estados deben establecer marcos de evaluación para identificar beneficios, riesgos, daños, sesgos y efectos sobre derechos humanos, libertades fundamentales, ambiente, democracia y Estado de derecho. Estas evaluaciones deben ser transparentes, participativas, multidisciplinarias e inclusivas.
Herramienta UNESCO
La UNESCO cuenta con la herramienta Ethical Impact Assessment (EIA), diseñada para que gobiernos, empresas, equipos técnicos e instituciones examinen si un sistema de IA se ajusta a la Recomendación.
Abrir herramienta2. Gobernanza y administración éticas
La gobernanza de la IA debe ser inclusiva, transparente, multilateral y multidisciplinaria. Debe incluir mecanismos de reparación cuando existan daños, así como auditoría, trazabilidad, supervisión y control público.
Herramienta UNESCO
La UNESCO impulsa la Metodología de Evaluación de la Preparación, conocida como Readiness Assessment Methodology (RAM), para que los países identifiquen brechas legales, regulatorias, sociales, culturales, educativas, científicas e infraestructurales en sus ecosistemas de IA. Además, impulsa el Consejo Empresarial para la Ética de la IA en América Latina, que promueve capacidades técnicas, evaluación ética y regulaciones inteligentes con participación del sector privado.
Consultar RAM3. Política de datos
La Recomendación plantea que los datos deben gestionarse con calidad, seguridad, privacidad, diversidad, consentimiento, protección jurídica y pertinencia cultural. Promueve los datos abiertos cuando corresponda, pero también reconoce que no todos los datos deben circular libremente, especialmente cuando son datos personales, sensibles, comunitarios, territoriales o vinculados a conocimientos tradicionales.
Experiencia UNESCO
El informe Inteligencia artificial centrada en los pueblos indígenas: perspectivas desde América Latina y el Caribe documenta experiencias relacionadas con lenguas indígenas, traducción automática, aprendizaje de Tu’un Savi, reconocimiento de elementos textiles y protección frente a apropiaciones indebidas.
Ndatiaku Tu’un Savi, “Renacimiento de Tu’un Savi”, es una iniciativa que busca revitalizar el uso de la lengua mixteca a través de su presencia en redes sociales. Sus espacios de difusión incluyen canales en YouTube, Facebook, Twitter, Google+, Pinterest y un portal web que enlaza las diversas plataformas.
El reporte pone especial énfasis en la participación de comunidades locales e indígenas, el respeto a su autonomía, la gestión adecuada de sus datos, la integración de sus perspectivas en todas las fases del desarrollo de la IA y ejemplos de buenas prácticas.
Consultar informe4. Desarrollo y cooperación internacional
La IA debe promoverse mediante cooperación internacional, especialmente para reducir brechas entre países y fortalecer capacidades en investigación, innovación, infraestructura, educación y gobernanza.
Experiencia UNESCO
La Metodología de Evaluación de la Preparación, o Readiness Assessment Methodology (RAM), permite generar informes nacionales con recomendaciones concretas para orientar políticas públicas, estrategias nacionales de IA y procesos de fortalecimiento institucional.
Consultar metodología5. Medio ambiente y ecosistemas
La IA puede apoyar la gestión ambiental, la predicción climática o la protección de recursos naturales, pero también puede generar daños por consumo energético, extracción de materiales y expansión de infraestructuras digitales.
Experiencias UNESCO
UNESCO ha señalado que los Estados deben evaluar el impacto ambiental de la IA en términos de huella de carbono, consumo energético y extracción de materias primas. Además, en 2025 difundió investigaciones sobre IA más eficiente, modelos más pequeños y reducción del consumo energético.
Ver informe sobre consumo energético Ver AI for the Planet6. Género
La Recomendación ofrece orientaciones para que la IA contribuya a la igualdad de género y no reproduzca estereotipos, violencias, discriminación o exclusión. También promueve la participación de niñas, adolescentes, mujeres y grupos subrepresentados en ciencia, tecnología, ingeniería, matemáticas, investigación, diseño y gobernanza de IA.
Experiencias UNESCO
El informe Los efectos de la IA en la vida laboral de las mujeres, elaborado por UNESCO, BID y OCDE, analiza los efectos de la IA en el ciclo laboral de las mujeres, desde la contratación hasta la progresión profesional. Además, la plataforma Women4Ethical AI busca incorporar la perspectiva de género en el diseño, uso y gobernanza de la IA.
Consultar informe Ver Women4Ethical AI7. Cultura
Este ámbito es clave para el sector cultural. La UNESCO recomienda utilizar IA para preservar, enriquecer, comprender, promover, gestionar y hacer accesible el patrimonio cultural material, inmaterial y documental. También menciona lenguas en peligro, lenguas y conocimientos indígenas, educación, artistas, profesionales creativos, bibliotecas, museos y archivos.
La Recomendación advierte que deben evaluarse los impactos de IA en traducción automática, procesamiento de lenguaje natural, asistentes de voz, propiedad intelectual, libertad artística, diversidad cultural, mercados culturales y visibilidad de contenidos locales.
Experiencias UNESCO
El Informe del Grupo de Expertos Independientes sobre Inteligencia Artificial y Cultura señala la importancia de usar IA en museos, galerías, bibliotecas y archivos para mejorar el acceso a colecciones, pero también advierte sobre concentración de mercado, propiedad intelectual, visibilidad de contenidos locales y derechos de las personas creadoras.
Consultar Informe CULTAI 20258. Educación e investigación
La UNESCO promueve competencias previas para la educación en IA: alfabetización básica, pensamiento crítico, creatividad, trabajo en equipo, comunicación, competencias digitales, codificación y alfabetización mediática e informacional. También recomienda educación ética sobre IA en todos los niveles.
Experiencias UNESCO
UNESCO cuenta con orientaciones sobre IA en educación, marcos de competencias para docentes y estudiantes, y la guía para el uso de IA generativa en educación e investigación.
Consultar guía9. Comunicación e información
La IA tiene impactos en medios, periodismo, libertad de expresión, acceso a información, moderación de contenidos y transparencia de plataformas. La Recomendación llama a fortalecer competencias digitales y mediáticas para comprender estos sistemas.
Experiencias UNESCO
UNESCO ha desarrollado recursos sobre alfabetización mediática e informacional e inteligencia artificial, así como materiales para periodistas y educadores sobre el reporte responsable de la IA.
Consultar recurso10. Economía y trabajo
Los Estados deben evaluar impactos de IA en empleo, automatización, reconversión laboral, formación profesional, protección social, mercados, consumo y competencia. La Recomendación propone fortalecer competencias y políticas de transición justa.
Experiencia UNESCO
El informe Repensar las Políticas para la Creatividad 2026 advierte que la transformación digital ha ampliado herramientas, mercados y audiencias, pero también ha intensificado desigualdades, precariedad, riesgos de propiedad intelectual, concentración de plataformas y falta de transparencia en los sistemas de curaduría digital.
Consultar informeOportunidades y desafíos
Oportunidades de la IA para el sector cultural
A continuación, se comparten una serie de oportunidades mencionadas en el Informe CULTAI 2025.
| Oportunidad | Explicación | Ejemplo |
|---|---|---|
| Creación aumentada | La IA puede apoyar procesos de ideación, experimentación, bocetaje, composición, edición y prototipado. | Una artista visual usa IA para explorar variaciones de una instalación, sin delegar la autoría final. |
| Democratización parcial del acceso a herramientas creativas | Personas sin formación técnica especializada pueden acceder a recursos de diseño, música, edición o traducción. | Una agrupación comunitaria produce materiales audiovisuales con herramientas de subtitulado y edición asistida. |
| Revitalización lingüística | Puede contribuir a documentar, transcribir y apoyar procesos educativos en lenguas en peligro. | Una comunidad indígena desarrolla, bajo control propio, un corpus lingüístico para enseñanza intergeneracional. |
| Accesibilidad cultural | Puede generar subtítulos, audiodescripciones, traducciones, lectura fácil y apoyos para públicos diversos. | Un festival usa IA para generar subtítulos iniciales, revisados por personas especialistas. |
| Gestión cultural basada en datos | Puede apoyar diagnósticos, análisis de públicos, mapeos culturales y monitoreo de políticas. | Un ministerio identifica brechas territoriales de acceso a actividades culturales, sin usar datos personales sensibles. |
| Respuesta ante emergencias | Puede ayudar a evaluar daños patrimoniales tras desastres, conflictos o crisis climáticas. | Equipos técnicos usan imágenes satelitales y modelos predictivos para priorizar acciones de conservación. |
Fuente: síntesis de datos del Informe CULTAI 2025.
Riesgos y derechos culturales
Desafíos de la IA para la diversidad cultural y los derechos culturales
El principal desafío planteado en la Recomendación sobre la Ética de la Inteligencia Artificial es que la IA puede reproducir o ampliar desigualdades existentes. A continuación, se comparten una serie de desafíos mencionados en el Informe CULTAI 2025.
| Desafío | Explicación | Ejemplo |
|---|---|---|
| Homogeneización cultural | Los sistemas generativos tienden a producir resultados basados en patrones dominantes de sus datos de entrenamiento. | Imágenes “latinoamericanas” generadas desde estereotipos visuales repetitivos y no desde diversidad territorial real. |
| Sesgos culturales, lingüísticos y de género | Los datos de entrenamiento pueden reproducir racismo, sexismo, centralismo urbano o privilegiar lenguas dominantes. | Una plataforma recomienda mayoritariamente artistas hombres, urbanos o de mercados dominantes. |
| Concentración económica y dependencia tecnológica | Grandes plataformas controlan infraestructura, datos, modelos, visibilidad y monetización. | Artistas independientes dependen de algoritmos privados para circular y generar ingresos. |
| Apropiación cultural y extractivismo de datos | Expresiones, saberes, imágenes, estilos o lenguas pueden ser incorporados a modelos sin consentimiento ni retribución. | Una empresa entrena IA con diseños textiles indígenas y comercializa productos derivados. |
| Afectación de derechos de autor y derechos morales | Obras protegidas pueden ser usadas para entrenar modelos sin autorización, atribución ni compensación. | Un sistema genera imágenes “al estilo de” una artista viva sin licencia ni reconocimiento. |
| Desplazamiento laboral y precarización | La automatización puede reducir ingresos o sustituir tareas creativas y técnicas. | Se reemplazan servicios de ilustración, edición, traducción o composición por IA sin transición justa. |
| Debilitamiento de capacidades creativas | La dependencia excesiva puede reducir pensamiento crítico, experimentación y oficio. | Estudiantes producen sin comprender procesos de composición, escritura o montaje. |
| Manipulación patrimonial | Reconstrucciones generadas por IA pueden confundirse con evidencias históricas. | Una reconstrucción especulativa de un sitio arqueológico se presenta como “verdad histórica”. |
| Impacto ambiental | Modelos generativos consumen energía, agua y hardware intensivo. | Producción masiva de imágenes o videos con alto consumo energético, considerando procesadores y uso de agua. |
Género e interseccionalidad
Género, IA y trabajo cultural
El enfoque de género es indispensable para el abordaje ético de la IA. Los sistemas de IA pueden reproducir sesgos presentes en los datos, en los equipos que diseñan tecnologías, en los mercados laborales y en las formas históricas de reconocimiento cultural.
El informe Los efectos de la IA en la vida laboral de las mujeres , elaborado por UNESCO, BID y OCDE, advierte que las mujeres enfrentan desigualdades en remuneración, acceso a puestos de toma de decisiones, participación en áreas STEM y uso de tecnologías digitales (Collett et al., 2022). En el sector cultural, estas brechas pueden expresarse en menor visibilidad algorítmica, menor acceso a herramientas de IA, menor representación en contenidos generados y mayor exposición a precarización laboral.
Por ello, el uso de IA en cultura debe incorporar preguntas como: ¿la herramienta reproduce estereotipos de género?, ¿representa a las mujeres solo como consumidoras y no como creadoras?, ¿reconoce el trabajo de mujeres artistas, técnicas, curadoras, mediadoras y gestoras?, ¿los datos incluyen diversidad de cuerpos, territorios, edades, lenguas y expresiones de género?
Una IA ética debe ser también una IA con enfoque de género e interseccionalidad.
Datos culturales y soberanía
Pueblos indígenas, datos culturales y soberanía
La IA aplicada a lenguas, patrimonios, imágenes, relatos, cantos, diseños, conocimientos tradicionales o memorias comunitarias requiere cuidados reforzados. No todo dato cultural debe ser abierto, descargable o reutilizable. Algunos conocimientos tienen valor espiritual, territorial, ritual, colectivo o reservado.
El informe Inteligencia artificial centrada en los pueblos indígenas: perspectivas desde América Latina y el Caribe plantea la necesidad de una IA participativa que respete los derechos humanos, las perspectivas indígenas, la diversidad cultural y la gestión adecuada de datos comunitarios (González Zepeda & Martínez Pinto, 2023).
Desde esta perspectiva, el uso de IA con pueblos indígenas debe considerar al menos cinco principios: consentimiento libre, previo e informado; participación efectiva en todas las etapas; control comunitario de los datos; distribución justa de beneficios; y respeto a protocolos culturales propios.
Criterios éticos
Preguntas para usar IA de forma responsable
- ¿Para qué se usará la IA y cuál derecho cultural fortalece?
- ¿La IA es realmente necesaria o existe una alternativa menos riesgosa?
- ¿Se informa cuándo se usa IA y cómo incide en la creación o difusión cultural?
- ¿Se cuenta con autorización para usar obras, voces, imágenes, archivos, datos o saberes?
- ¿Las personas creadoras y comunidades reciben reconocimiento y beneficios?
- ¿Existe mecanismo de reclamo, corrección, apelación o retiro de contenidos?
Conceptos clave
Ideas para recordar
Algoritmo
Conjunto de instrucciones que permite procesar información y producir resultados.
Sesgo algorítmico
Resultado discriminatorio producido por datos, diseños o usos que reproducen desigualdades.
Evaluación de impacto ético
Análisis previo y continuo de efectos de un sistema de IA sobre personas, comunidades y derechos.
Soberanía de datos
Derecho a decidir cómo se recopilan, almacenan, usan, comparten o protegen los datos.
