Unidad 2
Inteligencia artificial, ética y cultura
Una unidad para comprender cómo la inteligencia artificial transforma la creación, la producción, la circulación, el acceso y la monetización cultural, así como los riesgos éticos vinculados con derechos, datos, diversidad, género, pueblos indígenas y trabajo cultural.
Antes de iniciar
¿Cómo miramos la IA en la cultura?
Estas preguntas buscan activar la experiencia personal y la mirada crítica sobre inteligencia artificial generativa en relación con procesos culturales, derechos, comunidades y públicos.
¿En qué procesos culturales ha visto o imagina que podría utilizarse la inteligencia artificial?
¿Qué beneficios podría aportar la IA a personas artistas, instituciones, comunidades y públicos?
¿Qué riesgos identifica para la diversidad cultural, los derechos de autor o la libertad artística?
¿Quién debería decidir si una obra, voz, archivo, memoria o lengua puede usarse para entrenar IA?
¿Qué información debería recibir una persona cuando consume contenido generado o mediado por IA?
¿Qué condiciones mínimas deberían existir para una IA ética, inclusiva y respetuosa de derechos?
Contexto
¿La inteligencia artificial es más que una herramienta técnica?
La rápida evolución de las tecnologías digitales y de la IA está transformando la forma en que se crea, se accede y se comparte la cultura. La IA generativa puede facilitar acceso a colecciones, digitalización, preservación patrimonial, subtitulado, traducción, catalogación y creación de contenidos.
Al mismo tiempo, plantea riesgos: uso de obras sin consentimiento, pérdida o transformación de puestos de trabajo, impacto en ingresos, sesgos, homogeneización cultural, concentración económica y redefinición de la creatividad.
Pregunta central
¿La IA generativa amplía la creatividad o se alimenta de la creatividad sin reconocerla ni redistribuir su valor?
Conceptos base
¿Qué es la IA en el sector cultural?
La inteligencia artificial puede procesar grandes volúmenes de datos, reconocer patrones, recomendar contenidos, clasificar información, hacer predicciones o generar nuevos productos culturales a partir de instrucciones humanas y datos previos.
Creación cultural
Puede generar imágenes, música, textos, guiones, voces, diseños, videos y piezas audiovisuales.
Accesibilidad
Puede apoyar traducción automática, subtitulado, transcripción y audiodescripción.
Patrimonio
Puede apoyar restauración, digitalización, catalogación y acceso a archivos y colecciones.
Gestión cultural
Puede facilitar inventarios, análisis de públicos, mapeos culturales y sistemas de información.
IA generativa
¿Qué es la IA generativa?
La IA generativa es una forma de inteligencia artificial capaz de producir contenidos nuevos a partir de grandes conjuntos de datos previamente procesados. Puede generar textos, imágenes, sonidos, música, videos, animaciones, diseños, voces sintéticas, traducciones, objetos 3D o propuestas visuales.
Esto significa que la IA generativa ya está presente en toda la cadena de valor cultural: creación, producción, distribución, circulación, acceso, archivo, consumo, monetización y evaluación.
Uso cultural
¿Dónde aparece?
- Creación de imágenes a partir de instrucciones textuales.
- Composición musical o acompañamientos sonoros.
- Generación de guiones, relatos, poemas o textos curatoriales.
- Voces artificiales, doblaje automático, videos y animaciones.
- Restauración de imágenes, fotografías o archivos sonoros.
- Automatización editorial, museográfica o de mediación cultural.
Cadena de valor cultural
¿Cómo transforma la IA la cadena de valor cultural?
Con la IA, la cadena cultural deja de ser lineal. Ya no inicia únicamente con la idea creativa, sino también con la recolección de datos culturales que pueden alimentar modelos capaces de generar contenidos nuevos.
| Etapa | Antes de la expansión de la IA | Ahora con IA |
|---|---|---|
| Creación | Centrada en personas artistas, colectivos y comunidades. | Co-creación entre personas, plataformas, modelos generativos y bases de datos. |
| Insumos | Experiencia, memoria, formación, técnicas, materiales y referencias culturales. | Datos masivos: textos, imágenes, voces, archivos, obras digitalizadas, metadatos y patrones. |
| Producción | Procesos técnicos realizados principalmente por equipos humanos. | Automatización de edición, traducción, subtitulación, diseño, catalogación y análisis. |
| Distribución | Mediación de editoriales, salas, festivales, medios, instituciones y redes comunitarias. | Recomendación algorítmica, motores de búsqueda, plataformas digitales y visibilidad automatizada. |
| Derechos | Autoría y propiedad intelectual vinculadas a obras identificables. | Nuevas tensiones sobre entrenamiento de modelos, consentimiento, obras derivadas e imitación de estilos. |
| Diversidad cultural | Dependía de políticas, instituciones, medios, educación y circulación cultural. | Depende también de algoritmos, datos de entrenamiento, plataformas y visibilidad digital. |
Marco normativo
Recomendación sobre la Ética de la Inteligencia Artificial
La Recomendación de UNESCO de 2021 orienta a Estados, instituciones, empresas, academia, sociedad civil y demás actores sobre cómo desarrollar, regular y utilizar la IA de manera ética, responsable y respetuosa de los derechos humanos.
Su propósito es que la IA esté al servicio de la humanidad, las personas, las sociedades, el medio ambiente y los ecosistemas, previniendo daños derivados de usos inadecuados.
La ética no va al final
Debe estar presente desde el diseño, entrenamiento, adquisición, despliegue, uso, evaluación, mantenimiento y cierre de los sistemas de IA.
Acción pública
Áreas de acción de la Recomendación de IA
La Recomendación plantea áreas concretas de política pública e institucional que permiten abordar beneficios, riesgos, daños, sesgos y efectos de los sistemas de IA.
Evaluación del impacto ético
Los Estados deben establecer marcos para identificar beneficios, riesgos, daños, sesgos y efectos sobre derechos humanos, libertades fundamentales, democracia, ambiente y Estado de derecho.
Gobernanza y administración éticas
La gobernanza de la IA debe ser inclusiva, transparente, multilateral y multidisciplinaria, con mecanismos de reparación, auditoría, trazabilidad, supervisión y control público.
Política de datos
Los datos deben gestionarse con calidad, seguridad, privacidad, diversidad, consentimiento, protección jurídica y pertinencia cultural.
Cultura
La UNESCO recomienda usar IA para preservar, enriquecer, comprender, promover, gestionar y hacer accesible el patrimonio cultural, incluyendo lenguas en peligro, conocimientos indígenas, museos, archivos y bibliotecas.
Género, educación, comunicación, economía y trabajo
La IA debe abordarse con enfoque de igualdad, alfabetización digital, competencias críticas, transición justa, protección social, transparencia de plataformas y responsabilidad institucional.
Oportunidades y desafíos
¿Qué puede aportar y qué puede poner en riesgo la IA?
La orientación de UNESCO no es promover la IA de forma acrítica, sino asegurar que su diseño, desarrollo y uso estén guiados por derechos humanos, diversidad cultural, transparencia, responsabilidad, sostenibilidad, participación y justicia.
Creación aumentada
Puede apoyar ideación, experimentación, bocetaje, composición, edición y prototipado.
Accesibilidad cultural
Puede generar subtítulos, audiodescripciones, traducciones, lectura fácil y apoyos para públicos diversos.
Revitalización lingüística
Puede contribuir a documentar, transcribir y apoyar procesos educativos en lenguas en peligro.
Riesgos éticos
Puede generar apropiación cultural, sesgos, concentración económica y afectación de derechos de autor.
Criterios éticos
Preguntas para usar IA de forma responsable
- ¿Para qué se usará la IA y cuál derecho cultural fortalece?
- ¿La IA es realmente necesaria o existe una alternativa menos riesgosa?
- ¿Se informa cuándo se usa IA y cómo incide en la creación o difusión cultural?
- ¿Se cuenta con autorización para usar obras, voces, imágenes, archivos, datos o saberes?
- ¿Las personas creadoras y comunidades reciben reconocimiento y beneficios?
- ¿Existe mecanismo de reclamo, corrección, apelación o retiro de contenidos?
Cuidado reforzado
Datos culturales y soberanía
La IA aplicada a lenguas, patrimonios, imágenes, relatos, cantos, diseños, conocimientos tradicionales o memorias comunitarias requiere consentimiento libre, previo e informado, participación efectiva, control comunitario de los datos, distribución justa de beneficios y respeto a protocolos culturales.
Conceptos clave
Ideas para recordar
Algoritmo
Conjunto de instrucciones que permite procesar información y producir resultados.
Sesgo algorítmico
Resultado discriminatorio producido por datos, diseños o usos que reproducen desigualdades.
Evaluación de impacto ético
Análisis previo y continuo de efectos de un sistema de IA sobre personas, comunidades y derechos.
Soberanía de datos
Derecho a decidir cómo se recopilan, almacenan, usan, comparten o protegen los datos.
Continúe con el autodiagnóstico
Después de revisar los conceptos principales, complete el test para identificar cómo utiliza la IA en su trabajo cultural y si sus prácticas incorporan criterios de ética, transparencia, derechos, igualdad, diversidad, consentimiento y responsabilidad.
Uso ético y responsable de la inteligencia artificial en el trabajo cultural
Este autodiagnóstico permite identificar cómo utiliza la inteligencia artificial en su trabajo cultural y reconocer si sus prácticas incorporan criterios de ética, transparencia, derechos culturales, igualdad, diversidad, consentimiento y responsabilidad.
Autodiagnóstico interactivo
Lea cada afirmación y seleccione la opción que mejor describe su práctica actual. El puntaje se calculará automáticamente.
Escala de respuesta
Seleccione una opción del 0 al 4
La escala permite valorar la frecuencia con la que incorpora criterios éticos, de transparencia, derechos, diversidad, consentimiento y responsabilidad en el uso de IA.
Nunca
La práctica no se realiza o no ha sido considerada.
Pocas veces
Se realiza de forma ocasional o poco sistemática.
Algunas veces
Existen avances, pero todavía no es una práctica constante.
Casi siempre
La práctica está bastante integrada, aunque puede mejorar.
Siempre
La práctica se aplica de forma clara, responsable y sistemática.
Datos generales
Resultado general
Complete el autodiagnóstico
Al responder las 40 preguntas, aquí aparecerá su resultado general y una interpretación automática.
