Este paper titulado “The good, the bad and the ugly in artificial intelligence”, publicado en AI and Ethics 2026 por los académico/as UC; Domingo Mery, Gabriela Arriagada-Bruneau y Jocelyn Dunstan, buscó hacer alusión a la estructura tripartita de la película de Sergio Leone (1966) como marco para analizar la IA como fenómeno sociotécnico. Se organiza en tres partes y luego dos contribuciones teóricas originales.
Estructura de contenido
- Lo bueno (the good): capacidades de la IA que aportan valor real, procesamiento de lenguaje natural, visión computacional, automatización, personalización, apoyo a la toma de decisiones en sectores como salud, educación, manufactura y seguridad.
- Lo malo (the bad): limitaciones técnicas y operativas que no son intencionales sino inherentes al estado actual de la tecnología: el problema de la “caja negra” (falta de explicabilidad), mala generalización, sesgos derivados de datos no representativos, riesgos de privacidad y desplazamiento laboral.
- Lo feo (the ugly): usos deliberadamente dañinos o decisiones éticamente cuestionables: desinformación y deepfakes, explotación laboral y ambiental en el desarrollo de IA, diseño adictivo de plataformas, IA impulsada solo por lucro, y aplicaciones maliciosas (vigilancia, armas, CSAM generado por IA).
Las dos contribuciones teóricas centrales
- Tesis de la Indistinguibilidad: argumenta que, desde la perspectiva de quien sufre el daño, un resultado “malo” (falla técnica sin intención) y uno “feo” (daño por negligencia o explotación deliberada) pueden ser fenomenológicamente idénticos. Por ejemplo, el caso COMPAS (algoritmo de reincidencia con sesgo racial): para el afectado, da igual si el sesgo fue un error técnico no corregido a tiempo o una negligencia deliberada, el daño es el mismo.
- Ethical Responsibility Gradient (ERG): un marco de cuatro zonas que cruza dos ejes: agencia del actor (¿quién controla?) y estado epistémico (¿qué se sabía?) para guiar la gobernanza:
- Zona 1: estructural-sistémica (baja agencia, baja certeza) → cerca de “lo malo”
- Zona 2: negligencia organizacional (transición malo→feo)
- Zona 3: distorsión por incentivos de mercado (territorio central de “lo feo”)
- Zona 4: intención maliciosa (responsabilidad clara)
El paper plantea que la evaluación ética de la IA no puede separarse del contexto, que la gobernanza debe ser prospectiva y adaptativa (lo que hoy es “malo” puede volverse “feo” si se ignora evidencia de daño), y que las comunidades afectadas deben tener voz en la gobernanza de la IA.
Para leer el paper, haz clic en el siguiente enlace: https://link.springer.com/article/10.1007/s43681-026-01200-5