Por qué es difícil para los seres humanos ejercer autoridad final sobre la IA

Resulta sumamente difícil que los seres humanos mantengan la autoridad y el control final sobre los sistemas de inteligencia artificial (IA), a pesar de que intuitivamente parece la mejor solución para evitar errores. Se detallan tres problemas principales que obstaculizan este control: primero, la IA opera a una velocidad sobrehumana que termina abrumando a las personas con enormes cantidades de datos, lo que genera fatiga cognitiva y debilita su capacidad para tomar decisiones. Segundo, existe un fuerte "sesgo de automatización" por el cual los humanos tienden a confiar ciegamente en las máquinas, llegando a lo que los expertos denominan una "rendición cognitiva" donde las personas simplemente adoptan el juicio de la IA como propio. Finalmente, la rendición de cuentas se vuelve borrosa, convirtiendo al operador humano en una especie de "zona de deformación moral" que absorbe injustamente la culpa legal y moral cuando el sistema complejo falla, a pesar de no tener un control real. En conclusión, la falsa ilusión de control humano sobre las máquinas puede ser más peligrosa que su ausencia, y sugiere que debemos aprender de industrias con experiencia en automatización, como la aviación, para mitigar estos riesgos adecuadamente.

Fuente: FT Financial Times, 25 de marzo del 2026.