Cuando pensamos en Inteligencia Artificial (IA), muchas personas imaginan dos historias opuestas. Por un lado, Iron Man: tecnología al servicio del ser humano, que amplifica nuestras capacidades y nos ayuda a tomar mejores decisiones. Por el otro, Terminator: máquinas autónomas que toman el control y ponen en riesgo a la humanidad. Estas imágenes vienen de la cultura popular, pero nos sirven para conversar, sin tecnicismos, sobre qué IA queremos y qué riesgos debemos evitar.
La promesa “Iron Man” con nuestros valores.
Los riesgos más citados no son películas de ciencia ficción: La IA tipo “Iron Man” no sustituye a las personas; las potencia. Pensemos en:
• Salud: sistemas que apoyan a médicas y médicos a detectar enfermedades antes.
• Educación: tutores inteligentes que personalizan ejercicios y retroalimentación.
• Servicios públicos y ciudades: análisis de datos para mejorar el transporte, la seguridad vial o la gestión del agua. En todos estos casos, la IA acompaña: pro pone, sugiere, clasifica, anticipa.
La decisión final sigue en manos humanas. Este enfoque requiere transparencia (saber cómo funciona), ética (no discriminar) y responsabilidad (quién se hace cargo si algo sale mal).
Las inquietudes “Terminator”
En el extremo contrario están los temores a sistemas que operen sin supervisión humana, con objetivos mal definidos o mal alineados con nuestros valores. Los riesgos más citados no son películas de ciencia ficción:
• Armas autónomas: decisiones de vida o muerte tomadas por algoritmos.
• Infraestructura crítica sin con trol humano suficiente: fallos a gran escala.
• Errores a lo grande: cuando un sistema mal entrenado aplica reglas “al pie de la letra” y causa daños.
Estas preocupaciones, aunque a veces parezcan lejanas, nos recuerdan por qué necesitamos reglas claras, supervisión humana significativa y mecanismos de seguridad desde el diseño.
Por: Mauricio Covarrubias
Investigador miembro del SNII/SECIHT y Secretario General en UNIVDEP Business School (UBS)
