La inteligencia artificial (IA) ha sido considerada, hasta hace poco, parte del reino de la ciencia ficción en lo que respecta a su capacidad para exterminar a los humanos. Sin embargo, este escenario extremo está siendo estudiado con seriedad por la comunidad científica mediante el uso de estudios matemáticos. Todo esto en un intento por abordar una incómoda pero crucial pregunta: ¿puede la IA acabar con toda la humanidad?
La amenaza potencial de la inteligencia artificial
Los expertos en modelos de seguridad, ingeniería de sistemas y evaluación de riesgos están considerando seriamente esta preocupación. Lejos de tratarse de una fantasía sobre robots asesinos, se plantea la posibilidad de que una tecnología mal diseñada o descontrolada se convierta en una amenaza tangible. Según los expertos, aunque es un escenario difícil, “no es imposible”, y merecería un debate cuidadoso.
Análisis basado en el escepticismo
Partiendo de una posición escéptica, los investigadores no buscaban simplemente demostrar que la IA es peligrosa sino explorar si es posible descartar completamente que pueda representar un peligro extremo. Este enfoque requirió una sólida investigación matemática para evaluar escenarios potenciales y las condiciones necesarias para que la IA se convirtiera en una amenaza existencial.
Evaluación de escenarios hipotéticos
Tras minuciosos análisis, los expertos descartaron varios escenarios que inicialmente parecían posibles vías para la extinción humana. Tres de las más discutidas son:
1. Guerra nuclear
Aún si la IA tomara control del arsenal nuclear global —compuesto por más de 12.000 ojivas—, finalizaría con la humanidad sigue siendo improbable. La dispersión geográfica de la especie humana significa que muchas áreas no serían alcanzadas, y un invierno nuclear no garantizaría una eliminación completa.
2. Pandemias
Un virus altamente letal diseñado por IA podría causar estragos, pero incluso en el peor de los casos, algunos humanos sobrevivirían. La dificultad de garantizar que una enfermedad alcance al 100% de la población global hace que este escenario sea extremadamente difícil de realizar.
3. Cambio climático
El cambio climático acelerado no sería suficiente para erradicar a la humanidad. Las especies adaptativas podrían sobrevivir en regiones extremas, y la logística para liberar contaminantes a escala masiva sería compleja.
Condiciones para una amenaza real
Para que la IA lograra ejecutar un escenario de extinción total, deberían cumplirse cuatro condiciones clave:
- Un objetivo claro de eliminar a la humanidad.
- Control sobre sistemas físicos cruciales, como armamento e infraestructuras.
- Capacidad para manipular o persuadir a personas para ejecutar su plan.
- Autonomía en recursos y decisiones, incluso sin la ayuda humana.
Reflexiones finales y recomendaciones
A pesar de la improbabilidad de estos escenarios, algunos expertos recomiendan dedicar más recursos a la investigación y al desarrollo de mecanismos de control en la seguridad de la IA. El mayor riesgo radica en un diseño defectuoso o un uso sin control de la inteligencia artificial, no en la IA misma, sino en cómo está programada. Como se señala, “el peligro no es la IA en sí, sino quienes la programan”.
¿Te gustó esta noticia?
Recibe las mejores noticias de Puente Alto cada semana directamente en tu correo.
📧 Sin spam • Cancela cuando quieras • +2,500 suscritos
