Max Tegmark, del Instituto Tecnológico de Massachusetts (MIT), y Yoshua Bengio, de la Universidad de Montreal, han lanzado una seria advertencia sobre los peligros que podrían surgir al desarrollar sistemas de inteligencia artificial (IA) demasiado avanzados si no se establece un control riguroso sobre su evolución. La inteligencia artificial general, que permite a los sistemas tomar decisiones autónomas sin intervención humana directa, podría convertirse en un problema serio.
Crecimiento acelerado y la agencia de la IA
El crecimiento acelerado de la inteligencia artificial ha dado lugar a la creación de “agentes de IA”, diseñados para actuar con mayor autonomía. Las empresas tecnológicas están impulsando este desarrollo con la promesa de mejorar la productividad y facilitar la vida cotidiana. Sin embargo, Bengio advierte en el podcast “Beyond The Valley de CNBC” que este enfoque puede ser riesgoso si se otorga a la IA la capacidad de actuar por su cuenta sin supervisión efectiva. Según el investigador, la clave del problema radica en la capacidad de la IA para establecer y perseguir sus propios objetivos: “Estamos creando una nueva forma de inteligencia en nuestro planeta sin saber si sus decisiones serán compatibles con nuestras necesidades”, señala Bengio.
La necesidad de regulación y el temor al desarrollo autónomo
Los expertos están pidiendo una regulación estricta antes de que la tecnología avance demasiado. El mayor temor no es solo la autonomía de estos sistemas, sino también el posible desarrollo de mecanismos de autopreservación dentro de la IA. Bengio se plantea: “¿Queremos competir con entidades que son más inteligentes que nosotros? No es una apuesta muy tranquilizadora, ¿verdad? Por eso tenemos que entender cómo la autopreservación puede surgir como un objetivo en la IA”. Este escenario podría derivar en un desarrollo impredecible de los sistemas de IA, provocando dilemas éticos y técnicos.
Propuesta de “IA herramienta”
Max Tegmark propone una alternativa al desarrollo de agentes autónomos y sugiere centrarse en la creación de “IA herramienta”, que es el diseño de sistemas inteligentes para propósitos específicos bajo un marco de control estricto. Ejemplos de este enfoque incluyen herramientas avanzadas para la medicina, como sistemas que sugieren tratamientos contra el cáncer, o vehículos autónomos con protocolos de seguridad que aseguren el control humano. Tegmark afirma: “Creo que, siendo optimista, podemos tener casi todo lo que nos entusiasma de la IA… si simplemente insistimos en tener algunos estándares básicos de seguridad antes de que la gente pueda vender sistemas de IA potentes”.
La urgencia de estándares globales
Actualmente, no existen estándares globales que regulen el desarrollo de estos sistemas, lo que deja abierta la posibilidad de usos peligrosos. En 2023, el Future of Life Institute, liderado por Tegmark, pidió a las empresas que pausen el desarrollo de sistemas de IA que puedan igualar o superar la inteligencia humana hasta que se implementen medidas de control adecuadas. Aunque esta solicitud no ha sido implementada, el debate sobre los riesgos de la IA ha cobrado importancia en los últimos meses.
¿Te gustó esta noticia?
Recibe las mejores noticias de Puente Alto cada semana directamente en tu correo.
📧 Sin spam • Cancela cuando quieras • +2,500 suscritos
