La amenaza tecnológica: una evaluación necesaria
En el contexto actual, un debate recurrente en el mundo de la tecnología es el impacto potencialmente catastrófico del desarrollo desmedido de la inteligencia artificial (IA). Este diálogo recuerda a los tiempos críticos de 1945, cuando los físicos debatieron las consecuencias del lanzamiento de la primera bomba atómica en el desierto de Nuevo México. Aunque la probabilidad de destruir la atmósfera era baja, el riesgo de consecuencias incontrolables estaba presente. Hoy, enfrentamos una amenaza potencialmente comparable en el ámbito tecnológico.
Avances en inteligencia artificial: ¿aliado o amenaza?
Max Tegmark, profesor del MIT, ha lanzado una advertencia sobre el camino que está tomando el desarrollo de sistemas inteligentes. Según Tegmark, el avance sin control de la IA podría suponer un riesgo similar al asumido por los creadores de la bomba nuclear. Afirma que las empresas desarrolladoras de IA deberían calcular la posibilidad de perder el control sobre estas tecnologías. “No vale con decir que creen que todo irá bien”, destaca Tegmark.
Constante de Compton: una métrica de precaución
Tegmark propone el uso de la “constante de Compton”, un término inspirado en los riesgos calculados antes de la prueba nuclear en 1945. Esta métrica busca medir la probabilidad de que los sistemas de IA avanzados escapen al control humano, una evaluación crucial para decidir si es seguro proseguir con su avance. Estos cálculos podrían ofrecer un marco común para las empresas, permitiendo comparar riesgos y establecer acuerdos de seguridad a nivel internacional.
Medición de riesgos y responsabilidad empresarial
El experto insiste en que la responsabilidad de medir este riesgo recae directamente sobre quienes desarrollan la tecnología, como OpenAI. La tarea no debe ser vista solo como un ejercicio académico. Según Tegmark, si varias compañías obtienen cifras similares en sus mediciones, se podría forjar una base técnica para fomentar acuerdos internacionales de seguridad.
Un llamado a la responsabilidad global
Tegmark ha estado en la vanguardia de la preocupación por el desarrollo descontrolado de la IA. En 2023, fue uno de los firmantes de una carta que solicitaba una pausa temporal en el despliegue de tecnologías avanzadas de IA. La misiva, respaldada por más de 33,000 personas, incluidos destacadas figuras como Elon Musk y Steve Wozniak, alertaba sobre una “carrera fuera de control” en el ámbito de la inteligencia artificial.
Un equilibrio necesario entre innovación y precaución
La historia enseña lecciones valiosas, y Tegmark aboga por aprender de ellas. Así como se detuvo el mundo una vez para calcular el riesgo de una detonación nuclear, hoy debemos medir con seriedad los riesgos tecnológicos. Evaluar hasta qué punto podemos perder el control sobre la tecnología futura es un paso crucial para avanzar de manera responsable en la era de la inteligencia artificial.
La discusión sobre los riesgos y avances tecnológicos no solo busca limitar el progreso, sino que pretende asegurar un desarrollo seguro y controlado, equilibrando competitividad e innovación sin dejar de lado la precaución.
¿Te gustó esta noticia?
Recibe las mejores noticias de Puente Alto cada semana directamente en tu correo.
📧 Sin spam • Cancela cuando quieras • +2,500 suscritos
