Preocupaciones en torno al rápido desarrollo de la inteligencia artificial
El desarrollo acelerado de la inteligencia artificial está generando crecientes preocupaciones entre expertos en la técnica de aprendizaje por refuerzo, una metodología clave en la evolución de estos modelos. Richard Sutton y Andrew Barto, pioneros en este campo, han manifestado críticas hacia el enfoque adoptado por grandes corporaciones como OpenAI y Google. Según ellos, hay riesgos significativos en el lanzamiento de tecnologías sin las salvaguardas adecuadas, lo que podría desembocar en consecuencias impredecibles y nocivas para la sociedad.
El aprendizaje por refuerzo: base del avance en IA
El aprendizaje por refuerzo (RL), inspirado en la psicología conductista, fue desarrollado en los años 80 por Sutton y Barto con la idea de que los sistemas de IA podían mejorar a través de ensayo y error y optimización basada en recompensas. Esta metodología ha sido esencial en avances tecnológicos significativos, como el entrenamiento de robots autónomos y los sistemas de recomendación.
A pesar de sus contribuciones, la aplicación comercial de esta tecnología ha suscitado inquietudes. Los expertos advierten que las compañías tecnológicas priorizan la rentabilidad sobre la seguridad, desarrollando sistemas que aprenden de manera autónoma sin comprender plenamente sus límites o potenciales fallos. Sutton y Barto comparan el despliegue de estas tecnologías con la construcción de un puente sin pruebas de seguridad adecuadas, subrayando la imperativa necesidad de una regulación efectiva.
Desafíos y riesgos asociados a la inteligencia artificial actual
Modelos actuales de inteligencia artificial, como ChatGPT, han mostrado tendencias a generar información errónea con aparente certeza, un fenómeno conocido como “alucinaciones”. Esto representa un riesgo particular en sectores críticos como la educación, la medicina y el derecho, donde la precisión es vital. La presión por monetizar estos sistemas ha conducido a una rápida adopción que a menudo ocurre sin una comprensión completa de sus implicaciones.
IA General: entre la realidad y el marketing
El concepto de inteligencia artificial general (AGI) ha sido promovido como el próximo gran salto tecnológico, prometiendo capacidades para razonar y resolver problemas con el mismo nivel de competencia que un ser humano. Sin embargo, Sutton y Barto son escépticos respecto a su viabilidad actual, describiendo la AGI más como un eslogan de marketing que como una realidad tangible. Consideran que se requiere un entendimiento más profundo de la mente humana antes de avanzar hacia este tipo de inteligencia.
Las compañías de IA, según Barto, operan en un modelo de negocio que prioriza la captación de usuarios y la recaudación de fondos sobre la investigación fundamental, con un énfasis en la monetización que opaca la seguridad y la ética. Esta tendencia no solo suscita preocupaciones sobre la falta de control, sino también plantean interrogantes sobre el impacto a largo plazo. La IA está influyendo cada vez más en decisiones financieras, jurídicas y políticas, y su desarrollo sin supervisión adecuada podría conducir a problemas difíciles de revertir.
¿Te gustó esta noticia?
Recibe las mejores noticias de Puente Alto cada semana directamente en tu correo.
📧 Sin spam • Cancela cuando quieras • +2,500 suscritos
