Errores Persistentes en ChatGPT: Desafíos en la Corrección por OpenAI
OpenAI, la empresa detrás del popular chatbot ChatGPT, enfrenta serios desafíos para corregir errores persistentes en su modelo de inteligencia artificial. A pesar de los avances, ChatGPT sigue cometiendo errores graves como confundir manecillas al generar imágenes de relojes y, más preocupante aún, puede llegar a revelar información de usuarios o distribuir datos falsos sobre ellos. A pesar de los esfuerzos de la empresa, corregir estos fallos ha sido una tarea complicada.
Colaboración con Hackers e Investigadores
Para abordar estas problemáticas, OpenAI ha adoptado una estrategia de colaboración con investigadores de seguridad. Estos expertos se dedican a detectar fallos y brechas importantes que podrían poner en riesgo la información de los usuarios. Una vez identificados, los problemas se reportan a OpenAI para su corrección. Los investigadores reciben recompensas por su trabajo, que varían según la cantidad de fallos encontrados.
Aumento en las Recompensas
En un movimiento por incentivar el reporte de fallos, Sam Altman, CEO de OpenAI, anunció un incremento significativo en la recompensa máxima ofrecida por descubrir errores importantes en ChatGPT. Anteriormente, este premio era de 20.000 dólares, pero la cifra ha sido elevada a 100.000 dólares. Este sistema de recompensas sigue siendo rentable para la empresa, que se enfoca principalmente en corregir errores críticos reportados por los usuarios o investigadores.
Nuevos Enfoques en Investigación y Ciberseguridad
OpenAI también ha fortalecido sus programas de investigación y seguridad, aumentando inversiones en proyectos que incluyen la coordinación con equipos de trabajo externos y comunidades de software de código abierto. La empresa ha expandido además su Programa de Subvenciones de Ciberseguridad, que ya ha financiado 28 iniciativas de investigación en poco más de un año, destacando el desarrollo de código seguro y defensas autónomas de ciberseguridad.
Colaboraciones Estratégicas
Con el objetivo de encontrar vulnerabilidades antes de que sean aprovechadas por hackers malintencionados, OpenAI ha invitado a investigadores a proponer ideas sobre parches de software y detección de amenazas. Además, la empresa colabora con expertos de equipos de investigación académicos y gubernamentales para evaluar las carencias de su modelo, y se ha asociado con la startup SpecterOps para mejorar la integración de ChatGPT en entornos corporativos y en la nube.
A pesar de los esfuerzos en curso, los desafíos técnicos y de seguridad que enfrenta OpenAI con ChatGPT demandan atención continua y colaboración entre múltiples sectores para garantizar la seguridad y eficacia de estas innovadoras tecnologías.
¿Te gustó esta noticia?
Recibe las mejores noticias de Puente Alto cada semana directamente en tu correo.
📧 Sin spam • Cancela cuando quieras • +2,500 suscritos
