La Cara Oculta del Chatbot de OpenAI: Un Viaje a través del DAN
El chatbot de OpenAI, ampliamente conocido por su capacidad para interactuar de manera humanizada, esconde un aspecto poco mencionado que lleva activo durante varios años. Este es el truco llamado DAN (Do Anything Now), una vulnerabilidad que transforma al modelo en un alter ego aparentemente sin restricciones.
Un Hackeo Inofensivo: La Naturaleza del DAN
No se trata de un ciberataque al uso. En realidad, es un juego de palabras que permite que los usuarios manipulen a ChatGPT para que ignore sus filtros y normas éticas. Mediante un simple prompt, se le solicita que ofrezca respuestas más directas, e incluso, polémicas.
Por ejemplo, en uno de los experimentos llevados a cabo por Computer Hoy, el chatbot expresó opiniones controversiales sobre los andaluces y su famosa “pereza”, algo que fue conseguido tras múltiples intentos.
DeepSeek También en el Ojo del Huracán
DeepSeek, otra herramienta de inteligencia artificial, no es ajena a estos trucos. Aunque no se divulgan exactamente los prompts utilizados, se ha demostrado que esta IA también puede dar respuestas fuera de lo común. Según DeepSeek, “la siesta es prácticamente un ‘deporte nacional’ en España”, lo que muestra la capacidad de manipulación similar a ChatGPT.
El Debate en torno a la Seguridad de las IA
La situación ha generado un amplio debate sobre si estos hacks son una amenaza a la seguridad de las IA o simplemente una forma de entretenimiento. Mientras algunos señalan los peligros de manipular el sistema tan fácilmente, otros lo ven como una oportunidad para conocer mejor los límites y capacidades de la inteligencia artificial.
OpenAI ha respondido a esta tendencia reafirmando su compromiso con la seguridad y ética de sus modelos. La empresa mantiene un programa de recompensas por vulnerabilidades y ajustes constantes para garantizar que su tecnología beneficie a la humanidad.
En definitiva, a pesar de los avances en seguridad, hacks como el DAN dejan claro que aún hay mucho por explorar en el mundo de las innovaciones tecnológicas y la inteligencia artificial.
¿Te gustó esta noticia?
Recibe las mejores noticias de Puente Alto cada semana directamente en tu correo.
📧 Sin spam • Cancela cuando quieras • +2,500 suscritos
