Emily Bender: Crítica al Avance de la Inteligencia Artificial
Una mirada escéptica a la IA
Emily Bender, profesora y experta en cómo los ordenadores procesan el lenguaje humano, ofrece una perspectiva crítica sobre el auge de la inteligencia artificial y su papel en la sociedad actual. Para Bender, la IA representada por sistemas como los chatbots de OpenAI o Google, no es más que “una máquina de plagio”. Describe a estos sistemas como “loros estocásticos” que repiten palabras y frases sin comprender realmente su significado.
El mito de la revolución tecnológica
En el contexto del siglo XXI, Bender señala que las grandes tecnológicas presentan la IA como una solución revolucionaria, llevándose miles de millones de dólares en el proceso. Sin embargo, afirma que “la IA no va a descubrir nada nuevo, ni va a pensar por sí sola. Es solo automatización con mucho marketing”.
Comprensión y significado: solo una ilusión
El mensaje de Bender resalta que la humanidad imagina erróneamente una mente detrás del texto generado por las IA. “Son programas que mezclan palabras según las probabilidades de que vayan juntas, pero sin ninguna referencia a significado”, enfatiza. Aunque estos sistemas pueden sonar realistas, no entienden lo que articulan. Como ella explica, “Si no está en los datos de entrenamiento, no va a estar en la respuesta”.
Impacto social y ambiental
Además de su eficacia limitada, Bender advierte que el auge de la IA contribuye a problemas como la precariedad laboral, la contaminación y la soledad social. Entrenar estos modelos cuesta miles de millones y consume vastas cantidades de energía y agua. Según Sam Altman, CEO de OpenAI, una consulta de IA consume 0,34 Wh, equivalente al consumo de una bombilla LED durante pocos minutos. Sin embargo, la comunidad científica es escéptica y demanda mayor transparencia sobre cómo se calcula este consumo.
La IA y los sesgos
Otro aspecto que Bender destaca es la falta de neutralidad de la IA, ya que inherente y amplifica los sesgos presentes en los datos de entrenamiento. Señala que hasta los manuales de empresa pueden estar cargados de prejuicios y errores. “La tecnología no solo replica los errores de la sociedad, los refuerza”, subraya.
Desafíos hacia un futuro regulado
Rizando el rizo, Bender comenta que es tarea titánica resolver estos problemas dada la concentración de poder y discurso en manos de pocas empresas. Ella afirma que “nadie debería tener la capacidad de imponer su visión del mundo a los demás”. El objetivo de Bender no es convencer a los directivos de Silicon Valley, sino abrir los ojos al público y a los políticos: “El emperador está desnudo, pero sorprende cuánta gente quiere ser el emperador desnudo”. Para Bender, es crucial no dejarse llevar por el entusiasmo ciego y exigir un mayor control y regulación sobre el rumbo de la IA.
¿Te gustó esta noticia?
Recibe las mejores noticias de Puente Alto cada semana directamente en tu correo.
📧 Sin spam • Cancela cuando quieras • +2,500 suscritos
