Lo Imposible

Si Sócrates fue la persona más sabia de la antigua Grecia, entonces los grandes modelos lingüísticos deben ser los sistemas más estúpidos del mundo moderno. En su Apología, Platón cuenta la historia de cómo el amigo de Sócrates, Querefonte, va a visitar el oráculo de Delfos. Querefonte pregunta al oráculo si hay alguien más sabio que Sócrates. La sacerdotisa responde que no, que Sócrates es el más sabio de todos. 

En un principio, Sócrates parece desconcertado. ¿Cómo podría él ser el más sabio, cuando había tantas otras personas que eran bien conocidas por su conocimiento y sabiduría, y sin embargo Sócrates afirma que carece de ambos? 

Se marca como objetivo resolver el misterio. Va por ahí interrogando a una serie de políticos, poetas y artesanos (como hacen los filósofos). ¿Y qué encuentra? La investigación de Sócrates revela que aquellos que afirman tener conocimiento no saben realmente lo que creen que saben, o saben mucho menos de lo que dicen saber.

Sócrates es el más sabio, entonces, porque es consciente de los límites de su propio conocimiento. No cree saber más de lo que realmente sabe, ni afirma saber más de lo que realmente sabe. 

¿Cómo se compara eso con grandes modelos de lenguaje como ChatGPT4? 

1 A diferencia de Sócrates, los grandes modelos de lenguaje no saben lo que no saben. Estos sistemas no están diseñados para rastrear la verdad. No se basan en evidencia empírica ni en lógica. Hacen conjeturas estadísticas que muy a menudo son erróneas. 

A diferencia de Sócrates, los grandes modelos de lenguaje no saben lo que no saben. Estos sistemas no están diseñados para rastrear la verdad. No se basan en evidencia empírica ni en lógica. Hacen conjeturas estadísticas que muy a menudo son erróneas. 

Los grandes modelos de lenguaje no informan a los usuarios de que están haciendo conjeturas estadísticas. Presentan conjeturas incorrectas con la misma seguridad con que presentan hechos. Preguntes lo que preguntes te darán una respuesta convincente, y nunca será un “no lo sé”, aunque debería serlo. Si preguntas a ChatGPT sobre los acontecimientos actuales, te recordará que solo tiene acceso a información hasta septiembre de 2021y que no puede navegar por internet. Para casi cualquier otro tipo de pregunta, se aventurará a dar una respuesta que a menudo mezclará hechos con confabulaciones.