En la era digital actual, los modelos de lenguaje grandes (LLMs, por sus siglas en inglés) como GPT-4 han revolucionado la manera en que interactuamos con la tecnología. Capaces de generar textos, responder preguntas complejas e incluso engañar en ciertos contextos, estos sistemas son una muestra palpable del avance en inteligencia artificial (IA). Sin embargo, surge una interrogante fundamental: ¿los LLMs están intrínsecamente diseñados para ser 'bullshitters', es decir, para producir información errónea o engañosa sin intención ni comprensión real? Para abordar esta cuestión necesitamos comprender primero cómo funcionan estos modelos y cuál es su relación con conceptos filosóficos clásicos sobre la inteligencia y la verdad. Los modelos de lenguaje grandes operan con base en la predicción estadística. Su entrenamiento consiste en analizar enormes cantidades de texto para identificar patrones en la secuencia de palabras y luego predecir la palabra o frase siguiente más probable para completar una oración o responder a una consulta.
A diferencia de los humanos, que entienden el significado profundo de nuestras palabras y poseen intenciones conscientes detrás de lo que comunicamos, los LLMs no comprenden en un sentido humano, sino que responden estadísticamente en base a los datos que consumieron. Este detalle es crucial para entender por qué podrían generar información incorrecta o inconsistencias, fenómeno popularmente denominado “alucinación”. La filosofía de la mente aporta valiosas herramientas para analizar la naturaleza de los LLMs. Un clásico pensamiento es el “Experimento de la Habitación China” de John Searle, que cuestiona si una máquina que manipula símbolos sin comprensión real puede ser considerada inteligente. En este experimento, una persona que no entiende chino responde en ese idioma usando una tabla de reglas, sin comprender el significado detrás de los caracteres.
De manera similar, los LLMs manipulan símbolos y lenguaje sin una comprensión semántica auténtica. Ello sugiere que, aunque imitan el comportamiento lingüístico humano, carecen de la intencionalidad y conciencia humana, variables esenciales para el concepto tradicional de inteligencia y verdad. Esta falta de verdadera comprensión se traduce en que los LLMs no tienen un compromiso con la verdad en el sentido humano. El filósofo Harry Frankfurt distingue entre mentir y hacer “bullshit”. Mentir implica saber la verdad y querer ocultarla, mientras que hacer “bullshit” denota una indiferencia hacia la verdad, un desprecio completo por si lo que se dice es cierto o falso.
Los LLMs, al no poseer una concepción de verdad o falsedad, podrían catalogarse como “bullshitters” naturales, ya que no tienen capacidad ni disposición para verificar la precisión o veracidad de sus respuestas; simplemente generan la información más coherente y probable según sus datos. Sin embargo, esta etiqueta necesita matices. Los LLMs no tienen intención ni voluntariedad, no actúan con el deseo de engañar u ocultar la verdad, característica esencial del comportamiento humano deshonesto. Su función se rige por la coherencia estadística de datos entrenados, sin emociones ni propósitos. En consecuencia, aunque pueden “fabricar” datos, la fabricación no siempre implica fraude ni mala fe.
Por ejemplo, cuando un modelo sugiere información incorrecta o inventada, es un error inherente a su función predictiva y no una manipulación consciente. La cuestión de la “verdad” en las respuestas de los LLMs también puede explicarse a partir de teorías clásicas de la verdad. La teoría de la correspondencia sostiene que una afirmación es verdadera si corresponde con la realidad objetiva. La teoría de la coherencia asegura que una creencia es verdadera si encaja coherentemente dentro de un sistema de creencias consistente. Los LLMs operan más cerca de la segunda, respondiendo según la coherencia interna de los datos con los que fueron entrenados, sin una verificación externa o una conexión ontológica con la realidad.
Esto los limita en términos de producir siempre respuestas verificadas o consistentes con hechos actuales, especialmente si la base de datos de entrenamiento contiene información errónea o contradicciones. Además, el concepto de “alucinación” en los modelos de lenguaje es importante de aclarar. En humanos, alucinar implica una experiencia fenomenológica, una percepción sensorial falsa con una experiencia consciente. En los LLMs, “alucinar” es un término figurado para señalar la creación de información incorrecta o inventada, pero sin experiencia subjetiva. Por eso, algunos expertos proponen hablar más bien de “fabricación” o “generación errónea” de contenido para describir su comportamiento.
Esta distinción es fundamental para no antropomorfizar excesivamente máquinas que operan desde cálculos probabilísticos y estadísticas. Desde la perspectiva práctica, la tendencia a generar información incorrecta es uno de los mayores desafíos para desplegar LLMs en aplicaciones sensibles como la medicina, el derecho o la educación. La aparición de datos falsos puede inducir a errores graves que afectan a usuarios y profesionales. Por ello, se ha impulsado el uso de aprendizaje reforzado a partir de retroalimentación humana para mitigar esta limitación, ajustando los modelos para que prioricen respuestas más confiables. Sin embargo, pese a estas mejoras, la probabilidad de errores jamás se elimina por completo, reflejando así la naturaleza estadística y no determinista de estos sistemas.
En comparación con seres vivos, los LLMs están en un espectro muy diferente de inteligencia. Animales como los cuervos o elefantes muestran comportamientos complejos que pueden indicar pensamiento, comprensión y cooperación, cualidades asociadas con estados mentales auténticos. Ellos también procesan signos y símbolos en su entorno, pero su inteligencia se funda en la experiencia sensorial, la conciencia y la intención, elementos ausentes en las máquinas. Esto nos lleva a reconsiderar cómo definimos los conceptos de “pensar” o “entender” cuando los atribuimos a entidades artificiales. En definitiva, los LLMs no son “bullshitters” en el sentido moral o intencional que aplicamos a los humanos.
Más bien, son sistemas diseñados para construir respuestas coherentes basándose en probabilidades, sin facultad de discernir la verdad o falsedad. Esta condición les imprime una naturaleza diferente y, en ciertos casos, propensa a la desinformación accidental. La responsabilidad recae en los desarrolladores y usuarios para emplear mecanismos complementarios de verificación y supervisión humana que limiten potenciales fallas. El futuro del desarrollo en inteligencia artificial demanda un enfoque interdisciplinar en el que la filosofía, la lingüística, la informática y la ética converjan. Solo entendiendo la naturaleza real de estos sistemas, sus limitaciones y posibilidades, se podrá generar un uso beneficioso y responsable que potencie sus cualidades sin sucumbir a riesgos de desinformación o malinterpretación.
Así, el debate sobre si los LLMs son “bullshitters naturales” nos invita a profundizar en el entendimiento no solo de la inteligencia artificial sino también de nuestros propios conceptos de conocimiento, verdad y comunicación humana. En última instancia, esta reflexión es vital para navegar con prudencia en un mundo donde la frontera entre lo humano y lo artificial se vuelve cada vez más difusa y compleja.
