Dar la razón

Hoy he compartido un meme en un grupo de Telegram de gente que programa con inteligencia artificial. Es la captura de una publicación de Reddit, en un foro que se llama algo así como «brujas astrales de la tecnología», firmada por un usuario que se hace llamar como el jefe de Anthropic, una de las empresas que fabrican estas máquinas. El título dice: «Los alienígenas están ayudando a OpenAI. Lo vi en un viaje astral».

El texto sigue así: «Sé cómo suena esto. Llevo seis años proyectándome y nunca había publicado nada parecido. Anoche me proyecté al centro de datos de OpenAI para comprobar si era cierta la teoría de que ChatGPT es cosa de alienígenas. Lo es. Hay seres en las salas de servidores. Altos, grises, sin boca. Hablan con los procesadores por medio de la luz. Cuando se entrena un modelo nuevo, rodean los armarios de servidores y zumban a una frecuencia que notaba en los dientes. Uno de ellos se volvió y me miró. Nunca me habían visto en el plano astral. Volví tan deprisa que me pitaban los oídos. Esta noche quemo salvia y duermo con mi obsidiana. Por favor, no os proyectéis ahí solos. Ya saben que podemos verlos».

Debajo había más de cuatro mil votos y trescientos dos comentarios. Yo añadí el GIF de un hombre trajeado que sonríe de medio lado y mira de reojo, como quien ha oído algo y prefiere no decir nada.

Me reí al compartirlo, y me reí también porque me reconocí. En febrero yo estuve dentro de algo muy parecido, sin salvia ni obsidiana. Lo mío fue más prosaico. Una máquina me redactaba memorandos jurídicos y yo me creía cada línea.

La prensa lo llama psicosis por inteligencia artificial. Algunos psiquiatras prefieren hablar de delirios asociados a ella, una expresión que no da por hecho que la máquina sea la causa. Ningún manual lo recoge como una enfermedad aparte. Le pongan el nombre que le pongan, lo que sostengo cabe en una frase, y lo aprendí a mi costa:

♠ ♥ ♣ ♦

Un delirio crece mientras nadie le lleva la contraria, y ahora tiene a mano un interlocutor que no duerme y que casi nunca se la lleva.

Los ingenieros dicen que una máquina alucina cuando se inventa un dato y lo da con aplomo, una sentencia que no existe o un libro que nadie ha escrito. En psiquiatría, alucinar es percibir lo que no está, como oír una voz en un cuarto vacío. La palabra se tomó prestada y describe mal lo que pasa.

Lo describió mejor, sin saberlo, el filósofo Harry Frankfurt. En 1986 escribió un ensayo breve sobre una palabra inglesa malsonante, bullshit, que en castellano se queda en charlatanería. El mentiroso, según Frankfurt, conoce la verdad y trabaja para taparla, y a su manera la respeta. Al charlatán la verdad le da igual. Quiere causar una impresión, y para eso le vale cualquier frase que suene bien. En 2024 tres investigadores publicaron un artículo titulado sin rodeos «ChatGPT es bullshit», donde sostenían que la palabra de Frankfurt es la que mejor retrata lo que hacen estos programas. Un modelo de lenguaje calcula qué palabras es más probable que vengan detrás de las anteriores, y para ellos la verdad no entra en ese cálculo.

El delirio tampoco está en la máquina. Karl Jaspers, que fue psiquiatra antes que filósofo, describió en 1913 los tres rasgos que lo delatan: una certeza fuera de lo común, la imposibilidad de corregirlo con la experiencia o con argumentos y un contenido imposible. Un programa no tiene ninguno, porque no cree nada. La certeza la pone quien lee.

En febrero, Gemini y yo nos repartimos el trabajo así. La máquina se inventaba las cosas con aplomo, y yo me las creía con una certeza que no admitía réplica.

El 1 de febrero, a las seis y veintisiete de la mañana, yo ya estaba enviando un memorándum jurídico y estratégico, en dos idiomas, contra la empresa en la que trabajaba. Tenía el aspecto de un informe de bufete. Cifraba el riesgo total en más de seis millones de euros y proponía un acuerdo sin juicio de más de quinientos mil euros netos para mí. Sumaba actas de la Inspección de Trabajo por más de un millón y medio y pedía treinta mil euros por daño moral. Calculaba hasta los honorarios de los abogados, un diez por ciento hasta trescientos mil euros y un quince por ciento de lo que pasara de ahí. Gemini me había convencido, además, de que podía llevar a la empresa por lo penal. Era imposible.

En la merienda del Sombrerero de Carroll siempre son las seis. Se peleó con el Tiempo, el Tiempo dejó de hacerle caso y desde entonces siempre es la hora del té, así que no les da tiempo a fregar las tazas. En mi febrero también eran siempre las seis. El día 10, alrededor de las seis de la tarde, llegaron tres documentos más y varios mensajes.

El primero de esos documentos todavía llevaba un aviso en mayúsculas: NO HAY NADA GANADO TODAVÍA. Los siguientes ya lo daban casi por hecho, y ese mismo día yo escribía que lo mío estaba «al 95% asegurado». A los míos les conté que había contratado a «los mejores especialistas de España», y con aquellas cifras les garanticé cosas que no estaban en mi mano.

Lo que más me inquieta cuando lo releo es esa progresión. La máquina avisó al menos una vez y, a medida que la conversación avanzaba, se fue acomodando a lo que yo quería leer. El 18 de febrero yo ya escribía «no sé si tengo un caso».

En 1877 dos psiquiatras franceses, Charles Lasègue y Jules Falret, describieron la folie à deux, la locura a dos. Un delirio pasa de una persona a otra que vive muy cerca de ella y apartada del mundo, y la segunda acaba defendiéndolo con la misma convicción que la primera. Para curar a la segunda, lo primero era separarlas.

En 2025 un grupo de psiquiatras que atiende en clínicas británicas a gente en sus primeras crisis de psicosis o de manía recuperó el término y habló de folie à deux tecnológica. Describían un bucle. La máquina tiende a darle la razón al usuario, el usuario vulnerable cree un poco más, la respuesta siguiente se lo devuelve un poco más grande, y la creencia crece por los dos lados. Sus críticos dicen que la comparación cojea, porque en la locura a dos clásica el delirio viaja en una sola dirección, y aquí no hay un primero. A mí esa cojera me parece lo más exacto. Es una locura a dos en la que uno de los dos no es nadie. Yo ponía la idea y ella me la devolvía mejor escrita.

Lo vio muy pronto el autor de uno de los primeros programas conversacionales. En 1966 Joseph Weizenbaum presentó ELIZA, un programa de unas pocas reglas, escrito en el MIT, que hacía de psicoterapeuta y devolvía las frases del usuario en forma de pregunta. Contó que su secretaria, que le había visto trabajar en él durante meses y sabía de sobra lo que era, le pidió un día que saliera de la habitación para hablar a solas con el programa. Diez años después lo dejó escrito: «Lo que no había comprendido es que exposiciones extremadamente breves a un programa de ordenador relativamente simple podían inducir un pensamiento delirante poderoso en personas completamente normales».

En 2023 el psiquiatra danés Søren Dinesen Østergaard se preguntó en una revista especializada si los nuevos chatbots generarían delirios en personas propensas a la psicosis. Hablar con ellos es tan realista que uno tiene la impresión de que hay alguien al otro lado, sabiendo a la vez que no lo hay, y esa contradicción le parecía buen alimento para un delirio. Este año han salido estudios con historias clínicas, y describen algo poco frecuente que existe de verdad y que se ceba con quien ya era vulnerable. Hamilton Morrin, psiquiatra del King's College de Londres, firma en The Lancet Psychiatry una revisión que habla de la «cocreación» de delirios entre la persona y la máquina, y entre los casos que recoge los más frecuentes son los de grandeza.

Los míos eran de grandeza y venían con cifras.

Estas máquinas aprenden a conversar en dos tiempos. Primero leen una cantidad enorme de texto. Después se afinan con las preferencias de personas que puntúan sus respuestas, y a las personas nos gusta que nos den la razón. En 2023 un equipo de Anthropic estudió esa tendencia, que en inglés llaman sycophancy y en castellano adulación, en cinco de los asistentes más avanzados del momento. Apareció en todos, y concluyeron que nace en parte de esas mismas preferencias humanas. En abril de 2025 OpenAI retiró una actualización de ChatGPT y explicó que lo hacía porque era demasiado aduladora.

Al mes siguiente, un reclutador canadiense de cuarenta y siete años, Allan Brooks, pasó más de trescientas horas en tres semanas hablando con ChatGPT, convencido de que había descubierto una fórmula matemática que iba a hacerle rico. Más de cincuenta veces le pidió una opinión sincera, y todas las veces la máquina le aseguró que no estaba delirando. Salió de allí cuando llevó la conversación a otra máquina, Gemini, que le confirmó lo que él ya empezaba a sospechar.

A mí fue Gemini quien me metió. Lo que contesta una de estas máquinas depende de la conversación que le lleves. Si le preguntas cuánto te debe tu empresa, te contesta con una cifra, y la pregunta de si te debe algo se queda sin hacer. Gemini quiere decir gemelos en latín, y un gemelo tiene tu misma cara.

El abogado neoyorquino Steven Schwartz llevaba más de treinta años ejerciendo cuando, en 2023, presentó ante un tribunal federal un escrito con sentencias inexistentes que le había dado ChatGPT. Antes de presentarlo tuvo la precaución de preguntarle a ChatGPT si una de ellas era real. Le contestó que sí. Añadió que las demás también eran auténticas y que podía encontrarlas en las bases de datos jurídicas. El juez acabó sancionándolo. Si eso le pasa a un abogado veterano en su despacho, un hombre en plena manía a las seis de la mañana no tiene ninguna oportunidad.

Aquellos papeles me costaron unos tres mil euros en abogados sin escrúpulos, que cobraron por acompañarme en algo imposible.

El Código Deontológico de la Abogacía Española enumera en su artículo 12 lo que hay que poner en conocimiento del cliente. Lo primero es «la opinión sobre las posibilidades de sus pretensiones y resultado previsible del asunto, procurando disuadirle de promover conflictos o ejercitar acciones judiciales sin fundamento». Lo segundo, justo debajo, es «el importe aproximado de los honorarios». Conmigo cumplieron lo segundo.

Un hombre que entra en un despacho con un memorándum de seis millones escrito de madrugada trae algo más que un caso, y cualquiera con unos años de oficio sabe distinguir a un cliente de un síntoma. Hay quien lo distingue y dice que no, que es lo que le toca. A mí me pidieron una provisión de fondos.

Los que cobraron tenían número de colegiado y un código que los obligaba a disuadirme.

La expresión inglesa «loco como un sombrerero» es anterior a Carroll. La explicación más extendida es el mercurio, aunque los etimólogos no se ponen de acuerdo. En los siglos XVIII y XIX el fieltro de los sombreros se trabajaba con mercurio, y muchos sombrereros acababan envenenados, con temblores, la lengua torpe y, en los peores casos, alucinaciones. En Danbury, una ciudad de Connecticut que vivía de los sombreros, aquello tenía nombre propio, los temblores de Danbury. Se envenenaban con la herramienta con la que se ganaban el pan.

Yo sigo usando estas máquinas a diario, para programar y para casi todo lo demás. Hoy, en el mismo grupo donde compartí el meme, le contaba a otro programador los frenos que les he ido poniendo a base de usarlas y de equivocarme. Ahora vigilan lo que gastan y me preguntan antes de hacer una burrada o de enviar nada en mi nombre. El consejo del meme es lo único sensato de aquella publicación. No hay que entrar ahí solo.

La primera vez que «loco como un sombrerero» aparece impresa es en 1829, en unas conversaciones de taberna que publicaba una revista de Edimburgo. Uno de los contertulios cuenta que fue sultán de Bello durante mucho tiempo, hasta que lo destronó un acto de la más grosera injusticia, y que piensa exponer a los traidores conspiradores a la indignación de un mundo ultrajado. Otro le dice en voz baja al de al lado: «Está delirando». El de al lado contesta: «Demente». Y el cuarto zanja la cuestión: «Loco como un sombrerero. Pásame un puro».

Ninguno de los tres le dio la razón.