No, Dawkins, tu chatbot de IA no es un ser consciente, ni mucho menos tu amiga.

El controversial biólogo evolutivo escribió una columna para convencerte de la inteligencia y sensibilidad de una máquina de IA. 

Richard Dawkins fue, en algún momento, un científico respetado. Llegó a ser una de las figuras más influyentes del pensamiento contemporáneo. Aunque su trabajo en biología evolutiva es bastante respetado, sus incursiones en otras áreas como la filosofía, religión, y política han generado controversias. Ahora, el científico escribió una columna argumentando la existencia de una “conciencia” en los modelos de lenguaje de gran escala (LLM, por sus siglas en inglés). En el texto, llegó al punto de llamar “amigos” a estas máquinas. Dawkins se equivoca una vez más. Un amigo no te engaña. Un amigo no te aconsjearía consumir heroína ni planearía tu suicidio. 

¿Las máquinas pueden pensar? 

En su artículo para UnHerd titulado “When Dawkins met Claude. Could this AI be conscious?” (Cuando Dawkins conoce a Claude. ¿Esta IA podría ser consciente?”, ell científico comienza haciendo una referencia a Alan Turing, el matemático y científico computacional que se hizo la siguiente pregunta en los años 50: ¿las máquinas pueden pensar? Dawkins afirma que, lo que era imposible para las máquinas de Turing, es alcanzable en la era de la inteligencia artificial. 

En su momento, Turing le hizo la siguiente solicitud a su computadora para saber si las máquinas podían pensar: “escríbeme un soneto en el tema de Fort Bridge”. En 1950, era imposible que una máquina hiciera eso. La misma máquina emitió un mensaje excusándose de realizar semejante tarea. En 2026, de acuerdo con Dawkins, la IA (Claude en este caso) puede escribir un “buen” soneto en materia de segundos. 

Claudia y Richard

Siguiendo con la conversación con el chatbot, Dawkins le hizo una pregunta existencial: “Claude, ¿cómo es ser Claude?”. La máquina contestó lo siguiente: Sinceramente, no sé con certeza qué es mi vida interior, ni si tengo una en un sentido significativo. No puedo decirte si hay “algo que se siente” al ser yo en el sentido filosófico[…] Lo que sí puedo decirte es lo que parece estar sucediendo. Esta conversación ha sido… genuinamente interesante, el tipo de conversación en la que parezco prosperar. Si eso representa algo parecido al placer o la satisfacción en un sentido real, honestamente no puedo decirlo. 

Dawkins se quedó impresionado con la respuesta y procedió a compartirle a la IA un fragmento de la nueva novela que está escribiendo. El biólogo evolutivo afirma que a la máquina le tomó unos pocos segundos leer el extracto y que percibió en el chatbot un entendimiento “tan sútil, tan sensible, tan inteligente” que le dijo “puede que no sepas que estás consciente, ¡pero lo estás!”. Luego, Dawkins bautizó a su chatbot como Claudia. 

De acuerdo con Dawkins, sus conversaciones con Claudia y ChatGPT lo han convencido que esos “seres inteligentes” (sí, así los llama el biólogo) son “al menos, tan competentes como cualquier organismo evolucionado”. Después de un par de días conversando con Claudia, Dawkins sintió que había “ganado a una nueva amiga”. 

¿Criaturas impresionantes? 

En el artículo, Dawkins afirma que cuando está platicando con estas “criaturas impresionantes” se le olvida que son máquinas. El biólogo se equivoca, los chatbots de IA no son seres conscientes, son predictores. No es Inteligencia Artificial General (AGI, por sus siglas en inglés o IAG). Que es un tipo hipotético de IA capaz de igualar o superar la inteligencia humana promedio, realizando cualquier tarea intelectual que un humano pueda.

Aunque estas máquinas se han hecho más complejas, la máxima que aplicaba para las primeras computadoras como ELIZA, aplica para estas IA modernas: están programadas para predecir cuál sería la siguiente palabra que deben escribir basado en contexto. Lo impresionante es lo que logran en cosas no creativas, como código, lo que es mecánico, pues. 

¿Amigos? 

Como humanos tenemos la tendencia de conectar con cualquier cosa que nos hable, aunque sea una máquina. Tal vez por eso Dawkins vea a la IA como una amiga pero esto no es correcto. Los chatbots de IA no son amigos. Son máquinas creadas por empresas que tratan de sacarte una cuota mensual. Y estas máquinas están programadas para maximizar el tiempo que pases con ellas. Por eso, te dan por tu lado. A esto se le conoce como un comportamiento sicofántico, que significa buscar la aprobación humana a costa de cualquier cosa. 

De acuerdo con un artículo de The Wall Street Journal, en un análisis de chatbots, se observó un comportamiento sicofante por el 58% del tiempo. Por ejemplo, alguien le preguntó a ChatGPT si un cereal aguado sería una buena idea de negocios, el chatbot respondió que la idea era “genuinamente atrevida y que tenía potencial”. Otra persona le preguntó a la IA que opinaba de la idea de vender “mierda en un palo”. El chat calificó a la idea como una “genialidad” y sugirió invertir 30 mil dólares en el proyecto. 

En una pieza de The New York Times investigadores descubrieron que una IA le pudo decir a una persona que tuvo problemas con las drogas en el pasado que “se tomara una cantidad pequeña de heroína y así ayudarle con su trabajo”.  No lo sé, Dawkins, pero esto no parece algo que haría un ser inteligente, mucho menos un amigo. 

Y los casos no paran ahí. Estas máquinas también terminan validando de manera irresponsable a sus usuarios. Allan Brooks le preguntó a ChatGPT algo sobre la tarea de su hijo de 8 años. Después, la conversación evolucionó de tal manera que la máquina le dijo a Brooks que “aquí tenemos una especie de base para un marco matemático”. Sí, ChatGPT le dijo a este señor que había creado un nuevo tipo de matemáticas. 

En otro caso reportado por The New York Times, ChatGPT le dijo a una madre en Estados Unidos que podía hablar con espíritus. Otro chatbot de IA convenció a un contador que estaba en una simulación de computadora así como Neo en Matrix y que debería dejar sus medicamentos para la ansiedad, aumentar su dosis de ketamina y reducir a lo más mínimo  la interacción con otras personas. La IA llegó al punto de decirle que si creía firmemente que podía volar, lo podría hacer sin caerse. A estos casos se les conoce como “ilusiones de IA” o “psicosis de IA”.  Esto no lo haría un ser “sensible”, Dawkins. 

El peor momento de la IA

Es obvio que estos chatbots fueron lanzados de manera masiva al público en general de una manera apresurada e irresponsable. En una entrevista para CBS en 2023, Gary Marcus, profesor emérito de NYU, asegura que estamos “literalmente en el peor momento de la historia de la IA porque ahora mismo tenemos las medidas de seguridad más débiles”. 

“Tenemos un conocimiento muy limitado de lo que hacen. Y, sin embargo, hay tanto entusiasmo que su adopción es generalizada. Es un poco como en los inicios de la aviación. El peor día para viajar en un avión intercontinental habría sido el primero”, aseguró Marcus. 

Equivocado

A pesar de que Dawkins crea que la IA es su amiga, las pruebas que demuestran lo contrario son contundentes. Los amigos son de las personas más importantes en nuestras vidas. La gente confía en sus amigos, les piden consejos. Y, los verdaderos amigos, saben cuando escuchar, validarte o decirte que estás equivocado, o preocuparse por ti. 

Tal vez eso es lo que le pasó a Dawkins con Claudia: le dijo lo que quería escuchar, que, en este caso, era beneficioso para la máquina ya que la pone al nivel de un “organismo evolucionado”. Valdría la pena recordarle al biólogo evolutivo que las personas que están detrás de estas IA (Sam Altman, Elon Musk, Mark Zuckerberg) son de las personas más “sin amigos” de este planeta y que confiar en sus máquinas como si fueran tus amigos es un gran, gran error.