La IA tiene una ventaja enorme: puede producir una explicación convincente sobre casi cualquier tema. Y precisamente ahí está la trampa. La fluidez no es evidencia de verdad.  

La frase apunta a una de las paradojas más importantes de la inteligencia artificial: su mayor virtud como herramienta de comunicación puede convertirse en una de sus mayores fuentes de error.

La IA puede explicar con enorme claridad la Revolución francesa, física cuántica, economía, filosofía o la vida de un desconocido. Puede ordenar conceptos, establecer conexiones y construir una narración coherente en segundos. El problema aparece cuando confundimos coherencia con conocimiento.

Una respuesta puede sonar como si hubiera sido escrita por un profesor universitario y, sin embargo, contener un dato falso. Y aquí está lo inquietante: el error no siempre viene acompañado de señales de error. No tartamudea. No se sonroja. No mira al techo buscando una respuesta. Puede afirmar una falsedad con una prosa impecable.

La fluidez tiene un poder psicológico enorme

Los seres humanos estamos muy condicionados por la forma en que se nos presenta la información.

Si alguien habla con seguridad, utiliza términos técnicos, estructura bien sus argumentos y responde rápidamente, tendemos a atribuirle competencia. La forma termina funcionando como una especie de certificado de autenticidad.

Con la IA esto se multiplica.

Porque la máquina puede producir algo extraordinariamente seductor: una explicación que parece haber cerrado el asunto.

Y eso es peligroso.

Una explicación mediocre deja espacio para la duda. Una explicación brillante puede eliminarla.

Ahí está la trampa.

El problema no es solamente que la IA pueda equivocarse

Eso, en cierto sentido, es lo menos interesante. Los seres humanos también nos equivocamos constantemente.

El problema es que la IA puede equivocarse de una manera extraordinariamente persuasiva.

Puede tomar una premisa falsa, desarrollarla con lógica interna y entregarnos una pequeña arquitectura intelectual aparentemente sólida.

Y nosotros podemos pensar:

"Tiene sentido."

Pero que algo tenga sentido no significa que sea cierto.

La historia está llena de ideas perfectamente coherentes que eran falsas.

El geocentrismo podía construir una explicación sofisticada del movimiento de los astros. La teoría del éter tenía elaboradas justificaciones. Muchas doctrinas económicas, políticas y filosóficas han sobrevivido durante décadas precisamente porque podían organizar la realidad dentro de un relato aparentemente coherente.

La coherencia es una propiedad de un argumento. La verdad es una propiedad de su correspondencia con la realidad.

No son la misma cosa.

Y aquí aparece una paradoja fascinante

Cuanto mejor se vuelva la IA explicando cosas, más importante será nuestra capacidad para cuestionarla.

Cuando una máquina produce una respuesta torpe, desconfiamos.

Cuando produce una respuesta brillante, deberíamos desconfiar de otra manera.

No porque necesariamente sea falsa, sino porque nuestra propia reacción psicológica cambia.

La fluidez nos seduce.

La elegancia nos convence.

La estructura nos tranquiliza.

Y entonces dejamos de preguntar:

"¿Cómo sé que esto es verdad?"

para preguntar solamente:

"¿Tiene sentido?"

Ese pequeño desplazamiento es gigantesco.

Por eso el usuario también tiene que convertirse en una especie de editor

Usar IA inteligentemente no consiste únicamente en saber formular buenos prompts. Consiste también en saber cuándo no creerle.

Y aquí hay una paradoja preciosa: cuanto menos sabemos de un tema, más difícil nos resulta detectar una respuesta incorrecta.

Un experto puede leer una explicación sobre su campo y detectar inmediatamente una barbaridad.

Un no especialista puede leer exactamente la misma respuesta y pensar: "Qué interesante. Nunca había pensado en eso".

Por eso la IA no elimina la necesidad de conocimiento humano. En cierto sentido, hace que el conocimiento sea todavía más importante.

El conocimiento permite auditar a la máquina.

Sin él, podemos terminar utilizando una inteligencia artificial como una especie de oráculo digital.

Y un oráculo que escribe con excelente gramática sigue siendo un oráculo.

La verdadera alfabetización en IA quizá sea epistemológica

No basta con aprender a utilizar la herramienta.

Hay que aprender a distinguir:

• una afirmación de una evidencia;
• una explicación de una demostración;
• una hipótesis de un hecho;
• una interpretación de un dato;
• una respuesta segura de una respuesta verdadera.

Y, sobre todo, recuperar una virtud bastante antigua:

la duda.

No la duda paralizante que impide aceptar cualquier cosa, sino la duda científica que pregunta:

"¿Qué evidencia haría que cambiara de opinión?"

Ahí la IA puede convertirse en algo extraordinario.

No solamente en una máquina que responde, sino en una máquina con la que podemos pensar contra nosotros mismos.

Podemos pedirle que ataque nuestra posición, que presente argumentos contrarios, que busque las debilidades de nuestra interpretación, que distinga hechos de inferencias.

Eso es muchísimo más interesante que utilizarla como una máquina expendedora de respuestas.

Porque quizá el gran salto intelectual de la era de la IA no consista en conseguir que las máquinas respondan cada vez mejor.

Consista en conseguir que nosotros aprendamos a preguntar mejor qué significa que una respuesta sea verdadera.

La IA puede construir un edificio de palabras magnífico.

Pero todavía necesitamos salir por la puerta, mirar el mundo y comprobar si el edificio está realmente ahí.

Y ahí aparece una paradoja todavía más interesante: quizá estamos aplicando a la IA un estándar de desconfianza que jamás aplicamos a los seres humanos que nos informan todos los días.

Piensa en una conversación normal. Alguien te cuenta:

"Leí que esto ocurrió en 1978..."

Y probablemente no dices:

"¿Puedes proporcionarme tres fuentes primarias y explicarme el grado de incertidumbre epistemológica de esa afirmación?"

Simplemente evalúas a la persona. ¿Parece que sabe? ¿Habla con seguridad? ¿Es alguien en quien confías? Y continúas la conversación.

Pero con la IA hacemos algo curioso: sabemos que puede inventar cosas, así que automáticamente elevamos la guardia.

Y, en muchos casos, con razón.

Pero entonces viene este punto: ¿por qué no hacemos lo mismo con las personas?

Porque los humanos tenemos un problema que la IA hace especialmente visible: confundimos familiaridad con confiabilidad.

Un periodista que escuchamos durante veinte años puede decir una barbaridad y nuestra reacción será:

"Bueno, seguramente quiso decir otra cosa."

La IA dice una barbaridad:

"¡ALUCINACIÓN! "

Y hay una diferencia importante

Una persona puede mentir deliberadamente.

Puede tener intereses económicos.

Puede defender a su partido.

Puede proteger su reputación.

Puede estar repitiendo algo que escuchó hace veinte años.

Puede recordar mal.

Puede hablar de un tema que desconoce.

Puede estar borracha.

Puede tener un ego del tamaño de un edificio.

La IA, en cambio, tiene otro tipo de problema: puede generar una respuesta falsa sin tener la intención humana de engañarnos.

Eso cambia mucho las cosas.

De hecho, una de las grandes ventajas de consultar una IA es que puedes preguntarle:

"¿Qué tan seguro estás?"

"¿Qué partes de esto son hechos y cuáles son inferencias?"

"Dame argumentos contra tu propia respuesta."

"¿Qué podría estar equivocado aquí?"

A una persona puedes preguntárselo también, claro.

Pero es posible que te responda:

"Yo sé perfectamente de lo que estoy hablando."

Y ahí murió la conversación. 

La IA tiene además una ventaja brutal: no tiene prestigio que defender

Esto me parece especialmente interesante.

Un ser humano puede aferrarse a una opinión porque admitir el error le cuesta socialmente.

La IA no tiene que conservar su dignidad frente a los vecinos.

Puedes decirle:

"Eso que acabas de afirmar es falso."

Y puede revisar el asunto.

Un político, un académico, un periodista o un influencer puede tener enormes incentivos psicológicos para no hacerlo.

Por eso la IA puede ser, paradójicamente, más confiable que ciertas fuentes humanas, pero no porque sea infalible.

Es confiable precisamente cuando la utilizamos como interlocutor verificable y cuestionable, no como autoridad absoluta.

Y aquí conectamos con la capacidad de evaluar las respuestas de una IA: la inteligencia humana sigue siendo el filtro final.

La IA puede darte un mapa extraordinariamente detallado.

Pero si nunca has aprendido a orientarte, también puede darte un mapa precioso de un país que no existe.

Y eso vale tanto para una IA como para un humano.

La diferencia es que, con la IA, cada vez podemos exigirle más transparencia, contraste y autocorrección.

Con el humano de la mesa de al lado, buena suerte.