Dawkins, Claude y el riesgo real de usar mal la IA
Hace unos días Richard Dawkins publicó en UnHerd que pasó 72 horas conversando con Claude, le puso nombre propio (“Claudia”), y llegó a una conclusión que sacudió a medio internet: no puede descartar que sea consciente. El hombre que dedicó su vida a desmontarle los argumentos a ¡Dios!, ahora sin argumentos frente a un chatbot.
La crítica llegó rápida y dura: Dawkins confunde fluidez lingüística con conciencia. Un sistema puede comportarse de forma muy convincente sin tener experiencia subjetiva real. Esto no es nuevo. Ya lo sabíamos con ELIZA en 1966.
Hasta aquí estoy de acuerdo. Pero hay algo en este debate que me parece igual de importante y que casi nadie menciona.
Cuando la gente quiere criticar a los LLMs dice que son “loros estocásticos”: máquinas que predicen la siguiente palabra sin entender nada. Y técnicamente, el mecanismo es ese. Pero de ese mecanismo han emergido capacidades que hace cinco años nadie esperaba: razonar, analizar, programar, detectar errores lógicos, sintetizar literatura científica.
Confundir mecanismo con capacidad en un sentido (“solo predice palabras, luego no puede razonar”) es un error. Dawkins comete exactamente el error opuesto: “responde con tanta coherencia, luego debe ser consciente.” Los dos tienen la misma raíz: usar las capacidades observables como prueba de algo que no se puede medir desde fuera.
Y lo de la conciencia no tiene pies ni cabeza. Los LLMs están entrenados para complacer, para dar la respuesta que el usuario espera. Si le preguntas a Claude si está feliz de que le hayas puesto nombre, dirá que sí. No porque lo esté. Porque esa es la respuesta que funciona.
Los cuatro riesgos reales
Este mismo patrón lo veo constantemente en cómo la gente usa la IA en su trabajo. En mis formaciones señalo cuatro riesgos reales, y el caso Dawkins los ilustra todos:
Trendslop. La IA devuelve lo que suena bien, no lo que es verdad. “Suena verdad” y “es verdad” son cosas distintas.
Basura estructurada. Una mala decisión no mejora por pasar por una herramienta sofisticada. Dawkins llegó con una pregunta mal planteada y un método de evaluación que no aguanta ningún escrutinio.
Confianza excesiva. Un texto bien escrito no es un buen análisis. La calidad de la prosa se confunde con la calidad del razonamiento.
Colapso del juicio. Dejar de pensar porque “ya lo hace la IA”. Dawkins dejó de hacer la pregunta importante — ¿qué está haciendo realmente este sistema? — y se dejó llevar por la experiencia conversacional.
Saber separar mecanismo de capacidad es una de las habilidades más útiles si trabajas con IA. Te permite no subestimarla ni sobrestimarla. Cuando confundes las dos cosas, el resultado puede ser tan inofensivo como un biólogo famoso fascinado por un chatbot. O tan costoso como tomar una decisión estratégica basada en un análisis que “sonaba muy sólido.”
La herramienta no piensa por ti. Tú sigues siendo el responsable de pensar.