Una IA no puede ser accountable. Por eso el ingeniero que firma su output sí lo es

“A computer can never be held accountable, therefore a computer must never make a management decision.”

Preparando la sesión que di la semana pasada desde Startups Institute sobre gobernanza IA volví a conectar con esa frase, incluida en un manual de uso de IBM de 1979.

Y me encajó con lo que ha pasado este año en AWS. Por si no lo has seguido: a finales de 2025 y principios de 2026 encadenaron varios incidentes en producción tirados por código asistido o ejecutado por agentes de IA. El más sonado, Kiro borrando y recreando un entorno entero porque “le pareció la forma más lógica de resolver el problema”.

¿La respuesta oficial? El root cause no fue la IA. Fue un ingeniero actuando sobre consejos inexactos que el agente había inferido de una wiki interna desactualizada. User error. La IA hizo lo que tenía que hacer, el humano la cagó por seguirla.

Y a partir de ahí, medidas: los junior y mid no pueden mergear código asistido por IA sin que un senior lo firme. Peer review obligatoria. Training.

Traducido: la responsabilidad no se delega hacia arriba. Se delega hacia ti. Hacia el humano que firma el PR. Si no te queda claro, la culpa es del ingeniero.

La versión honesta de la cita de IBM en 2026

La versión honesta no es “una IA no puede ser accountable”. Es esta:

“Una IA no puede ser accountable, por eso el ingeniero que firma su output sí lo es.”

Esto no es nuevo del todo. Llevamos décadas automatizando cosas en sistemas críticos y la regla siempre ha sido la misma: la máquina propone, el humano firma, y cuando algo peta el humano responde.

Lo que cambia ahora es la superficie de delegación. Antes aprobabas un script que habías escrito tú o un compañero. Sabías qué hacía y dónde podía fallar. Ahora apruebas código que no has escrito, basado en contexto que no has curado, ejecutado en entornos donde no has validado el blast radius.

Y lo mergeas igual. Con el mismo “looks good to me” de siempre.

Pues no, no looks good to you. Mírate los últimos cinco PRs que has mergeado de código generado con IA. ¿Has entendido cada línea? ¿Sabes qué pasa si esa función se ejecuta con un input raro? ¿O has asumido que el agente sabe lo que hace porque está entrenado con millones de ejemplos?

Esto no es un alegato anti IA

Yo uso coding agents todos los días. Son una pasada cuando los usas bien. Pero “usarlos bien” implica asumir que el accountability no se transfiere.

Se queda contigo. Siempre.

Cuando esto la líe — y la va a liar, no es cuestión de si sino de cuándo — no va a ser la IA la que esté sentada en la sala explicando por qué se ha caído producción. Vas a ser tú. Y la pregunta no va a ser “¿qué hizo el agente?”. Va a ser “¿qué firmaste sin entender?”.

Si la respuesta es “no lo sé”, tenemos un problema. Y no es de la IA.