¿Quién es responsable cuando una IA falla en un proyecto?

Ayer planteaba una pregunta sobre algo que creo que muchas empresas todavía no tienen bien resuelto: ¿sabemos realmente dónde estamos usando IA?

Pero creo que hay una segunda pregunta todavía más incómoda: cuando esa IA falla, ¿quién responde?

Porque en muchos proyectos la conversación suele simplificarse demasiado:
“Eso es cosa del proveedor.”
“Eso viene integrado en el SaaS.”
“Eso lo configura el cliente.”
“Eso lo revisará Legal.”
“Eso lo opera soporte.”
“Eso es infraestructura.”
“Eso es solo el modelo.”

Y claro, cada frase puede tener una parte de verdad.
Pero también puede esconder una zona gris enorme.
Imagina un asistente interno para empleados: usa un modelo de un proveedor
está desplegado en cloud, lo integra una consultora, le alimenta con documentación del cliente, lo opera soporte, lo revisa seguridad, lo valida negocio ylo acaba usando una persona real.

Si algo sale mal, decir “la culpa es del proveedor” puede ser una respuesta demasiado simple.

Quizá el proveedor controla el modelo.
Pero otra organización decide para qué se usa.
Otra decide qué datos entran.
Otra configura el comportamiento.
Otra define si hay revisión humana.
Otra decide cuándo se despliega.
Otra puede retirarlo.
Y ahí es donde creo que cambia la conversación.

Antes de discutir responsabilidades legales concretas, quizá deberíamos hacernos una pregunta más operativa: ¿quién puede tomar decisiones reales sobre este sistema?
Quién puede cambiarlo.
Quién puede configurarlo.
Quién puede frenarlo.
Quién puede detectar el riesgo.
Quién podría evitar el daño antes de que ocurra.

Estoy desarrollando este tema en mi podcast, RouterNotHub, dentro de una serie sobre AI Act aplicado al delivery y a proyectos tecnológicos, pero lo traigo aquí porque me interesa más contrastar la idea que promocionar el episodio.

Mi sensación es que vamos a necesitar menos frases tipo “eso es del proveedor” y más mapas claros de actores, decisiones y responsabilidades reales.

Porque cuando hay un incidente, todo el mundo sabe explicar por qué no era su responsabilidad.

Lo difícil es descubrir antes quién podía haber hecho algo para evitarlo.

Pregunta para debate: En proyectos con IA, SaaS, APIs o proveedores externos, ¿tenéis claro quién controla realmente cada parte del sistema o suele quedar en tierra de nadie?

Visto en r/InteligenciArtificial