Un agente de IA envía una cobranza a un cliente que ya había informado el pago. El comprobante estaba disponible, pero en otro canal. El mensaje sale, el cliente reclama y alguien explica: “Fue la inteligencia artificial”.
La escena es hipotética, pero la pregunta es concreta: ¿esa explicación cambia quién debe responder por lo ocurrido? Si el mismo mensaje hubiera sido enviado por una persona del equipo, revisaríamos qué información tenía, qué procedimiento siguió y qué supervisión existía. Cuando interviene un agente, necesitamos hacer preguntas equivalentes, aunque las respuestas no sean idénticas.
Antes de preguntar quién responde por el error de la IA, conviene preguntar quién decidió cuánto podía hacer sin supervisión.
La responsabilidad empieza antes del error
Me interesa esta discusión porque estoy incorporando IA a mi trabajo y también invirtiendo en mi formación para comprender mejor sus posibilidades y límites. Cuanto más estudio y experimento, más sentido tiene hablar de responsabilidad mientras construimos esas capacidades, no solamente cuando aparece un problema.
Si la IA propone una acción y yo la apruebo, la herramienta no puede convertirse después en la explicación que me saca de la decisión. Debo comprender qué estoy aceptando, con qué información y bajo qué supuestos. Una respuesta bien escrita no sustituye esa comprensión.
Cuando un agente ejecuta con autonomía, el liderazgo se ejerce en otro lugar. No necesariamente habrá alguien aprobando cada movimiento. La responsabilidad pasa también por definir qué puede hacer, a qué información accede, cuándo debe detenerse y qué situaciones requieren intervención humana.
Delegar una decisión a un agente no elimina la responsabilidad de liderar. Cambia dónde debemos ejercerla.
El problema puede empezar en los datos
No todos los errores nacen de una interpretación equivocada. Un agente puede trabajar con información incompleta, desactualizada o contradictoria y producir una respuesta convincente sobre una base defectuosa. Si el pago no está registrado, una condición contractual quedó fuera o dos sistemas muestran saldos diferentes, la calidad de la respuesta ya está comprometida.
A veces esperamos que la IA resuelva inconsistencias que la propia organización todavía no consiguió ordenar. Pero procesar más rápido no corrige automáticamente el origen. Los datos malos pueden convertirse en respuestas peores, ahora presentadas con mayor velocidad y seguridad.
Por eso, autorizar un uso también exige preguntar qué datos lo sostienen, quién los mantiene y qué debe ocurrir cuando falta información. Reconocer que no hay base suficiente para actuar debería ser una posibilidad prevista, no una falla que intentamos ocultar.
Las excepciones necesitan criterio humano
En otro artículo, incluido entre las lecturas recomendadas al final, desarrollo el papel de la inteligencia humana en el tratamiento de las excepciones. Recomiendo leerlo como complemento: no basta con que el agente resuelva lo habitual; necesitamos reconocer cuándo una situación exige salir de la respuesta prevista.
Una persona puede advertir que un cliente necesita otro tratamiento o que una regla correcta está produciendo un efecto inadecuado. Esa intervención no es necesariamente un obstáculo para automatizar. Puede ser justamente lo que permite hacerlo con responsabilidad.
Vi una reflexión en LinkedIn que señalaba el riesgo de utilizar la IA para presentar propuestas con apariencia de dominio y después imponerlas a especialistas que reconocen sus debilidades. Me quedó esa preocupación: ¿qué ocurre cuando la seguridad de una respuesta pesa más que el conocimiento del equipo?
Un control también puede ser una persona que dice “esto no tiene sentido” y encuentra espacio para demostrarlo. La IA debería ayudarnos a escuchar mejor, no a considerar innecesaria esa conversación.
Responder no es ser culpable de todo
No creo que cada error de un agente demuestre una falla del líder. Hay situaciones imprevisibles, información incompleta y controles que necesitan mejorar después de confrontarse con la realidad.
Responder significa explicar lo ocurrido, contener el impacto y revisar las decisiones bajo nuestra responsabilidad. No significa atribuir automáticamente negligencia ni buscar un culpable. Hablo de responsabilidad de gestión, no de una conclusión jurídica.
Tampoco corresponde concentrarlo todo en el gestor inmediato. Herramientas, permisos, datos y controles pueden depender de distintas áreas. Cada una necesita reconocer su parte. La responsabilidad compartida no debería terminar siendo una responsabilidad que nadie consigue localizar.
Autonomía que podamos sostener
La respuesta tampoco puede ser revisar manualmente cada acción. Necesitamos controles proporcionales a las consecuencias: no exige el mismo cuidado ordenar información que modificar una condición comercial o comprometer un pago.
En el radar de cobranza que estamos desarrollando, esa distinción nos ayuda a ordenar el camino. Hacer visible una prioridad no es lo mismo que autorizar una acción sobre ella. Entre ambas cosas hay contexto, conversaciones y decisiones.
Para mí, avanzar consiste en ampliar la autonomía que somos capaces de sostener, observar y corregir. A veces, lo más responsable será detener una ejecución y pedir ayuda.
La pregunta no es solamente quién responde cuando la IA se equivoca. Es quién se ocupó de que la organización pudiera detectar el error, detenerlo y corregirlo. Y quién estará dispuesto a dar la cara cuando, a pesar de todo, ocurra.