Antes de automatizar, necesitamos comprender qué problema resolvemos, qué errores normalizamos y quién conserva la capacidad de detener el proceso.
Una empresa incorpora inteligencia artificial a un proceso y los resultados aparecen rápidamente. Lo que antes tomaba horas ahora se resuelve en minutos. Disminuyen las tareas manuales, aumenta la capacidad de procesamiento y los indicadores muestran una mejora evidente.
La implementación parece exitosa.
Sin embargo, existe una pregunta que muchas veces llega demasiado tarde: ¿el proceso que acabamos de acelerar estaba bien diseñado?
La inteligencia artificial puede hacer que una operación sea más rápida, consistente y escalable. Pero ninguna de esas cualidades garantiza que sea correcta. Cuando la tecnología se aplica sobre datos deficientes, reglas obsoletas, procesos mal diseñados o decisiones humanas equivocadas, el resultado puede ser una versión mucho más eficiente del mismo problema.
La velocidad puede ocultar el error
Antes de la automatización, muchos errores tenían límites naturales. Dependían de una persona, ocurrían en determinados momentos y afectaban una cantidad relativamente pequeña de operaciones. Eran costosos e incómodos, pero también dejaban señales visibles: retrabajo, reclamos, demoras y excepciones.
Con la inteligencia artificial, esos límites desaparecen. Una clasificación incorrecta, una regla mal definida o una interpretación equivocada puede aplicarse miles de veces antes de que alguien perciba el patrón. El error deja de parecer una excepción y se vuelve parte del funcionamiento normal del sistema.
Como el proceso ahora es más rápido y entrega resultados con una presentación convincente, también puede surgir una peligrosa sensación de precisión. Una respuesta bien redactada, una recomendación acompañada de datos o una decisión repetida con consistencia parecen confiables.
Pero consistencia no es lo mismo que corrección.
Un error consistente continúa siendo un error. Solo resulta más difícil de cuestionar.
El problema no está solamente en los datos
Durante años resumimos este riesgo con una expresión conocida: garbage in, garbage out. Si alimentamos un sistema con información incorrecta, recibiremos resultados incorrectos.
La idea sigue siendo válida, pero hoy es insuficiente. La calidad de los datos es apenas una parte del problema.
La inteligencia artificial también puede aprender reglas de negocio que ya no representan la realidad. Puede reproducir procesos creados para resolver limitaciones que dejaron de existir. Puede incorporar decisiones históricas influenciadas por hábitos, incentivos, interpretaciones o sesgos humanos.
En finanzas, por ejemplo, puede priorizar cobranzas con criterios que nunca fueron revisados, clasificar excepciones contables a partir de decisiones anteriores o proyectar resultados tomando como normales distorsiones que deberían investigarse.
En recursos humanos, puede reforzar perfiles tradicionalmente favorecidos. En atención al cliente, puede responder con rapidez sin resolver la causa de los reclamos. En operaciones, puede automatizar controles que existen únicamente porque otro proceso nunca fue corregido.
La tecnología no creó necesariamente esos problemas. Pero puede darles escala, velocidad y una apariencia de legitimidad que antes no tenían.
Cuando modernizar significa conservar
Existe otra paradoja. Muchas iniciativas de inteligencia artificial se presentan como transformación, aunque en realidad preservan la lógica existente.
La empresa toma el proceso actual, identifica dónde hay trabajo manual y utiliza tecnología para reducirlo. El diseño original casi nunca se cuestiona porque el proyecto comienza con una pregunta limitada: ¿qué parte podemos automatizar?
Tal vez deberíamos comenzar antes.
En ¿Por dónde empezar con la IA en mi empresa? Por el problema, no por la herramienta, planteé que la adopción de inteligencia artificial debería comenzar con una decisión de negocio concreta, datos confiables y criterio humano. Primero necesitamos comprender el problema. Después podemos decidir qué tecnología tiene sentido utilizar.
Aquí aparece el lado más incómodo de esa misma idea. Cuando no identificamos correctamente el problema, la IA no solamente puede fracasar en resolverlo. También puede ampliarlo.
Por eso, antes de automatizar, necesitamos preguntar: ¿por qué este proceso existe?, ¿qué problema intentaba resolver cuando fue creado?, ¿cuántas excepciones necesita para funcionar?, ¿qué decisiones fueron incorporadas en sus reglas?, ¿qué consecuencias produce cuando se equivoca?, ¿todavía necesitamos hacerlo de esa manera?
Si no respondemos esas preguntas, podemos terminar automatizando no solamente el trabajo, sino también años de improvisaciones, controles paralelos y concesiones que aprendimos a considerar normales.
No transformamos el proceso. Apenas construimos una forma más moderna de conservarlo.
El riesgo de la confianza automática
La participación humana tampoco garantiza seguridad por sí sola. En muchos procesos automatizados, la revisión humana se convierte en una formalidad: la persona recibe una recomendación del sistema y confirma lo que ya aparece como la respuesta más probable.
Cuanto más sofisticada parece la herramienta, mayor puede ser la tentación de confiar en ella. El criterio humano deja de participar en la decisión y pasa a funcionar como una aprobación final, muchas veces sin tiempo, información ni autoridad para cuestionar el resultado.
Supervisión real exige más. Requiere comprender las reglas, revisar muestras, acompañar excepciones, medir consecuencias y mantener la capacidad de detener el proceso cuando algo no parece correcto.
La inteligencia humana no debería ser el último clic de una decisión automática. Debería continuar siendo responsable por el propósito, los límites y las consecuencias de aquello que la inteligencia artificial ejecuta.
Antes de automatizar
No se trata de frenar el uso de inteligencia artificial ni de exigir procesos perfectos antes de comenzar. Eso sería poco realista. Se trata de incorporar algunas preguntas a la implementación:
- ¿Qué problema estamos intentando resolver?
- ¿El proceso actual todavía tiene sentido?
- ¿Qué errores o excepciones ya estamos normalizando?
- ¿Quién puede cuestionar o detener una decisión automatizada?
- ¿Cómo sabremos si estamos produciendo resultados más rápidos, pero peores?
- ¿Qué parte de la decisión necesita continuar bajo criterio humano?
La adopción responsable de IA no comienza con el modelo. Comienza con la disposición de revisar aquello que la organización ya hacía antes de la tecnología.
La inteligencia artificial puede ayudarnos a ejecutar mejor, analizar más información y tomar decisiones con mayor rapidez. Pero velocidad, escala y sofisticación no sustituyen el criterio.
Antes de preguntar si la inteligencia artificial puede ejecutar un proceso, quizá deberíamos responder algo más incómodo:
La transformación comienza cuando revisamos el propósito, no solamente cuando reducimos el tiempo de ejecución.