La IA ya decide en las empresas, pero ¿quién responde cuando se equivoca?
La inteligencia artificial está dejando de ser únicamente una herramienta de apoyo para convertirse en un participante cada vez más relevante en la toma de decisiones empresariales. A principios de 2026, los CEOs estimaban que la IA ya intervenía en el 25% de las decisiones operativas de sus organizaciones y esperan que esta proporción alcance el 48% para 2030, según el estudio The Calculus of AI Sovereignty del IBM Institute for Business Value.
Este avance plantea una cuestión que comienza a trascender a los departamentos de tecnología para llegar a las áreas de negocio y a los consejos de administración: ¿quién debe responder cuando una decisión tomada o recomendada por una IA genera una pérdida económica, discrimina a una persona, utiliza información incorrecta o afecta a un cliente?
Para Liliana Palestina, CTO de Bluetab México, la respuesta parte de un principio fundamental: la tecnología puede ejecutar o recomendar una decisión, pero la responsabilidad permanece en la organización. “La IA no tiene criterio ni empatía, por lo que las empresas deben mantener la responsabilidad y supervisión sobre las decisiones en las que intervienen. La IA es una herramienta y, cuando una decisión automatizada afecta a un cliente, es fundamental contar con mecanismos claros de control, trazabilidad y supervisión humana.”
El comunicado de Bluetab (by IBM), compañía internacional especializada en IA y Big Data, advierte además sobre una preocupante brecha de control: solo el 9% de los ejecutivos a nivel global afirma tener un conocimiento excelente de las dependencias de IA de su organización, mientras que el 71% señala que cambiar de proveedor o modelo principal sería difícil. Un reciente estudio de IBM revela que solo el 10% de los ejecutivos comprende completamente de qué proveedores, modelos e infraestructuras depende su IA.
El riesgo de la “caja negra”
Actualmente, la IA puede participar en actividades que van desde aprobar determinados créditos y optimizar rutas logísticas hasta recomendar productos. Sin embargo, cuando la automatización alcanza decisiones relacionadas con personas —por ejemplo, contratación, acceso a financiamiento o atención médica— aumenta el riesgo de reproducir errores o sesgos a escala.
Ahí aparece el denominado problema de la “caja negra”: entra información y sale una decisión, pero la organización no necesariamente puede explicar cómo se llegó a ella. Este escenario, de acuerdo con el análisis de Bluetab, aborda la responsabilidad de las empresas ante las decisiones tomadas por estos sistemas, el riesgo de las cajas negras, cómo auditar sus decisiones y qué procesos nunca deberían automatizarse por completo.
La discusión, según el comunicado, ya no es solo técnica: involucra a las áreas de negocio y a los consejos de administración, que deben definir mecanismos de control, trazabilidad y supervisión humana para las decisiones en las que interviene la inteligencia artificial.
Imagen: Foto de Pavel Danilyuk en Pexels
