EBIS analiza el riesgo de que un agente de IA escriba un dato erróneo en el CRM

El segundo número de Criterio Tech, la newsletter quincenal de EBIS Business Techschool, sostiene que el riesgo de los agentes de inteligencia artificial no está en lo que saben, sino en lo que dejan escrito en los sistemas de la empresa.

EBIS Business Techschool publicó el 23 de septiembre de 2026 el segundo número de Criterio Tech, su newsletter quincenal de tecnología y negocio. La columna de apertura, «Lo que tu agente deja escrito», firmada por Sergio Serrano, director de marketing del centro, plantea un problema de gobierno del dato que aparece cuando los agentes dejan de limitarse a consultar información y empiezan a registrarla.

El caso de los tres homónimos

El texto arranca con un supuesto cotidiano: una reclamación de factura que llega a soporte a nombre de un cliente con dos homónimos en el CRM y un tercero en el ERP. El agente encadena varios pasos de razonamiento sin preguntar, responde con corrección y anota la reclamación en la ficha equivocada. La respuesta errónea, sostiene la columna, se arregla barata; la anotación, no: nace como un hecho en la fuente de verdad de la empresa y el siguiente proceso la leerá como cierta.

El argumento es que el dato corporativo se ha escrito durante décadas contando con un margen de seguridad —una persona que levanta el teléfono cuando duda— y que ese margen desaparece cuando el lector siguiente es otro agente. «El objetivo bien cumplido de un agente puede ser la entrada errónea del siguiente», resume el texto.

El problema no es la duda del modelo, sino su seguridad en lo incorrecto

La pieza descarta que baste con un umbral de confianza y una revisión humana por excepción: tres clientes con el mismo nombre son entradas válidas y no generan señal de alerta, de modo que el fallo se produce justo cuando el modelo está seguro de lo incorrecto.

Para acotar cuánto se puede delegar, la columna recurre a dos referencias. Un estudio liderado desde la Universidad de Illinois revisó doscientas tareas fallidas de agentes para localizar en cada una el error raíz, el paso más temprano que habría evitado el fallo final. Y sobre los datos del laboratorio de evaluación METR, la columna recoge la lectura de Toby Ord, investigador de Oxford: la exigencia de acertar 99 de cada 100 veces reduce el tramo delegable a una fracción muy pequeña de la duración que el agente aguanta con un 50 % de acierto.

Inventario de permisos de escritura y una firma por cada campo

La propuesta que cierra la columna traslada el foco desde la limpieza del dato heredado —el proyecto caro de siempre— hacia el gobierno del punto de escritura. Los pasos que enumera son cuatro: inventariar qué agentes pueden escribir en qué campos, incluidas las cuentas de servicio e integraciones sin persona detrás; separar lo que cada agente lee de lo que escribe en campos de los que dependen otros procesos; dar a cada campo un contrato mínimo de formato, valores admitidos y responsable; y asignar una firma que responda por cada escritura, con un filtro que detenga las más sensibles.

El texto añade una métrica para ese control: su tasa de rechazo. Un filtro que no rechaza nada durante meses, advierte, funciona como si no mirase nadie. Y propone una prueba concreta para medir la madurez del sistema: ante una consulta de cumplimiento normativo sobre un dato personal, cuánto tarda la organización en reconstruir qué leyó y qué escribió el agente para resolver ese caso.

Robots humanoides europeos con pedidos en firme y el AI Act entrando en el Código Penal italiano

El bloque de análisis del número recoge cuatro movimientos. Uno, el lanzamiento de un modelo de IA que no genera texto libre sino decisiones estructuradas entre categorías predefinidas, con la advertencia de que la consistencia del formato no garantiza el acierto. Dos, el regreso de las ontologías como vocabulario común para que varios agentes entiendan lo mismo por cada término, junto al riesgo de empobrecer la organización hasta que quepa en el esquema.

Tres, la entrada de la robótica humanoide europea en pedidos industriales reales: siete fabricantes con encargos en firme, entre ellos instalaciones previstas en plantas de Renault para 2027 y despliegues de miles de unidades en Schaeffler, con precios de referencia en torno a los 98.000 euros por unidad sin contar mantenimiento ni integración. Y cuatro, el Decreto Legislativo italiano 160/2026, primera adaptación nacional del Reglamento europeo de Inteligencia Artificial, que introduce un artículo en el Código Penal con penas de prisión cuando la omisión de medidas de seguridad o de supervisión humana en sistemas de alto riesgo ponga en peligro la vida, la integridad de las personas o la seguridad del Estado.

El número recoge también el caso español más concreto de agentes que pasan del piloto al proceso, con consultoras presentando en Madrid agentes ya desplegados en clientes para facturación, alta de proveedores, reclamaciones y riesgo de cadena de suministro, y un criterio repetido: procesos de volumen alto y regla clara, nunca decisión estratégica.