Un informe detecta fallos de fiabilidad en casi 1 de cada 3 evaluaciones de IA en sectores regulados en España

Galtea, compañía nacida como spin-off del Barcelona Supercomputing Center (BSC) y centrada en ayudar a las empresas a desplegar inteligencia artificial generativa de forma segura y responsable, ha publicado un informe titulado 'Sistemas de IA generativa en sectores regulados en España: dónde y cómo fallan'. El estudio se basa en el análisis de 1,2 millones de evaluaciones de sistemas de IA en fase de preproducción, realizadas entre enero y agosto de 2026 sobre productos desarrollados por empresas de sectores regulados españolas que ya utilizan la plataforma de evaluación de Galtea antes de pasar esos sistemas a producción.

El hallazgo principal es que el 30,5% de esas evaluaciones no supera al menos un criterio de fiabilidad definido por los propios equipos técnicos de cada empresa, es decir, casi una de cada tres pruebas detecta algún problema antes de que el sistema llegue a los usuarios finales. Por tipo de arquitectura, los agentes de IA capaces de ejecutar acciones de forma autónoma registran la tasa de fallo más alta, con un 46%, seguidos de los sistemas de recuperación aumentada por generación (RAG), que combinan modelos de lenguaje con bases documentales propias, con un 42%. Los chatbots conversacionales, las herramientas de procesamiento documental y los sistemas evaluados mediante benchmarks estándar presentan tasas de fallo notablemente inferiores, lo que sugiere que la complejidad añadida de agentes y RAG eleva el riesgo de errores de fiabilidad.

Desglosado por sectores, el público es el que concentra más evaluaciones fallidas, con un 31,6%, seguido de sanidad (29,3%), transporte (17,4%) y servicios financieros (16%). El informe atribuye estas diferencias, en parte, al uso desigual de métricas de evaluación personalizadas: el sector salud las emplea en el 80,8% de los casos, frente al 46% en transporte, el 42,6% en el sector público y solo el 22,5% en servicios financieros, lo que indica niveles muy distintos de madurez en los procesos de control de calidad previos al despliegue.

El informe también señala que el 69% de los productos analizados emplea múltiples modelos de IA combinados dentro de un mismo sistema, lo que implica que la fiabilidad final depende del comportamiento conjunto de la infraestructura base, los componentes intermedios, la lógica de negocio y las capas de acceso a datos, y no únicamente del modelo de lenguaje aislado. Según Galtea, esta arquitectura en capas añade puntos adicionales de fallo que las pruebas tradicionales de un único modelo no siempre consiguen capturar, lo que justificaría la necesidad de marcos de evaluación específicos para sistemas de IA generativa en producción dentro de entornos regulados.

La noticia ha sido recogida de forma coincidente por varios medios españoles —Forbes España, PressDigital, Democrata y El Correo Gallego— citando las mismas cifras del estudio, lo que corrobora los datos difundidos por Galtea. La compañía, impulsada por investigación del BSC y el uso del superordenador MareNostrum 5, defiende que los resultados muestran la necesidad de una supervisión más estrecha antes de desplegar sistemas de IA generativa en entornos regulados, donde los errores pueden tener consecuencias legales, económicas o de seguridad para empresas y usuarios.