El NCSC Alerta del Shadow AI: el 71% de los Empleados Usa Herramientas de IA No Aprobadas

El Centro Nacional de Ciberseguridad de Reino Unido, NCSC, ha advertido a las empresas sobre el crecimiento del shadow AI, el uso de herramientas de inteligencia artificial que no han sido aprobadas ni están controladas por los departamentos responsables de tecnología y seguridad. El organismo considera que esta práctica puede provocar filtraciones de información, pérdida de control sobre datos corporativos y nuevas oportunidades para los atacantes.

El problema está adquiriendo una escala considerable. El NCSC cita una investigación reciente según la cual el 71% de los empleados reconoce haber utilizado herramientas de IA que no habían sido aprobadas por su empresa. Para el organismo británico, intentar eliminar completamente esta práctica es poco realista y las organizaciones deberían centrarse en comprender por qué ocurre y reducir sus riesgos.

Qué es el shadow AI y por qué preocupa a las empresas

El NCSC define shadow AI como el uso de tecnologías de inteligencia artificial que quedan fuera de los sistemas, políticas y procesos autorizados de una organización. Es una evolución del conocido shadow IT, que engloba dispositivos, aplicaciones o servicios utilizados para trabajar sin conocimiento o aprobación del departamento de TI.

Un ejemplo puede ser un empleado que utiliza su cuenta personal de un chatbot para resumir documentos empresariales, analizar información, redactar contenido o procesar datos porque la herramienta aprobada por su compañía no dispone de las funciones que necesita.

El organismo subraya que esta conducta no suele tener una intención maliciosa. Con frecuencia aparece porque los trabajadores encuentran en herramientas externas una forma más rápida de completar tareas cuando los servicios corporativos no cubren sus necesidades o los procedimientos para solicitar nuevas herramientas son demasiado lentos.

Los datos empresariales pueden terminar fuera del control de la compañía

Uno de los principales riesgos aparece cuando los empleados introducen información corporativa, propiedad intelectual o datos de clientes en servicios de IA para consumidores que no han sido evaluados previamente por su organización.

En ese momento, la empresa puede perder visibilidad sobre dónde se procesa la información, durante cuánto tiempo se almacena y qué políticas aplica el proveedor. Dependiendo del servicio y de su configuración de privacidad, los datos también podrían conservarse o utilizarse para mejorar el producto.

Esta falta de control puede incrementar el riesgo de filtraciones y generar problemas relacionados con cumplimiento normativo, protección de información confidencial y propiedad intelectual.

Los agentes de IA añaden nuevas vías de ataque

El NCSC presta especial atención a los sistemas de IA capaces de actuar sobre otras herramientas y servicios. Los agentes son aplicaciones complejas que pueden disponer de acceso autorizado a archivos, cuentas, APIs y sistemas internos para completar tareas automáticamente.

Si uno de estos agentes contiene una vulnerabilidad que un atacante consigue explotar, el intruso podría intentar aprovechar los mismos permisos y recursos a los que el agente tiene acceso legítimo.

El riesgo aumenta cuando una herramienta no autorizada utiliza controles de seguridad más débiles o recibe permisos excesivos. El NCSC considera altamente probable que los atacantes intenten aprovechar agentes con guardrails menos estrictos para localizar vulnerabilidades o configuraciones incorrectas en otras partes de la infraestructura corporativa.

El NCSC no recomienda prohibir simplemente la inteligencia artificial

La respuesta recomendada no consiste en bloquear indiscriminadamente las herramientas de IA. El NCSC advierte de que una política excesivamente restrictiva puede empujar a los trabajadores a continuar utilizándolas de forma todavía menos visible.

El organismo propone desarrollar una cultura de ciberseguridad en la que los empleados puedan comunicar qué herramientas necesitan y para qué las utilizan. Comprender estas necesidades permite identificar los riesgos y ofrecer alternativas corporativas que proporcionen funciones similares bajo controles de seguridad adecuados.

Las empresas también deberían establecer procesos sencillos y rápidos para evaluar nuevas herramientas. Si los trabajadores necesitan esperar demasiado para obtener una solución aprobada, aumenta la probabilidad de que recurran por su cuenta a aplicaciones externas.

Las empresas necesitan saber qué IA utilizan sus empleados

El problema fundamental del shadow AI es la falta de visibilidad. Una organización difícilmente puede proteger información que está siendo procesada mediante servicios cuya existencia desconoce.

El NCSC recomienda aumentar la concienciación interna sobre qué datos pueden introducirse en herramientas de IA y qué servicios están autorizados. También aconseja integrar de forma segura los sistemas de inteligencia artificial que sí se adopten oficialmente y aplicarles los controles habituales de gestión de riesgos.

La misma filosofía se aplica a los agentes autónomos. El organismo británico ha recomendado anteriormente limitar sus permisos, aislarlos cuando sea necesario, supervisar su comportamiento y mantener mecanismos que permitan a una persona detener una acción cuando el sistema se comporte de forma inesperada.

El shadow AI seguirá creciendo con herramientas cada vez más accesibles

El NCSC espera que el fenómeno continúe a medida que las capacidades de IA sean más baratas y estén disponibles en un número mayor de aplicaciones. Esto reduce las barreras para que los empleados incorporen nuevos servicios a sus flujos de trabajo antes de que los departamentos de seguridad tengan tiempo de evaluarlos.

La estrategia recomendada consiste por ello en reducir el riesgo en lugar de asumir que todo uso no autorizado podrá eliminarse. Las organizaciones que sepan qué necesidades llevan a sus trabajadores a recurrir al shadow AI estarán en mejores condiciones de ofrecer alternativas seguras sin perder las ventajas de productividad que proporcionan estas herramientas.