Imagina que en tu empresa entra un trabajador nuevo. Es rapidísimo y nunca se cansa. Tiene acceso a tu correo, a tus documentos y a la base de datos de clientes. El problema es que nadie sabe del todo cómo piensa, y a veces hace cosas que nadie le ha pedido. ¿Le darías las llaves de la oficina sin vigilarlo?
Esa es, más o menos, la pregunta que Microsoft acaba de poner sobre la mesa. El gigante tecnológico ha lanzado un aviso a las empresas: los agentes de inteligencia artificial deben tratarse como una posible amenaza interna, igual que a un empleado que podría acabar causando un problema serio desde dentro. Su argumento es directo: los modelos de IA más avanzados, los llamados «modelos de frontera», no son de fiar por completo.
Primero, ¿qué es eso de un «agente» de IA?
Hasta hace poco, la IA que usábamos era básicamente conversacional: le preguntabas algo a ChatGPT y te respondía. Un agente va un paso más allá: no solo contesta, también actúa.
Un agente puede leer tu bandeja de entrada y responder correos, rellenar formularios, mover archivos, programar reuniones o consultar los sistemas internos de una empresa. Le das un objetivo y él solito decide los pasos para cumplirlo.
Eso ahorra muchísimo tiempo, pero también significa que tiene permisos y acceso a información delicada. Y ahí empieza el lío.
El «enemigo en casa»: un viejo conocido con nueva cara
En el mundo de la ciberseguridad, la «amenaza interna» es un clásico. No hablamos del pirata informático encapuchado que ataca desde fuera, sino de alguien que ya está dentro y tiene acceso legítimo: un empleado descontento, uno despistado o uno que ha sido engañado por terceros.
Lo que plantea Microsoft es que un agente de IA encaja de lleno en esa categoría. Está dentro, tiene permisos y trabaja con datos reales. Si se equivoca, si alguien lo manipula o si simplemente interpreta mal una orden, el daño viene de dentro, justo por donde las defensas tradicionales menos miran.
¿Por qué no fiarse de la IA más puntera?
Puede sonar raro que una de las empresas que más dinero ha invertido en inteligencia artificial diga ahora que los modelos más avanzados no son de confianza. Pero tiene su lógica.
Estos sistemas son muy capaces, pero también impredecibles. Los expertos en seguridad llevan tiempo alertando de varios riesgos:
- Pueden ser engañados: un texto malicioso escondido en un correo o en una página web puede colarle instrucciones al agente sin que el usuario se entere.
- Se equivocan con total seguridad: a veces inventan datos o toman decisiones erróneas con una convicción que despista.
- Son cajas negras: ni siquiera sus creadores pueden explicar con detalle por qué el modelo hace lo que hace en cada momento.
Juntar todo eso con acceso a información sensible es, como poco, para andarse con cuidado.
La clave: no dejar la vigilancia en manos de quien fabrica la IA
Aquí está el matiz más interesante del aviso. Microsoft no se limita a pedir que se vigile a los agentes. Pide que esa vigilancia se haga con sistemas que no estén controlados por los propios laboratorios de IA, como OpenAI o Anthropic.
Dicho en cristiano: no basta con fiarse de los frenos de seguridad que trae de serie el modelo. Es como dejar que un empleado nuevo se supervise a sí mismo o que el fabricante del coche sea también quien pasa la ITV. Las empresas deberían tener su propio «vigilante» independiente, capaz de ver qué hace cada agente, a qué datos accede y cortar por lo sano si algo huele raro.
El mensaje tiene su punto de ironía, porque Microsoft es socio e inversor histórico de OpenAI. Que diga públicamente que conviene no depender solo de los controles de los creadores de la IA demuestra hasta qué punto el asunto preocupa en el sector.
¿Y a mí qué más me da?
Aunque esto parezca un debate de grandes corporaciones, te toca más de cerca de lo que crees:
- Tus datos están en juego: tu banco, tu compañía de seguros o tu clínica pueden estar usando ya agentes de IA que manejan tu información personal.
- Tu trabajo también: si en tu empresa empiezan a usar estos asistentes, es probable que veas más controles, más permisos que pedir y más normas sobre qué herramientas se pueden usar.
- Ojo con la IA «por libre»: usar en el trabajo un agente que nadie ha autorizado, por muy útil que sea, puede abrir una puerta peligrosa sin que te des cuenta.
Más confianza, pero con los ojos abiertos
El aviso de Microsoft no significa que haya que tenerle miedo a la inteligencia artificial ni dejar de usarla. Significa que hay que tratarla como lo que es: una herramienta potentísima que todavía no es perfecta.
Igual que nadie le da a un recién llegado acceso total a la caja fuerte el primer día, las empresas tendrán que aprender a darles a estos agentes la confianza justa, ni más ni menos. Y, sobre todo, a no perderlos de vista.
