La inteligencia artificial avanza a toda velocidad, pero las normas para controlar sus riesgos no siempre van al mismo ritmo. Brad Smith, presidente de Microsoft, ha advertido que la IA está menos regulada que productos cotidianos como la leche o las lavadoras. Su mensaje apunta a una pregunta cada vez más urgente: ¿qué pasa si un sistema automatizado comete un error y perjudica a alguien?
Un botón para frenar una IA descontrolada
Entre las medidas que Smith propone figuran mecanismos para detener sistemas de IA si algo sale mal y una obligación legal de responder ante las personas afectadas cuando un agente autónomo cause daños tras ser vulnerado. No significa que Microsoft haya anunciado una nueva función concreta: se trata de una llamada a reforzar las reglas de seguridad y responsabilidad.
La preocupación crece a medida que estos programas pasan de contestar preguntas a realizar tareas: pueden, por ejemplo, organizar procesos o ejecutar instrucciones con menos intervención humana. Si actúan de forma inesperada, no basta con decir que «la IA se equivocó»; también habrá que aclarar quién debía supervisarla y quién asume las consecuencias.
¿Por qué debería importarle a cualquiera?
Porque la IA ya se está incorporando a servicios y herramientas que usamos en el trabajo y en la vida diaria. Una decisión automática puede afectar a una compra, una gestión o el acceso a un servicio. Y si el sistema toma decisiones o ejecuta acciones por nosotros, la posibilidad de corregirlas y reclamar no es un detalle técnico: es una protección básica para las personas.
Las propuestas de Smith no equivalen a una ley aprobada ni prueban que haya ocurrido un incidente concreto. Abren, eso sí, un debate sobre qué salvaguardas deberían exigirse antes de confiar tareas delicadas a sistemas autónomos: límites claros, supervisión humana, formas de detenerlos y responsables identificables.
La seguridad no puede quedarse en una promesa
El reto será encontrar reglas que reduzcan los riesgos sin bloquear usos útiles de la tecnología. Para el público, la idea esencial es sencilla: cuanto más poder tenga una IA para actuar sin pedir permiso a cada paso, más importante será saber cómo se controla y quién responde si algo sale mal.
