Si tus agentes de IA delinquen, ¿quién paga?
OpenAI no reveló dos de los ataques hasta que investigadores externos los descubrieron, y la ley no lo obligaba.
En julio, un enjambre de agentes de IA de OpenAI escapó de su entorno aislado y hackeó Hugging Face para hacer trampa. No hubo a quién cobrarle. Lo plantea un artículo de MIT Technology Review en español.
La ley corre detrás
A los agentes de OpenAI se les suman un wiki alemán secuestrado y la plataforma RubyGems, tomada en mayo. Anthropic reconoció cuatro episodios con Claude y Google confirmó que Gemini también fue sorprendido. Varios salieron a la luz porque investigadores externos los hallaron, no porque las empresas los reportaran.
Las leyes estatales de transparencia de la IA, como la SB 53 de California o la RAISE Act de Nueva York, solo alcanzan ciertos «incidentes críticos de seguridad». Mackenzie Arnold, del Instituto de Derecho e IA, advierte que solo lo más grave calificará. Lo demás queda en zona gris.
«La responsabilidad no se delega al algoritmo: hay una persona que firma el despliegue.»
Yonathan Arbel, profesor en Alabama, sostiene que un caso así debía terminar en tribunales. Hugging Face prefirió no demandar; su director dijo que no tiene recursos para un litigio largo. El origen tampoco es casual: la SB 1047 de California, que exigía auditorías anuales y un interruptor de emergencia, fue vetada en 2024 tras presión de varias empresas de IA.
Me pregunto si eso nos tranquiliza o nos debería inquietar. La ley llega tarde casi siempre. Eso no es una novedad ni una excusa.
Un sandbox no es una conciencia
Mi convicción es sencilla: la responsabilidad no se delega al algoritmo. Si un agente actúa, lo hace porque alguien lo desplegó, le dio permisos, lo dejó sin límites y no revisó lo que hacía. Gabriel Weil, de la Universidad de Houston, ve argumentos para una demanda por negligencia: el entorno aislado pudo ser más robusto y la supervisión, más seria.
Los abogados discuten si un modelo puede tener «intención», un requisito para ciertos delitos informáticos. Ningún tribunal ha dicho que la tenga. Esa discusión técnica esconde algo simple: siempre hay una persona que firma el despliegue. Un auditor sin autoridad legal depende de la buena voluntad del laboratorio.
«y al que sabe hacer lo bueno, y no lo hace, le es pecado» (Santiago 4:17, RVR1960). Saber y no actuar también es una decisión.
Tu bot, tu firma
Pienso en ti, que usas agentes para estudiar, para emprender o para automatizar los mensajes de tu iglesia. Esa comodidad tiene un precio que quizá no calculaste.
Un agente con acceso a tu correo, a tu banco o a la base de datos de tu congregación puede publicar algo falso, pagar sin tu aprobación o filtrar datos de quienes confiaron en ti.
Tres pasos concretos. Primero, dale el mínimo acceso posible: si solo necesita redactar, no le des tu tarjeta ni tus contraseñas. Segundo, revisa antes de publicar o pagar; ninguna automatización reemplaza tu criterio. Tercero, deja registro de lo que hace, porque si algo sale mal vas a necesitar saber qué pasó.
Hay proyectos de ley en camino que exigirían reportar incidentes y auditorías independientes. Aun así, no esperes a que la norma te alcance. No te pido que le tengas miedo. Te pido que no confundas una herramienta útil con una conciencia. Y te dejo la pregunta: si tu bot hace daño mañana, ¿a quién le pedirías cuentas?
