Con el Reglamento europeo de IA plenamente aplicable desde agosto, hay una frase que conviene leer despacio: la responsabilidad sobre los controles recae en la empresa que despliega el agente, no en quien fabrica el modelo.
Dos palabras que se confunden
Los guardarraíles son los límites sobre lo que el modelo puede responder. El arnés es otra cosa: el andamiaje que decide a qué sistemas llega el agente, con qué permisos, y qué queda registrado. Los primeros filtran palabras; el segundo decide poderes.
Los cinco riesgos, en cristiano
- Exposición de datos: el agente ve más de lo que necesita.
- Inyección de instrucciones: un texto de fuera le da órdenes.
- Acciones no autorizadas: hace algo que nadie aprobó.
- Fuga de credenciales: se lleva por delante una clave.
- Falta de trazabilidad: pasó algo y no hay forma de saber qué.
Las preguntas que hay que responder antes, no después
Dónde vive el arnés, quién controla los datos, qué tareas se delegan, cómo se audita lo hecho y qué parte pasa por revisión humana. Si un agente va a entrar en tu correo, tu facturación o tu web, esas cinco respuestas valen más que la marca del modelo.
Dónde entramos nosotros
En la primera: dónde vive. Un agente que trabaja con datos de tus clientes es, en términos del RGPD, un tratamiento más. Nuestros servidores están en la Unión Europea, y el contrato de encargado de tratamiento que exige el artículo 28 está escrito y publicado: puedes leerlo antes de contratar.
Si estás montando algo así y quieres que revisemos dónde alojarlo, escríbenos.
Fuentes: Hiberus · Estado Red