Seguridad y privacidad en agentes IA: controles antes de publicar

Un agente IA conversa, consulta fuentes y, en algunos casos, ejecuta acciones. Esa combinación amplía la superficie que debe protegerse. La seguridad no se resuelve con una advertencia al final del proyecto: empieza al decidir qué datos entran, qué sistemas puede consultar y qué acciones puede realizar.

Este artículo ofrece un marco operativo, no asesoría legal. Las obligaciones concretas dependen de la ubicación, el sector, los contratos y los datos tratados. Involucra a las personas responsables de seguridad, privacidad y cumplimiento desde el diseño.

Dibuja el recorrido de los datos

Registra cada etapa: canal, proveedor, agente, modelo, base de conocimiento, herramientas, CRM, analítica y registros. Para cada punto, pregunta:

• qué dato llega;
• por qué es necesario;
• dónde se procesa y almacena;
• quién puede verlo;
• cuánto tiempo se conserva;
• cómo se elimina o corrige;
• qué tercero participa.

El diagrama debe reflejar el sistema real. Una integración agregada después del lanzamiento puede cambiar la respuesta a varias de estas preguntas.

Reduce antes de proteger

Solicita solo la información necesaria para el caso de uso. Evita pedir datos sensibles en un chat general cuando existe un canal autenticado o un proceso especializado. Redacta mensajes que expliquen el propósito de la captura y ofrece una alternativa cuando corresponda.

Clasifica los datos y aplica retención por categoría. El historial puede ser útil para soporte y mejora, pero “por si acaso” no es una política de conservación. Define eliminación, exportación y atención de solicitudes según tus obligaciones.

Aplica permisos mínimos

Cada herramienta del agente debe tener una identidad propia y el acceso mínimo. Leer disponibilidad no requiere permiso para modificar un calendario completo. Consultar un pedido no debe abrir todos los registros de clientes.

Separa lectura de escritura y agrega confirmación para acciones sensibles o difíciles de revertir. Verifica identidad antes de mostrar información de cuenta. Almacena secretos fuera del código y rota credenciales conforme a un procedimiento.

Trata el contenido como entrada no confiable

Mensajes, documentos y páginas conectadas pueden contener instrucciones hostiles o datos manipulados. Define una jerarquía de instrucciones que el contenido recuperado no pueda reemplazar. Limita herramientas, parámetros y destinos en el servidor; no dependas de que el modelo siempre rechace una solicitud peligrosa.

Escapa el contenido antes de presentarlo en una interfaz y valida enlaces. Usa consultas parametrizadas y esquemas estrictos cuando el agente llama a una API. Los límites técnicos deben mantenerse aunque la conversación intente cambiarlos.

Registra lo necesario para investigar

Conserva eventos de autenticación, herramienta invocada, resultado, cambio de configuración y escalamiento. Evita registrar secretos o cuerpos completos sin una necesidad definida. Controla acceso a los registros y protege su integridad.

Un evento útil permite reconstruir quién o qué hizo una acción, cuándo, con qué autorización y cuál fue el resultado. Define alertas para patrones como errores repetidos, volúmenes anómalos o acciones denegadas.

Prepara fallos e incidentes

Diseña límites de velocidad, tiempos de espera y respuestas seguras cuando una dependencia falla. Una interrupción no debe convertir una acción en duplicada ni revelar detalles internos. Mantén una forma de desactivar herramientas o canales sin derribar toda la experiencia.

El plan de incidentes debe asignar responsables, criterios de severidad, preservación de evidencia, comunicación y recuperación. Pruébalo con un ejercicio antes de necesitarlo.

Verifica antes de ampliar

Revisa configuración, control de acceso, aislamiento entre cuentas, validación del servidor, retención y transferencias humanas. Prueba entradas inesperadas y permisos denegados. Repite la revisión cuando agregues un canal, una herramienta o una nueva categoría de datos.

Zentix ayuda a centralizar el agente y sus canales, pero cada negocio conserva la responsabilidad sobre su configuración, sus fuentes y sus procesos. Una implementación confiable combina minimización, permisos, límites técnicos y supervisión continua.