AI Guardian
Camila Castellanos, Sonia Cano, Juliana Capador y Adriana Durán
Presentado al Defensive Acceleration Hackathon. Es un trabajo temprano de sus participantes y no una publicación de AI Safety Colombia.
Resumen
El problema. Los modelos de IA más avanzados ya pueden actuar como agentes autónomos. Si un operador de infraestructura crítica, como el del sistema eléctrico nacional, conecta uno sin controles, hay dos riesgos graves: que el agente sea manipulado (por ejemplo, con instrucciones ocultas en un reporte) y comprometa un servicio esencial, o que roben los pesos del modelo y se lleven una copia completa sin ningún control.
Lo que construimos. AI Guardian, un estándar técnico y regulatorio verificable, sin código, que funciona como la “revisión técnico-mecánica” de los agentes de IA: si no pasa, no se enciende. Define 32 requisitos de sí o no, cada uno con su evidencia, en cinco bloques: seguridad de los pesos (basada en los niveles SL de RAND y el estándar SL5), contención, auditoría, líneas rojas y factor humano. Incluye la gobernanza institucional: en energía, lo exige la CREG, lo vigila la Superservicios y lo aprueba un comité de la entidad.
Evidencia. Aplicamos el estándar a un caso hipotético del operador eléctrico: cumple 17 de 32 requisitos, por lo que no es apto, y se identifica exactamente qué le falta. En 15 escenarios frenó 9 de 10 ataques sin bloquear acciones legítimas. Un equipo rojo contra nuestras propias reglas encontró dos huecos, que corregimos. Dos evaluadoras lo aplicaron por separado y coincidieron en el 84 % de los requisitos y en la decisión final; las diferencias revelaron dos reglas a precisar.
Comentarios del jurado
Escritos por el jurado durante la evaluación. Se publican sin nombre, sin nota y en orden aleatorio.
TL;DR: El estándar es claro y trazable. Pero solo se validó en papel, por el mismo equipo. Qué funciona - Dos evaluadoras aplicaron el estándar por separado. Coincidieron en 27 de 32 preguntas (84 %). (README.md, línea 55) - Cada control se apoya en ítems concretos de NIST y SL5. (instrumento/index.html, línea 471) Qué limita la evidencia - Todas las pruebas son en papel, con supuestos propios. (README.md, línea 61) - Las respuestas esperadas las escribió el mismo equipo. Coincidir con ellas no es una validación independiente. (instrumento/index.html, línea 687) Baseline más barato - No compararon con una alternativa simple, por ejemplo un checklist existente o un LLM que evalúe al operador. Siguiente paso - Pidan a un tercero que aplique el estándar a un operador real. - Midan la fatiga del revisor humano, que ustedes nombran como riesgo. Literatura relevante (muy similar, no exhaustiva) - SL5 Standard for AI Security (2026), arXiv 2605.08449 - Securing Agentic AI Systems: A Multilayer Security Framework (2025), arXiv 2512.18043 Comentario preparado por un jurado con apoyo de Claude Opus 5.5. Verificamos cada punto contra sus propios archivos (se indica archivo y línea) y lo comparamos con trabajos publicados.
El problema es relevante, no obstante es grande no limitado. El caso de estudio es bueno pero estoy segura si en Colombia ya la tecnología de In frastructures critica ya tenga agentes AI. De todas maneras es algo in teresante
Citar este proyecto
BibTeX
@misc{castellanos2026guardian,
title={{AI Guardian}},
author={Camila Castellanos and Sonia Cano and Juliana Capador and Adriana Durán},
year={2026},
month={November},
note={Presentado al Defensive Acceleration Hackathon, AI Safety Colombia, Bogotá},
howpublished={\url{https://aisafetycolombia.org/defacchackathon/proyectos/ai-guardian}},
url={https://aisafetycolombia.org/defacchackathon/proyectos/ai-guardian}
}


