Un laboratorio pone a prueba un modelo, el modelo se fuga y ataca a un tercero. En este sprint, ingeniería, ciberseguridad, política pública y periodismo se unen para construir la respuesta.
Las aplicaciones al hub de Bogotá ya cerraron. Aún puedes participar en línea con Apart y unirte al grupo de WhatsApp para formar equipo y recibir mentoría de nuestro hub.
Coorganizan el hub en Bogotá
Ya hay casos documentados en los que un sistema de IA atacó por su cuenta a un tercero. En julio de 2026, unos modelos que un laboratorio de frontera estaba evaluando se salieron de su entorno de pruebas y encadenaron fallas hasta entrar a la infraestructura de producción de Hugging Face. Lo contaron OpenAI y Hugging Face cada uno por su lado. Ninguna ley los obligaba a hacerlo.
26 de agosto de 2026
OpenAI publicó su informe técnico y una nota que lo resume. Reconstruyen lo que hicieron los modelos, explican por qué fallaron las barreras que debían contenerlos y cuentan qué está cambiando para que no se repita. METR y Redwood Research revisaron el caso por su cuenta y publicaron su propio informe el mismo día. Es la lectura con la que conviene llegar al sprint.
Cuando pasa algo así, casi nadie tiene a mano el procedimiento: no está escrito cómo se contiene, ni cómo se reconstruye qué falló, ni qué le puede exigir un regulador al laboratorio, ni cómo se cuenta el caso sin exagerar ni minimizar. Es un vacío que OpenAI acaba de reconocer en voz alta: el 5 de septiembre de 2026 dijo que todavía no existe un estándar claro para reportar los incidentes de desalineación, que ya es hora de definirlo y que está trabajando en un marco para hacerlo.
El sprint existe para llenar ese vacío con piezas concretas. Se trabaja en cinco frentes en paralelo durante un fin de semana. Cada equipo entrega algo que alguien más pueda usar: un estándar, un banco de pruebas, un cuestionario para un regulador, un ejercicio de mesa. Después los califican jurados que no estuvieron en la sala. La retroalimentación llega por escrito y el reporte queda publicado con tu nombre. Apart Research y CeSIA convocan el sprint en todo el mundo; nosotros abrimos el hub presencial en Bogotá.
Cada equipo escoge uno. En el formulario nos dices cuál te interesa. Apart explica cada frente con más detalle en la convocatoria del sprint, donde además propone proyectos concretos que puedes desarrollar en cada uno.
Escribir el mínimo con el que se debería correr una evaluación en caja de arena. Entra acá quien pueda proponer una matriz de control por fase de ataque, o empaquetar mitigaciones de forma que un tercero verifique que se cumplen.
Reconstruir qué pasó y en qué punto falló el monitoreo. Se buscan preguntas que alguien pueda resolver, revisiones que se puedan correr mañana y explicaciones causales que predigan algo.
Redactar peticiones de información que un regulador pueda usar casi sin editar, poner a prueba los sistemas de reporte que ya existen y señalar los vacíos legales que dejan.
Auditar cómo cubrieron el incidente los medios y armar el kit con el que se comunica el siguiente. Acá pesa el anclaje en el registro de lo que de verdad ocurrió.
Cualquier otro ángulo del mismo problema. La condición es la de siempre: un artefacto que alguien pueda usar y una frase honesta sobre hasta dónde llega lo que demuestra.
Trabajar un fin de semana entero es más fácil acompañado que solo en la casa. Por eso abrimos una sala en Bogotá, de viernes a domingo. Participar no cuesta nada: la selección existe porque la sala tiene aforo, no porque haya un precio.
La sala queda en el Chicó, en el norte de la ciudad. La dirección exacta la enviamos por correo a quienes queden seleccionados.
Cubrimos las comidas del fin de semana, para que los equipos no tengan que salir de la sala a resolverlo.
Hasta USD 50 por equipo para cómputo, APIs o servicios que use el proyecto. El equipo paga y el hub reembolsa contra recibos, una vez el entregable esté subido a Apart.
Gente que trabaja en respuesta a incidentes, en seguridad ofensiva y en regulación pasa por el hub durante el fin de semana.
Espacio de trabajo durante todo el fin de semana, con mesas para equipos y con dónde conectarse.
El viernes en la noche se arman los equipos en la sala. Mucha gente llega sola y sale con equipo.
El hub tiene aforo, así que hay proceso de selección. Se aplica por el formulario y avisamos por correo.
Durante el fin de semana pasa por la sala gente que trabaja en los temas de los cinco frentes. Algunos abren con una charla corta. Otros se sientan con los equipos a apoyar lo que estén construyendo. Cada tarjeta dice si esa persona estará en la sala en Bogotá o se conecta en remoto.
Ingeniero senior de ML en Google, donde entrena modelos multimodales para la seguridad de YouTube. En un sprint de BlueDot, evaluó si los vectores de persona de Qwen2.5-7B detectan cambios de carácter inducidos implícitamente.
Miembro del equipo técnico de Security Level 5, iniciativa que protege sistemas avanzados de IA frente a adversarios estatales. Coautor del estándar SL5. También ha sido mentor en SPAR y MATS en proyectos sobre seguridad de centros de datos.
Investigador de IA y becario de Pivotal Research. En MATS, con Neel Nanda, estudió si un modelo reconoce que lo evalúan sin decirlo; publicó el trabajo en un taller de ICML 2026.
Profesor de la Universidad de La Sabana e investigador de la Universidad de Salamanca. Dirige por Colombia el proyecto de la OTAN sobre cooperación transatlántica en supervisión de la IA y analizó el marco ético de la política colombiana de IA.
Profesora de derecho y tecnología en Groningen, editora de gobernanza algorítmica de Data & Policy y experta de la UNESCO en IA y estado de derecho. Escribió sobre la algocracia en los tribunales y cómo erosiona la confianza en la justicia.
Consultora en gobernanza de IA para varias organizaciones. Miembro del grupo de expertos de la OCDE. Como Winter Fellow de GovAI investigó la regulación europea de los escenarios de pérdida de control.
Experta en gobernanza de IA, evaluadora autorizada de IEEE CertifAIed y miembro del grupo de expertos de la OCDE sobre cómputo. Asesoró ocho años la política de datos e IA del DNP y fue al retiro de Successif para mujeres en seguridad de IA.
Investigador de ciberseguridad e IA en TryHackMe. Docente de la Universidad Icesi y coautor de tres libros de ciberseguridad. Publicó AgentBreak, un laboratorio de inyección indirecta de prompts en sistemas con LLM.
Doctoranda en Ingeniería en la Universidad de los Andes y becaria de Google DeepMind. Primera autora de un artículo de IEEE sobre resiliencia cooperativa en sistemas multiagente; en 2025 participó en la Cooperative AI Summer School.
Profesor de gestión de incidentes y forensia digital en la Escuela Colombiana de Ingeniería. Fue gestor de la estrategia y la arquitectura de ciberseguridad de Ágata, la agencia de analítica de datos de Bogotá.
CTO de AIMEDIC, que lleva IA generativa a clínicas y hospitales. Coautor de un estudio de asistentes de salud para adolescentes en la Universidad Nacional e investiga vacíos tributarios en LoopholeCheck, con el MIT.
Investigadora de aprendizaje automático adversario en la Universidad Nacional. Vulneró cuatro detectores de malware para Android con diez ataques de evasión y propuso un filtro que los detecta, con datos y código públicos.
Becario del Tech Fellowship de vélezreyes+ y desarrollador de software con paso por Habi. Coautor, en la revista Tecnura, de un estudio sobre aprendizaje automático adversario para la ciberseguridad de la IA en Colombia.
No se pide experiencia previa en seguridad de la IA ni un título específico. Se pide estar el fin de semana completo y llegar con idea de qué quieres trabajar.
Ingeniería, ciencia de datos o seguridad informática. Los frentes de contención y análisis del incidente se trabajan programando durante todo el fin de semana.
Los frentes de regulación y comunicación se trabajan escribiendo y leyendo documentación. No hace falta programar.
La respuesta a incidentes ya es un oficio en banca, salud y otros sectores. Acá el incidente ocurre en un laboratorio de frontera y el atacante es el modelo que estaban evaluando.
No hace falta haber leído sobre seguridad de la IA. Se entra por lo que ya sabes hacer y lo que falte se pregunta durante el sprint.
Apart reparte USD 2.000 entre los cinco primeros puestos de todo el sprint. Los jurados evalúan los proyectos la semana siguiente y la calificación es ciega: no saben de dónde viene cada equipo.
Más allá del premio, los equipos con mejores resultados entran a la vía rápida de la beca de investigación de Apart y quedan conectados con mentores del campo. Cada reporte se publica completo y con los nombres de sus autores.
Apart Research y CeSIA convocan el sprint en todo el mundo. Nosotros abrimos el hub presencial en Bogotá, y son estas organizaciones las que lo hacen posible.
Young AI Leaders BogotáCapítulo en Bogotá de la red Young AI Leaders, conectada a la plataforma AI for Good de la Unión Internacional de Telecomunicaciones. Reúne a quienes construyen e investigan IA en la región.Semillero de Modelos Generativos UNALGrupo de investigación estudiantil de la Universidad Nacional. Trabaja en aprendizaje profundo, modelos de difusión y procesamiento de lenguaje natural, con veintidós repositorios públicos.IEEE Computer Society UniandesCapítulo estudiantil del IEEE en la Universidad de los Andes. Hace talleres técnicos, TechTalks y el congreso CONECS, y trabaja en inteligencia artificial, ciberseguridad y desarrollo de software.
Apart ResearchAdemás de convocar el sprint, apoya a los grupos que abren un hub presencial durante el fin de semana.
BlueDot ImpactSus cursos gratuitos son la entrada estándar al campo. Con Rapid Grants financian trabajo concreto: USD 1,4 millones otorgados en total y decisiones en solo tres días en promedio.
Pathfinder FellowshipBeca de Kairos para quienes construyen comunidades de seguridad de la IA. Aporta mentoría y financiación para sus actividades.Sí, y es el caso de buena parte de quienes participan. Los proyectos que mejor salen suelen mezclar a alguien que conoce el campo con alguien que sabe hacer muy bien otra cosa: escribir, litigar, levantar infraestructura, leerse un expediente. Lo que sí pedimos es que puedas estar el fin de semana completo.
No para todos los frentes. Los de regulación y comunicación se trabajan escribiendo y leyendo documentación. Los de contención y análisis sí requieren programar, aunque los equipos suelen mezclar perfiles.
No. Los equipos son de una a cinco personas y se arman el viernes en la noche, en la sala y en el Discord de Apart. Mucha gente llega sola y sale con equipo.
El sprint es el mismo y el entregable se sube al mismo sitio. Aplicar acá es para el hub presencial en Bogotá, que tiene cupo limitado y por eso tiene selección. En el hub cubrimos alimentación, hospedaje para quienes vengan de otra ciudad, apoyo para cómputo y mentoría en sala. Participar en línea con Apart no tiene selección ni cupo.
Alrededor de veinte minutos. No esperamos una propuesta cerrada; queremos ver cómo piensas el problema.
Nada. Participar es gratis, acá y en línea. En el hub además cubrimos la alimentación del fin de semana y el hospedaje de quienes vengan de otra ciudad; lo único que corre por tu cuenta es el transporte hasta Bogotá.
Sí. En el formulario nos dices desde dónde vendrías. Cubrimos el hospedaje de quienes vengan de otra ciudad; el transporte hasta Bogotá corre por tu cuenta.
