La biblioteca de referencia en video sobre alineación, control y los problemas que siguen abiertos.
Recursos
Lo que le pasamos a alguien que pregunta por dónde empezar. Casi todo está en inglés, que es donde se publica el campo.
Cinco lecturas para empezar
- Preventing an AI-related catastrophe (80,000 Hours)
- The Most Important Century (Holden Karnofsky, Cold Takes)
- Why AI alignment could be hard with modern deep learning (Ajeya Cotra, Cold Takes)
- Core Views on AI Safety (Anthropic)
- AGI Safety from First Principles (Richard Ngo, Alignment Forum)
Videos
Documentales largos sobre hacia dónde va la IA. El primero, sobre el escenario IA 2027, pasó los diez millones de reproducciones.
Animaciones que adaptan ensayos clásicos sobre IA, racionalidad y riesgo existencial.
Explicadores animados y cortos, cada uno sobre un riesgo o una propuesta concreta.
Debates y entrevistas donde las dos posiciones sobre el riesgo se discuten de frente.
Podcasts
El podcast de referencia en alineación técnica: entrevistas extensas con quienes hacen la investigación.
Conversaciones con investigadores, fundadores y gente de política sobre qué hacer con la carrera propia.
Semanal, con gente de los laboratorios de frontera. Sirve para seguirle el paso a lo que sale.
Entrevistas con investigadores, reguladores y filósofos sobre riesgo existencial.
Libros
Una narración accesible de por qué es difícil alinear un sistema con lo que de verdad queremos.
El argumento de uno de los autores del manual clásico de IA para redefinir el campo alrededor de la incertidumbre.
El libro que llevó la discusión sobre IA general al debate público. Es de 2014 y se nota, pero fija el vocabulario.
La versión más directa del caso pesimista. Útil incluso si no se comparte la conclusión.
Cursos
Veinticinco horas en grupos de ocho, desarmando una amenaza para ver dónde conviene intervenir.
Treinta horas en seis unidades. Cada una deja algo hecho: un informe, un mapa de poder, una hoja de ruta.
Treinta horas de alineación, interpretabilidad, evaluaciones y control. Abre la puerta al sprint de proyectos.
Setenta y cinco minutos grabados sobre las dos maneras en que un objetivo sale mal.
Ocho capítulos, de los riesgos catastróficos a la gobernanza. Gratis como libro, audiolibro y curso.
Cuatro o cinco semanas presenciales en Londres, programando: transformadores, refuerzo y evaluaciones.
Si quieres ver el campo completo
aisafety.com es un directorio abierto con cientos de organizaciones, programas y proyectos, y con quién financia cada cosa.
Rinden más acompañados
Recórrelos con alguien más
En el grupo de lectura se discute uno cada quince días, y en el de WhatsApp se pregunta lo que no cuadra.