A biblioteca de referência em vídeo sobre alinhamento, controle e os problemas que seguem abertos.
Recursos
O que passamos a quem pergunta por onde começar. Quase tudo está em inglês, que é onde o campo publica.
Cinco leituras para começar
- Preventing an AI-related catastrophe (80,000 Hours)
- The Most Important Century (Holden Karnofsky, Cold Takes)
- Why AI alignment could be hard with modern deep learning (Ajeya Cotra, Cold Takes)
- Core Views on AI Safety (Anthropic)
- AGI Safety from First Principles (Richard Ngo, Alignment Forum)
Vídeos
Documentários longos sobre para onde vai a IA. O primeiro, sobre o cenário IA 2027, passou dos dez milhões de reproduções.
Animações que adaptam ensaios clássicos sobre IA, racionalidade e risco existencial.
Explicações animadas e curtas, cada uma sobre um risco ou uma proposta concreta.
Debates e entrevistas em que as duas posições sobre o risco se discutem de frente.
Podcasts
O podcast de referência em alinhamento técnico: entrevistas extensas com quem faz a pesquisa.
Conversas com pesquisadores, fundadores e gente de política pública sobre o que fazer com a própria carreira.
Semanal, com gente dos laboratórios de fronteira. Serve para acompanhar o que vai saindo.
Entrevistas com pesquisadores, reguladores e filósofos sobre risco existencial.
Livros
Uma narrativa acessível de por que é difícil alinhar um sistema com o que de fato queremos.
O argumento de um dos autores do manual clássico de IA para redefinir o campo em torno da incerteza.
O livro que levou a discussão sobre IA geral ao debate público. É de 2014 e se nota, mas fixa o vocabulário.
A versão mais direta do caso pessimista. Útil mesmo para quem não compartilha a conclusão.
Cursos
Vinte e cinco horas em grupos de oito, desmontando uma ameaça para ver onde convém intervir.
Trinta horas em seis unidades. Cada uma deixa algo pronto: um relatório, um mapa de poder, um roteiro.
Trinta horas de alinhamento, interpretabilidade, avaliações e controle. Abre a porta ao sprint de projetos.
Setenta e cinco minutos gravados sobre as duas maneiras de um objetivo dar errado.
Oito capítulos, dos riscos catastróficos à governança. Gratuito como livro, audiolivro e curso.
Quatro ou cinco semanas presenciais em Londres, programando: transformadores, reforço e avaliações.
Se você quiser ver o campo inteiro
aisafety.com é um diretório aberto com centenas de organizações, programas e projetos, e com quem financia cada coisa.
Rendem mais acompanhados
Percorra-os com mais alguém
No grupo de leitura se discute um a cada quinze dias, e no de WhatsApp se pergunta o que não fecha.