Segundo relatórios da mídia, o vencedor do Prémio Fields deste ano, o matemático Jacob Zimmerman, anunciou recentemente a criação do Instituto de Pesquisa em Segurança de IA MAISI, onde Zimmerman atuará como diretor científico e Andrew Critch como secretário-geral. O Prémio Fields é atribuído a cada quatro anos e é destinado a matemáticos com menos de 40 anos, sendo considerado o prémio mais prestigioso na área da matemática.
MAISI irá iniciar o primeiro semestre de pesquisa em segurança de IA em 2027
O MAISI irá seguir a estrutura do Instituto de Estudos Avançados de Princeton, convidando matemáticos para realizar pesquisas em segurança de IA por semestre. O instituto planeia iniciar o primeiro semestre em janeiro de 2027, convidando de 10 a 30 matemáticos para a área da baía; e, no ano letivo especial de setembro de 2027, o número irá aumentar para 30 a 100 pessoas. O objetivo do instituto é desenvolver conceitos de definição, métodos de medição e soluções, visando identificar as condições sob as quais se pode ter confiança de que sistemas de IA específicos não causarão desastres.
Os membros do conselho consultivo incluem Timothy Gowers, Ravi Vakil, Jeffrey Irving e Paul Christiano. Dentre eles, Gowers e Vakil são matemáticos, enquanto Irving e Christiano têm trabalhado há muito tempo na pesquisa em segurança de IA. O MAISI irá colaborar com a Alignment.org e a Resolution.org.
Zimmerman irá juntar-se este mês ao departamento de segurança da OpenAI, mas o MAISI afirma que as suas operações são independentes da OpenAI. Critch co-autorizou um artigo em 2025 com Zimmerman, explorando situações em que os riscos da IA representam uma ameaça para toda a humanidade. As discussões sobre segurança de IA têm-se concentrado principalmente em políticas, avaliações e experimentos, e a formação de uma organização que reúna matemáticos em grande escala para se dedicar a fundamentos teóricos não é comum. O responsável pela ciência da Anthropic, Evan Hubinger, afirmou no mesmo dia que ainda não foi encontrado um método para resolver o problema do alinhamento da superinteligência.