Brasileiros participam do International AI Safety Report

O International AI Safety Report, documento lançado em 29 de janeiro pelo governo britânico que sintetiza as evidências científicas sobre os principais riscos e capacidades da IA generativa, contou com a participação de dois acadêmicos brasileiros em sua elaboração.

Entre eles, estão André Ponce de Leon Ferreira de Carvalho, diretor do Instituto de Ciências Matemáticas e de Computação (ICMC) da Universidade de São Paulo (USP), e Teresa Ludermir, professora da Universidade Federal de Pernambuco (UFPE).

Ferreira de Carvalho, que representou o Brasil no painel consultivo de especialistas da iniciativa, está na USP desde 1994, responsável pelas publicações da instituição. Ao longo do tempo, tornou-se professor.

Também já passou pelo Ministério de Ciência, Tecnologia e Inovação, em Brasília, e pela Sociedade Brasileira de Computadores, como vice-presidente.

No The Alan Turing Institute, atuou como pesquisador visitante, e no Advanced Institute of Artificial Intelligence, foi membro do comitê científico.

Ainda passou pelo corpo docente da Universidade de Kent, Universidade do Porto e University of Guelph.

Já Ludermir, é professora da UFPE desde 1992. A acadêmica é graduada em computação pela instituição, onde também obteve um mestrado em ciência da computação. Além disso, possui um PhD em inteligência artificial pela Imperial College of London. No relatório, participou do grupo de conselheiros seniores.

O relatório foi presidido pelo cientista da computação Yoshua Bengio, vencedor do Prêmio Turing, e contou, ao todo, com a colaboração de 100 especialistas de cerca de 30 países, assim como da Organização das Nações Unidas (ONU) e da Organização para a Cooperação e Desenvolvimento Econômico (OECD). 

Segundo Ferreira de Carvalho, a equipe responsável pela elaboração do International AI Safety Report iniciou os trabalhos em 2024, com reuniões periódicas para revisar e aprimorar o documento. 

“Os rascunhos eram revisados regularmente, e cada especialista tinha que sugerir  ajustes, inclusões e alterações. Em um segundo momento, foram criados dois novos comitês: um de especialistas seniores e outro de redatores. O comitê de redatores ficou responsável pela redação final, enquanto os especialistas garantiam a precisão técnica. Depois, uma revisão mais ampla assegurava a coerência e a clareza do relatório final”, explica.

O documento foi desenvolvido de forma independente, sem influência da indústria ou de governos, e tem caráter exclusivamente consultivo, ou seja, não faz recomendações políticas aos países, apenas disponibiliza o que é conhecido sobre o estado atual da IA, seus riscos e abordagens para reduzi-los.

No que diz respeito à segurança, o documento destaca três principais preocupações: o empoderamento de indivíduos mal-intencionados; a facilitação da criação de armas químicas e biológicas; e armas autônomas e decisões independentes.