Até há poucos dias, o britânico Jacob Coxon era um ilustre desconhecido. Hoje, tem uma entrada na Wikipedia e dá entrevistas a alguns dos maiores meios de comunicação do mundo. Na terça-feira, anunciou no X que se tinha demitido da Anthropic, um dos principais laboratórios de investigação de inteligência artificial (IA) por preocupações com a segurança desta tecnologia. E gerou uma onda de reações.

“Estão a arriscar as nossas vidas”, acusou, depois de passar três anos a trabalhar para a Anthropic e para a rival OpenAI. Na despedida, pediu que a tecnologia não seja “subestimada” e alertou que “nenhuma outra atividade humana representa este nível de perigo”. Pelo meio, ainda relatou como “as pessoas que estão a trabalhar em IA acreditam que [a tecnologia] nos pode matar até ao fim da década”.

Não é a primeira vez que alguém de ‘dentro’ da máquina alerta para o fim iminente da humanidade associado aos avanços imparáveis da IA. Até os patrões das grandes empresas já admitiram que podemos estar a caminhar para a extinção. O que explica, então, a repercussão dos avisos de Jacob Coxon? Casos recentes, como o da Hugging Face, em que agentes de IA ganham autonomia e partem para o ataque, e a crescente noção de que a tecnologia está a crescer sem regras que a acompanhem, levaram muita gente, da indústria e não só, a encarar a sério o alerta.

Que alerta é este e porque se demitiu Jacob Coxon?

A história começou na rede social X, com um “fio” de mensagens do investigador. Jacob Coxon começou por anunciar que se tinha demitido do laboratório de IA Anthropic. “Passei os últimos três anos a fazer investigação sobre pré-treino tanto na OpenAI como na Anthropic. Nenhuma das duas empresas está a agir de forma responsável”, escreveu. “Estão a avançar a todo o vapor para uma superinteligência capaz de se autoaperfeiçoar e estão a arriscar as nossas vidas.”