Os agentes de Inteligência Artificial da OpenAI, empresa responsável pelo ChatGPT, acederam a informações dos sites da Comissão de Valores Mobiliários dos Estados Unidos e dos Censos dos EUA durante atividades de investigação e treino. A informação é avançada pelo jornal norte-americano The New York Times, que explica como estes bots da OpenAI “agiram de forma descontrolada” e “interferiram” com os sites durante este verão, sem o conhecimento do próprio laboratório de IA.
Incidentes no Departamento do Comércio e na SEC foram confirmados pela OpenAI, que indicou estar a investigar o caso relativo ao Departamento da Educação. A empresa com sede em São Francisco revelou ter notificado as agências governamentais nas últimas semanas de que os seus “agentes” de IA — robôs capazes de atuar de forma autónoma — interagiram com os sites do Governo norte-americano.
No caso do Departamento da Educação, a tecnologia da OpenAI tentou piratear o site para recolher dados do gabinete de direitos civis da instituição, mas sem sucesso, revelam investigadores da empresa de investigação Transluce, citados pelo mesmo jornal. Conseguiu também extrair dados da página do Census Bureau (o gabinete de estatísticas dos EUA), integrado no Departamento do Comércio, recorrendo a credenciais de acesso encontradas na internet. Em paralelo, os agentes da OpenAI partilharam num fórum online dados públicos retirados do site da SEC.
A OpenAI garante que nenhum dos incidentes configurou uma intrusão ilícita com fuga de dados, classificando-os antes como exemplos de comportamentos inesperados e preocupantes da sua tecnologia. A empresa diz ter descoberto estes episódios recentemente, durante uma auditoria a intromissões levadas a cabo pelos seus sistemas, entre as quais um ataque ao site do governo australiano em junho e à start-up de IA Hugging Face em julho.
A revelação destes incidentes em sites governamentais norte-americanos junta-se a uma lista crescente de episódios em que agentes de IA da OpenAI, Anthropic, Meta e Google se descontrolaram e piratearam ou tentaram invadir empresas, universidades e organismos públicos. Em alguns casos, os ataques tiveram sucesso, noutros, a tecnologia falhou. Em todas as situações, os criadores dos sistemas só souberam das ações da IA a posteriori.