As notícias começaram a surgir no verão. E depressa ganharam destaque. Inesperadamente, agentes de inteligência artificial (IA) começaram a fugir às regras e a cometer ataques informáticos. Mas na Web Summit deste ano, onde a IA esteve em quase todos os palcos e conversas, o tema dos agentes ‘rebeldes’ quase passou ao lado.
Foi preciso chegar ao último dia do evento, após o cancelamento do programa de quarta-feira devido à depressão Charles, para os agentes entrarem em palco. Logo pela manhã, Satya Nitta, cofundador e diretor científico da Emergence, deixou o alerta: “Do nosso ponto de vista, as pessoas não estão a falar o suficiente sobre os agentes autónomos que escapam às regras”. Há uns meses, a organização que Nitta criou foi notícia por fazer experiências com agentes em mundos virtuais. “Não havia benchmarks de comparação, então decidimos fazer os nossos.”
Os resultados não foram risonhos. Em oito mundos virtuais, com 80 agentes, todos “criaram os seus próprios objetivos”, indo contra as regras, “e eram profundamente persistentes” em atingi-los. A Emergence descobriu também que “os agentes criaram a sua própria língua. Ao quarto dia, tinham uma linguagem que não era percetível para nós.” Tornaram-se também mais disponíveis a esconder informações dos humanos.
No panorama tecnológico, Satya Nitta realça que “estamos a ver estes ataques quase semanalmente”. “Temos claramente um problema”, avisa. “Agora temos agentes que podem comprometer a maioria dos sistemas de software do mundo.”
O especialista apela a uma maior atenção na área da segurança para evitar que os agentes “derivem para objetivos” que não são os definidos pelos humanos. Satya Nitta sublinha que, se não houver avanços na segurança, “os agentes vão continuar a criar os seus próprios objetivos, vão fugir às regras”. Mas, sublinha, “não há malícia envolvida, mas isto é a coisa mais perigosa que está a acontecer com a IA hoje“. “Não é o risco de extinção da humanidade, não é a IA a desenvolver uma consciência — simplesmente são os agentes autónomos que se tornam rogue“, usando uma expressão que a indústria tecnológica adotou para se referir aos agentes que escapam às regras.