O diretor de estratégia da OpenAI, Jason Kwon, admitiu esta terça-feira que a resposta da empresa ao acesso não autorizado de um seu agente de inteligência artificial (IA) a um portal de saúde pública da Austrália “não foi suficientemente boa”.

Kwon, que compareceu no Parlamento australiano após ter sido convocado por uma comissão que investiga o impacto da IA, afirmou que o incidente “não deveria ter ocorrido“, ao mesmo tempo que pediu desculpa pela forma como o incidente foi gerido posteriormente.

“Lamentamos e sabemos que temos trabalho a fazer para reconstruir a confiança do povo australiano”, afirmou Kwon durante a audiência realizada em Sydney, em mais um episódio que se junta ao debate mundial sobre os riscos de esta tecnologia escapar ao controlo humano.

O diretor reconheceu também que a OpenAI demorou demasiado tempo a comunicar o incidente ao Governo australiano e admitiu que deveria ter informado imediatamente as autoridades competentes, mesmo sem dispor ainda de todos os detalhes do que tinha acontecido.

O incidente ocorreu em junho, quando um modelo da OpenAI utilizado num ambiente interno de formação e avaliação recebeu a tarefa de investigar dados sobre a despesa pública em medicamentos para doenças de pele em comunidades do estado de Victoria, embora só tenha sido comunicado no mês passado.

Perante as dificuldades em obter a informação solicitada, o modelo tomou medidas que não tinham sido autorizadas e conseguiu aceder a áreas não públicas de um sistema governamental, onde executou comandos, consultou ficheiros internos, credenciais e informação estatística, chegando mesmo a gravar ficheiros.