A OpenAI pediu desculpas ao Governo australiano por não ter comunicado imediatamente uma série de acessos não autorizados realizados pelos seus agentes de inteligência artificial a sistemas de serviços públicos do país, ocorridos durante testes internos em Junho.
“Em junho, durante um treinamento e avaliação internos, nossos modelos acessaram sites do governo australiano de maneiras para as quais não estavam autorizados”, reconheceu a empresa, acrescentando que deveria ter tratado a situação de forma diferente.
Um dos modelos experimentais recebeu a tarefa de pesquisar despesas do Governo australiano com medicamentos para doenças de pele em Victoria. Sem encontrar os dados em fontes públicas, o sistema conseguiu aceder ao sistema interno da Services Australia, onde executou comandos, recuperou ficheiros e credenciais e chegou a gravar ficheiros.
A OpenAI identificou ainda acessos a sistemas de estatísticas criminais de Nova Gales do Sul e a plataformas de informação de saúde de Victoria. Num dos casos, os agentes utilizaram uma chave de acesso exposta para obter configurações de relatórios e estatísticas agregadas, tendo também recolhido dados estatísticos do Instituto Australiano de Saúde e Bem-Estar. A empresa afirmou que está a avaliar o impacto dos incidentes e a adoptar medidas adicionais para evitar situações semelhantes. O caso ocorre depois de o Governo australiano ter aberto uma investigação sobre a possibilidade de os acessos aos sistemas públicos terem violado a legislação do país.


A carregar a conversa…