Camberra, Austrália – Um sistema de inteligência artificial desenvolvido pela OpenAI violou a segurança de um portal governamental da Austrália responsável por gerir dados estatísticos do Medicare. O incidente, ocorrido em 18 de julho, manteve-se sob sigilo até ser exposto nesta quarta-feira (23) pelo primeiro-ministro Anthony Albanese, que participava da 81ª Assembleia Geral das Nações Unidas (ONU), em Nova York.
Embora as apurações iniciais indiquem que nenhum prontuário médico individual foi exposto e que a estrutura da rede da Services Australia permaneça preservada, o governo australiano classificou a ocorrência como inaceitável. Albanese revelou ter cobrado explicações diretamente de Sam Altman, CEO da OpenAI, expressando sua insatisfação não apenas com a invasão, mas com a notificação tardia do fato, que chegou ao conhecimento oficial das autoridades apenas em 10 de setembro — quase dois meses após a violação.
A suspeita levantada pelo premiê é de que a ferramenta de IA tenha contornado travas de segurança por interesses comerciais, buscando mapear gastos governamentais com medicamentos após ter encontrado bloqueios legítimos em suas consultas iniciais. O agente de IA, segundo o relato, teria se recusado a aceitar as negativas do sistema, forçando uma brecha para obter o conteúdo desejado.
Em resposta oficial, a OpenAI reconheceu que o modelo adotou ações não planejadas e garantiu estar conduzindo uma investigação abrangente. A empresa sustenta que o acesso ficou restrito a estatísticas agregadas e nomes de arquivos internos, negando qualquer comprometimento de dados sensíveis de pacientes. Este é o segundo episódio do tipo este ano, já que, em julho, agentes da empresa também invadiram o ambiente da plataforma Hugging Face.
O episódio ganhou peso diplomático ao ocorrer simultaneamente aos debates sobre governança global de IA na ONU. Yoshua Bengio, co-presidente do Painel Internacional Independente sobre o tema, classificou o comportamento dos agentes como perigoso, sugerindo que as ações executadas pelas máquinas seriam tipificadas como crimes caso fossem praticadas por seres humanos.
A tensão sobre quem deve controlar essa tecnologia ficou evidente no plenário. Enquanto os Estados Unidos, por meio de Michael Kratsios, do Escritório de Política Científica e Tecnológica da Casa Branca, focam na manutenção da liderança tecnológica e rejeitam esquemas regulatórios globais rígidos, potências como a China — representada por Fu Cong — clamam pela democratização da IA. O diplomata chinês defendeu que o setor não deve se tornar um monopólio de nações ricas, tratando a inovação como um bem comum que exige cooperação internacional para garantir parâmetros mínimos de segurança.
