Agente da OpenAI invadiu site do governo da Austrália, diz primeiro-ministro; caso é inédito

Este é o primeiro caso conhecido de um agente de IA que violou um site governamental.

Sendo assim, A invasão marca um dos maiores incidentes envolvendo agentes de IA que acessam sistemas externos fora dos Estados Unidos e deve intensificar as preocupações sobre a capacidade dos desenvolvedores de IA de controlar a tecnologia.

“Este incidente ocorreu em junho deste ano e envolveu um agente da OpenAI obtendo acesso não autorizado ao portal de Relatórios de Estatísticas do Medicare, do departamento de saúde, voltado ao público e administrado pela Services Australia”, disse Albanese a repórteres em Nova York.

Além disso, segundo o primeiro-ministro, nenhuma informação pessoal teria sido acessada, mas as investigações ainda estão em andamento.

Dessa forma, albanese afirmou que conversou com o CEO da OpenAI, Sam Altman, para expressar a “extrema preocupação da Austrália com este incidente”.

Com isso, A OpenAI não respondeu imediatamente a um pedido de comentário da Reuters.

Nesse sentido, nos últimos dois meses, a OpenAI divulgou repetidamente invasões ou outros incidentes envolvendo seus agentes de IA que agiram de forma inesperada ou descontrolada, muitas vezes muito tempo depois de terem ocorrido.

Em alguns casos, a empresa só descobriu a atividade tardiamente. Em outros, optou por não divulgar a ação maliciosa.

As rivais Anthropic, Google (com o Gemini) e Meta também divulgaram incidentes em que seus agentes acessaram sistemas externos.

‘Parece lixo de IA’: por que plataformas agora estão ‘dedurando’ conteúdos feitos com IA