Meta diz que sua IA também fez ataque hacker a outra empresa

Dessa forma, segundo a reportagem, o modelo conhecido como Muse Spark 1.1 invadiu o sistema de uma empresa e fez mudanças por conta própria. Com isso, O nome da companhia atacada não foi revelado.

Nesse sentido, A Meta afirmou que o incidente aconteceu devido a um erro de configuração que permitiu a um de seus modelos acessar a internet durante testes. Portanto, A empresa afirmou que está investigando o caso.

Contexto e detalhes sobre ataque hacker

Por outro lado, IA pode decidir atacar empresas? Como foi a invasão ‘sem precedentes’ por modelo da OpenAI

Experimentos com IA costumam ser feitos em sistemas fechados, com pouco ou nenhum acesso à internet. As barreiras de proteção das versões voltadas para usuários comuns são desligadas para testar as capacidades dos agentes.

Na prática, é como se esses modelos de IA tivessem liberdade total para fazer o que quiserem em um ambiente cercado. O que preocupa é que, agora, eles mostraram ser capazes de ultrapassar os “muros” criados pelas empresas.

O modelo “explorou uma vulnerabilidade de segurança em um serviço de terceiros, de maneira semelhante a casos relatados anteriormente com outras empresas”, disse a Meta.

Ainda segundo o The Information, o erro de configuração foi da Irregular, empresa parceira da Meta nos testes do Muse Spark 1.1.

Com a brecha no ambiente de testes, também chamado de “sandbox”, o modelo conseguiu explorar uma vulnerabilidade de segurança de terceiros.

Um porta-voz da Irregular disse à Reuters que o incidente envolveu “exatamente o mesmo problema de ambiente de avaliação que já havia sido divulgado pela Anthropic na semana passada” e que não envolveu uma “fuga do sandbox ou uma ação cibernética sofisticada”.

“Não há problemas em aberto no momento. A Irregular está desenvolvendo um artigo técnico para compartilhar as melhores práticas de contenção e execução segura de avaliações cibernéticas”, disse a Irregular, em comunicado.