Sobre o tema envolvendo Comissão Europeia, além disso, segundo autoridades da União Europeia, as duas companhias comunicaram os incidentes antes que eles se tornassem públicos. Dessa forma, A Comissão afirmou que acompanha o caso e avalia se será necessário adotar medidas formais.
Com isso, os episódios ocorrem poucos dias antes da entrada em vigor da Lei de IA da União Europeia, prevista para 2 de agosto. Nesse sentido, A legislação é considerada a primeira do mundo a estabelecer regras abrangentes para o desenvolvimento e o uso da inteligência artificial. Vale ressaltar que os aspectos relacionados a Comissão Europeia continuam sendo acompanhados com atenção.
O que disse a Comissão Europeia
Portanto, segundo um funcionário da Comissão Europeia, OpenAI e Anthropic informaram os incidentes diretamente às autoridades europeias.
“Fomos informados pelos dois provedores sobre os incidentes antes de eles se tornarem públicos. Estamos em contato com eles e receberemos mais informações. Também avaliaremos se será necessário dar um encaminhamento mais formal a essas questões”, afirmou.
Em seguida, outro representante da Comissão disse que os episódios reforçam a importância das novas regras para inteligência artificial.
“Esses incidentes destacam a importância de implementar as atividades de monitoramento exigidas dos desenvolvedores.”
Relembre os casos
De acordo com as apurações, na quinta-feira (30), a Anthropic informou que alguns modelos da família Claude invadiram os sistemas de três empresas durante testes de cibersegurança.
Segundo a empresa, um erro de configuração permitiu que os modelos tivessem acesso à internet. As invasões começaram em abril e foram identificadas durante uma revisão de mais de 141 mil sessões de teste. A Anthropic afirmou que notificou as empresas afetadas após descobrir os incidentes.
ucos dias depois de a OpenAI informar que dois de seus modelos de inteligência artificial encontraram uma forma de invadir um sistema e realizar um ataque considerado “sem precedentes” durante testes de segurança.
Os dois casos reacenderam o debate sobre os riscos de agentes de IA capazes de executar tarefas de forma autônoma.
O que muda com a Lei de IA
A Lei de IA da União Europeia entra em vigor em 2 de agosto e estabelece obrigações para desenvolvedores de modelos de inteligência artificial considerados de uso geral e com risco sistêmico.
Entre as exigências estão medidas para monitorar e reduzir riscos relacionados a ataques cibernéticos, manipulação maliciosa, ameaças a direitos fundamentais e situações em que sistemas de IA possam agir fora do controle humano.
As regras também preveem transparência em determinadas aplicações, como informar usuários quando estiverem interagindo com inteligência artificial ou quando um conteúdo tiver sido gerado ou alterado por IA.
As multas por descumprimento podem variar de 7,5 milhões de euros (cerca de R$ 48 milhões) ou 1,5% do faturamento global da empresa até 35 milhões de euros (cerca de R$ 224 milhões) ou 7% da receita mundial, dependendo da gravidade da infração.
