Grosseria tem limite até para a IA: Anthropic quer barrar abusos e autoriza Claude a encerrar conversas

Sobre o tema envolvendo Grosseria tem limite, além disso, 😡 A Anthropic, empresa responsável pelo Claude, atualizou sua política de uso para proibir comportamentos abusivos ou cruéis persistentes e desnecessários contra seus modelos de inteligência artificial (IA).

Dessa forma, segundo a empresa, a capacidade de o Claude encerrar conversas desse tipo continuará sendo o principal mecanismo para aplicar a regra. A política, porém, não proíbe qualquer crítica ou manifestação de insatisfação com as respostas do chatbot: a restrição se refere a interações abusivas ou cruéis persistentes e desnecessárias. Vale ressaltar que os aspectos relacionados a Grosseria tem limite continuam sendo acompanhados com atenção.

• ➡️ Nova política de uso entra em vigor em 12 de novembro e proíbe comportamentos abusivos ou cruéis persistentes e desnecessários contra os modelos da empresa

Com isso, A mudança ocorre em meio a um debate sobre a possibilidade de sistemas de inteligência artificial desenvolverem algum tipo de consciência e sobre como essas ferramentas devem ser tratadas.

Grosseria tem limite: O que diz a Anthropic

Nesse sentido, A política atualizada não menciona explicitamente o chamado bem-estar dos modelos, conceito que discute se sistemas de inteligência artificial poderiam merecer algum tipo de proteção moral.

A Anthropic e seus executivos, no entanto, já abordaram publicamente essa possibilidade. Portanto, no ano passado, a empresa informou que daria ao Claude a capacidade de encerrar conversas em casos raros e extremos de interações persistentes ou abusivas com usuários.

Em seguida, em fevereiro, o presidente-executivo da companhia, Dario Amodei, disse ao jornal The New York Times que não tinha certeza se modelos de IA poderiam ser conscientes, mas que estava aberto a essa possibilidade.

“Não sabemos se os modelos estão conscientes… Mas estamos abertos à ideia de que isso possa ser”, afirmou Amodei.

Debate sobre consciência artificial

De acordo com as apurações, A possibilidade de máquinas desenvolverem consciência divide opiniões entre pessoas que estudam ou trabalham com inteligência artificial. Por outro lado, ainda não há consenso científico sobre como definir ou identificar a consciência em sistemas desse tipo.

Jackson Stakeman, gerente-geral da Sparq, empresa de serviços de IA sediada em Atlanta, disse à AFP que concentrar a discussão na consciência pode levar a debates sem conclusão.

“Consciência é uma armadilha. Não podemos provar isso um no outro. Debata isso sobre IA e você fica em círculos”, afirmou.

Para Stakeman, os sistemas de inteligência artificial refletem, em larga escala, o comportamento humano. Essa característica, segundo ele, já seria motivo suficiente para discutir mudanças nas regras de uso.

Críticas à ideia de consciência das máquinas

A possibilidade de atribuir consciência às máquinas também enfrenta resistência. O chefe de inteligência artificial da Microsoft, Mustafa Suleyman, rejeitou essa ideia em um ensaio publicado no mês passado.

“As IAs não estão conscientes. Elas não sentem, não experimentam nem sofrem”, escreveu Suleyman.

Ele também argumentou que conceder direitos e proteções morais a sistemas tecnológicos cada vez mais capazes poderia trazer riscos.

Na quinta-feira (8), o papa Leão XIV abordou o tema em um sermão em italiano na Basílica de São Pedro, no Vaticano. Ao falar sobre as diferenças entre o pensamento humano e o processamento de informações pelas máquinas, o pontífice afirmou que os algoritmos compilam dados mais rapidamente do que as pessoas, mas destacou a importância das experiências vividas e da dimensão espiritual humana.