27 ago Recurso anti-chatos: IA Claude vai encerrar sozinho conversas abusivas ou insistentes
A IA Claude agora pode encerrar conversas que o deixem “angustiado” por tempo demais. Em meados de agosto, a Anthropic seu chatbot perceberá quando o usuário insiste em um assunto que ele não queira falar e, se não restarem alternativas, finalizará o papo.
O recurso está presente nos modelos Opus 4 e Opus 4.1 e busca evitar interações em que usuários insistem em solicitar a geração de conteúdo danoso, mesmo após recusas e sugestões de alternativas.
Leia também: Pais processam dona do ChatGPT por homicídio após jovem que conversava com IA se suicidar
Quando o Claude interrompe uma conversa, o usuário não pode enviar novas mensagens naquele chat. Ainda assim, é possível criar outra conversa do zero ou editar prompts antigos para pedir revisões.
O Claude vai encerrar conversas quando perceber que está “estressado” por tempo demais. (Fonte: Anthropic/Reprodução)
A ferramenta faz isso ao identificar o chamado “nível de estresse” do chatbot, que é acionado quando há insistência repetida em pedidos que a IA não pode atender.
De acordo com a Anthropic, o Claude é projetado para resistir à criação de conteúdos nocivos, como material sexual envolvendo menores ou solicitações ligadas a violência e terrorismo. Os sinais de estresse apareciam justamente em situações desse tipo, quando usuários tentavam forçar a IA a produzir material proibido.
Um último recurso
O encerramento de conversas abusivas deve ocorrer apenas em casos extremos e não deve ser acionado com frequência. A empresa destaca que o recurso ainda está em fase de testes e será ajustado ao longo do tempo.
Se os usuários perceberem encerramentos indevidos, a Anthropic recomenda o envio de feedback para aprimorar o comportamento do chatbot.
Leia mais: ChatGPT do Brasil: conheça algumas IAs nacionais e como elas funcionam
Quer acompanhar mais novidades sobre inteligência artificial e segurança digital? Siga o TecMundo no X, Instagram, Facebook e YouTube e assine a nossa newsletter para receber atualizações direto no seu e-mail.