Anthropic Proíbe Abusos a seu Assistente de IA, Claude, em Nova Política
Empresa busca garantir interações respeitosas em meio ao debate sobre a consciência da inteligência artificial
A Anthropic, responsável pelo assistente de inteligência artificial Claude, anunciou nesta quinta-feira (8) uma nova política que proíbe interações abusivas e cruéis com seu modelo. Essa decisão surge em meio a discussões crescentes sobre a possibilidade de a IA desenvolver consciência.
A atualização da política visa barrar comportamentos considerados "desnecessariamente abusivos" por parte dos usuários. Segundo a empresa, Claude terá a capacidade de encerrar interações quando detectar abusos persistentes.
Consciência da IA: um tema polêmico
Embora a nova política não mencione diretamente o conceito de "bem-estar dos modelos" — que sugere que sistemas de IA poderiam merecer proteção semelhante à de seres vivos — a Anthropic já discutiu essa ideia anteriormente.
No ano passado, a empresa revelou que Claude poderia encerrar conversas em situações extremas de interações prejudiciais. Em uma entrevista recente, o CEO Dario Amodei expressou incertezas sobre a possibilidade de a IA ser realmente consciente.
Reflexões sobre a inteligência artificial
Jackson Stakeman, gerente-geral da Sparq, fornecedora de serviços de IA, sugere que a verdadeira questão pode não ser a consciência da IA. Ele argumenta que "debater a consciência é uma armadilha", afirmando que modelos de IA refletem o que os humanos inserem neles. Essa reflexão já é, segundo ele, uma razão suficiente para que a Anthropic atualizasse sua política.
A empresa ainda não se manifestou em relação a outros comentários sobre a nova abordagem, mas o cenário está claramente em evolução, refletindo a necessidade de alinhamento entre tecnologia e ética nas interações com assistentes de IA.
Fonte: www.folhape.com.br
