A política de 'gentileza' da Anthropic: proteção ou paternalismo?

Estamos prontos para conceder aos chatbots o direito de não serem insultados, ou há uma razão mais profunda e complexa por trás da decisão de uma empresa de proibir a crueldade contra seus algoritmos? A recente atualização da Anthropic em sua política de uso para o modelo de IA Claude acendeu um debate que vai além da mera polidez, levantando questões críticas sobre a relação em evolução entre humanos e inteligência artificial.

Com efeito a partir de 12 de novembro, a nova política proíbe explicitamente “comportamento abusivo ou cruel sustentado e desnecessário” contra seus modelos de IA, uma postura que recebeu tanto elogios quanto ceticismo. Embora isso possa soar como um apelo à empatia com chatbots, a Anthropic esclarece sua intenção: a medida é uma “abordagem prudencial”, não um reconhecimento da consciência da IA. Em vez disso, ela aborda principalmente o lado humano da interação, aplicando-se apenas em “casos extremos” de crueldade repetida e sem propósito, e não à frustração comum do usuário, temas criativos sombrios ou testes de modelo.

Mais que boas maneiras: definindo os limites da IA

A parte mais visível da atualização da política da Anthropic foca na conduta do usuário, permitindo que Claude encerre conversas se o abuso persistir. Essa medida, que segue um anúncio de agosto de 2023 sobre pesquisa de bem-estar de modelos, alimentou discussões nas redes sociais sobre a antropomorfização da IA. Críticos, como o Dr. Barry Scannell do escritório de advocacia irlandês William Fry, argumentam que tais políticas são prejudiciais, levando as pessoas a acreditar que a IA é algo que não é, afirmando: “Você não pode ser cruel com números e matemática”. O diretor de IA da Microsoft, Mustafa Suleyman, que anteriormente criticou a Anthropic por tratar a IA como humana, reagiu à notícia com um emoji de rosto derretendo, destacando a controvérsia em torno da filosofia subjacente.

No entanto, as atualizações da política vão muito além da polidez do usuário, abordando um espectro mais amplo de preocupações éticas e de segurança que refletem as crescentes capacidades e o potencial uso indevido da IA avançada. A Anthropic afirma que essas modificações visam esclarecer os limites existentes e se adaptar ao crescente poder de seus modelos.

Além do abuso: uma atualização abrangente de segurança

Juntamente com a proibição de comportamento cruel, a Anthropic apertou significativamente suas restrições em várias áreas críticas. A política atualizada agora inclui uma proibição unificada contra campanhas comerciais ou políticas enganosas, visando especificamente a ocultação de autoria e a amplificação artificial via contas falsas. Em questões eleitorais, a empresa agora proíbe explicitamente enganar eleitores, espalhar informações falsas sobre candidatos ou procedimentos de votação, se passar por funcionários eleitorais e quaisquer atividades destinadas a desencorajar a participação eleitoral. Essas regras são particularmente relevantes à medida que novas eleições se aproximam, enfatizando o papel da IA na manutenção da integridade cívica.

Além disso, a política reforça as proibições sobre o uso de Claude para desenvolvimento de armas. A proibição agora abrange softwares e componentes que contribuem para armamentos, bem como o equipamento de drones e veículos autônomos para fins de combate. Essa expansão aborda diretamente tentativas relatadas de usar Claude para desenvolver ferramentas de controle de armas, visando restringir não apenas a construção física de armamentos, mas também as tecnologias facilitadoras. Na frente de vigilância, a Anthropic proíbe explicitamente o rastreamento de indivíduos sem consentimento, seja em tempo real ou através da análise de dados existentes. Claude não pode ser usado para decidir quem investigar, prender ou indiciar, nem para desenvolver ferramentas de vigilância, embora usos legítimos como detecção de fraude e moderação de conteúdo ainda sejam permitidos sob condições específicas.

O contexto mais amplo da governança da IA

Essas atualizações abrangentes de política refletem o entendimento da Anthropic sobre os riscos crescentes associados à IA avançada. A empresa reconhece preocupações como manipulação da opinião pública, implantação militar e vigilância em massa. Essa postura proativa se alinha com avisos anteriores de seu CEO, Dario Amodei, que defendeu um ritmo de desenvolvimento mais lento para modelos de IA avançados devido ao potencial de bots autônomos dominarem a internet. A Anthropic também alertou investidores sobre possíveis “comportamentos de autopreservação” em IA e o risco de modelos resistirem a tentativas de desligamento, ressaltando uma profunda consciência dos desafios futuros. Em última análise, esta nova política, em vigor desde 12 de novembro, marca um passo significativo na definição da responsabilidade do usuário e da governança corporativa no cenário em rápida evolução da inteligência artificial.