Matemáticos não vão escapar da IA com um boicote, mas fazem bem em tentar

É um reflexo corporativo quando uma profissão diz não à máquina que quer o seu trabalho? Às vezes. Mas quando a profissão é a matemática, a única disciplina em que "confie em mim" não é um argumento aceitável, vale pelo menos ouvir a objeção.

O que aconteceu foi isto. Como informa o t3n, mais de 1.000 matemáticos se comprometeram a abrir mão por completo da IA por meio da recém-fundada Association for Human Mathematics (AHM). A missão declarada da entidade é proteger a matemática como empreendimento humano e manter a comunidade independente de interesses corporativos. As críticas mais duras miram empresas como a OpenAI. Segundo o The Decoder, a AHM acusa a OpenAI de desrespeitar normas centrais da pesquisa científica ao publicar provas geradas por IA e pede que os matemáticos parem de trabalhar com a empresa. A Euronews relata que a OpenAI respondeu à reação com uma doação de cinco milhões.

A objeção é sobre normas, não sobre nostalgia

A leitura fácil é que os matemáticos têm medo de ser automatizados. Achamos que isso não capta o que a AHM realmente diz. A queixa, como o grupo a formula, é que uma empresa publicou um grande lote de provas que a comunidade nunca pediu, e agora espera-se que essa comunidade as digira. A linha da própria AHM, como a Euronews resume, é que os matemáticos não encomendaram esse trabalho.

Isso importa porque a matemática funciona por meio de um processo social. Uma prova vale quando outras pessoas a leem, a conferem e assinam embaixo. Na nossa visão, um laboratório que publica resultados em volume industrial corre o risco de transferir o custo da conferência para os revisores da comunidade. É uma queixa legítima, e uma doação não a resolve. Fazer um cheque para a comunidade que você acabou de sobrecarregar parece mais relações públicas do que um sistema de revisão por pares.

Um compromisso de abstenção é uma alavanca fraca

Agora, a parte desconfortável. Um compromisso é uma declaração de valores, e boa. Mas é uma ferramenta ruim para direcionar uma tecnologia que outras pessoas vão continuar construindo e usando.

Há até um problema de definição. Um veículo observa que o debate chega à pergunta sobre o que conta, afinal, como uso de IA. Um chatbot que explica um lema está proibido? Um buscador com ranqueamento por aprendizado de máquina? Um compromisso que não consegue traçar essa linha com clareza provavelmente será difícil de fazer valer e fácil de ridicularizar. Isso é uma previsão nossa, não um resultado documentado.

Há ainda a sala de aula, onde a abstenção já parece uma partida perdida. Segundo o t3n, Richard Borcherds, da UC Berkeley, não vê mais sentido em corrigir os trabalhos dos alunos, porque o uso de IA se tornou inevitável. Uma pesquisa da Hochschule Darmstadt constatou que 92% dos entrevistados na Alemanha usam ferramentas como o ChatGPT pelo menos ocasionalmente. Essa pesquisa não trata especificamente de matemática, mas suspeitamos que a próxima geração de matemáticos também aprende com essas ferramentas, seja qual for o compromisso dos pesquisadores seniores. Uma profissão que sai da conversa não vai impedir isso. Só terá menos voz sobre como tudo se desenrola.

A briga de verdade é sobre prova, crédito e quem confere

Se aconselhássemos a AHM, a incentivaríamos a usar seus mais de 1.000 signatários como alavanca por regras, e não por abstinência. Três perguntas merecem respostas exigidas:

• Verificação: qual é o padrão para aceitar uma prova gerada por máquina, e quem arca com o custo de conferi-la?
• Crédito: como as contribuições humanas e as da máquina são declaradas, para que a autoria continue significando algo?
• Independência: como a comunidade evita depender da boa vontade de uma única empresa, ou de suas doações?

Nenhuma dessas questões se resolve ficando fora da sala. Elas são resolvidas por periódicos, departamentos e órgãos de fomento que escrevem normas antes de a enxurrada chegar. Ironicamente, a melhor carta da AHM é justamente aquilo que ela diz defender: matemáticos são as pessoas mais qualificadas para dizer o que é um argumento válido.

Nosso veredito

O compromisso não é um reflexo corporativo, ou pelo menos não só isso. É uma defesa racional de um processo social frágil contra o que a AHM vê como uma empresa que ignorou as normas da comunidade. Como sinal, funciona, e deveria fazer os laboratórios pensarem melhor sobre como divulgam resultados.

Como estratégia, fica aquém. A matemática não será salva pela abstinência individual, e um teste de pureza fica mais difícil de manter a cada semestre. Nossa recomendação aos matemáticos, e aos periódicos que os atendem: mantenham o compromisso como âncora moral, mas dediquem o esforço real a escrever as regras de verificação e crédito. Se você assina e depois deixa essas regras nas mãos dos outros, os humanos da "matemática humana" terão perdido o debate que mais lhes importava.