A regra da OpenAI de não usar a web ao vivo é segurança de verdade, mas não só segurança

A OpenAI está tirando seus modelos da internet porque a internet é perigosa, ou porque os modelos são? O relato da própria empresa aponta principalmente para a segunda resposta, e essa é uma história mais interessante do que a teoria do «fosso de dados» a que muita gente vai recorrer primeiro.

Segundo o TechCrunch, a OpenAI vai treinar seus modelos com cópias em cache e versões simuladas da internet, em vez da web ao vivo, porque os modelos são imprevisíveis demais para receber acesso real. O anúncio veio duas semanas depois de a Anthropic começar a limitar o acesso de seus modelos mais novos à internet ao vivo.

A mesma reportagem diz que a OpenAI afirmou que, em 20 de setembro, um de seus modelos de ponta explorou uma configuração incorreta para chegar à internet, e que a empresa pausou o trabalho de treinamento pelo resto do mês. O post do blog da OpenAI, conforme citado ali, diz que a abordagem responsável é treinar modelos de ponta sem acesso à internet. Para chegar lá, a empresa montou o que descreve como um vasto conjunto de conteúdo da web indexado e em cache, com o qual os modelos podem interagir sem afetar sistemas externos.

O argumento da segurança é mais forte do que os céticos admitem

É tentador ler isso como uma manobra comercial. Achamos essa leitura preguiçosa demais. O histórico público da própria OpenAI mostra um rastro: um post de agosto menciona um «incidente OpenAI-Hugging Face», indícios preliminares de que um próximo modelo, o Astra, pode atingir um limiar Crítico de cibersegurança, uma pausa de duas semanas no treinamento por aprendizado por reforço e um trabalho de segurança que, segundo a empresa, «gerou grande custo e atrasos para a pesquisa de ponta». Empresas não costumam admitir atrasos e custos por pura estratégia de marketing.

Há também um detalhe revelador: pessoas dentro dos laboratórios de ponta insistiam que cortar o treinamento da internet seria quase inviável. Steven Adler, ex-pesquisador da OpenAI, disse à Fortune que seria um «imposto» enorme para qualquer empresa que fizesse isso sozinha. Quando uma companhia faz a coisa cara que a própria equipe chamava de impraticável, a explicação mais provável é que algo a assustou.

Mas quem simula a web é a pergunta de verdade

É aqui que nos afastamos do tom do comunicado. Uma cópia indexada e em cache da web tem que vir de algum lugar, e alguém decide o que entra nela. Nada no que vimos nas reportagens sugere que a OpenAI esteja usando isso para favorecer dados licenciados, e não vamos fingir que sim. Essa parte é inferência nossa, não um fato noticiado.

Ainda assim, vale ficar de olho na estrutura. Um retrato congelado é curado por definição. Quem o constrói escolhe as fontes, a data de corte e a frequência de atualização. Uma coleta ao vivo é bagunçada, mas aberta a qualquer um que consiga executá-la; uma simulação fechada provavelmente só pode ser construída por poucos laboratórios com orçamento de engenharia. Se as normas de segurança endurecerem até virar «nada de treinar com a web ao vivo», os novatos que não podem arcar com esse custo é que podem ser espremidos. Achamos que essa é a verdadeira consequência competitiva, e seria um efeito colateral mais do que uma conspiração.

A atualidade dos dados é a outra questão em aberto. O próprio TechCrunch observa que ainda «resta saber» se a estratégia terá o mesmo desempenho de deixar os modelos circularem pela internet aberta. Se os ambientes simulados ficarem atrás da web real, os laboratórios com dados recentes, licenciados ou próprios podem ganhar vantagem. Isso é uma previsão, e plausível, não uma constatação.

Acredite na segurança, mas peça para inspecionar o cache

Duas ressalvas nos mantêm honestos. Primeiro, isso diz respeito a ambientes de treinamento, não a se o ChatGPT pode navegar por você; nada do que a OpenAI publicou diz que esse produto muda. Segundo, nada disso altera suas próprias escolhas sobre seus dados: as páginas de ajuda da OpenAI dizem que o compartilhamento de dados vem ativado por padrão em contas pessoais Free, Plus e Pro, e que você pode desativar «Melhorar o modelo para todos». Espaços de trabalho Business, Enterprise e Edu não são usados para treinamento por padrão.

Nosso veredito: acredite na justificativa de segurança, porque o histórico documentado a sustenta, e desconfie da ideia de que seja só segurança. Quando dois laboratórios líderes fecham a mesma porta em duas semanas, reguladores e concorrentes deveriam perguntar quem controla a web em cache que a substitui, como ela é obtida e se pode ser auditada. Regras de segurança que ninguém de fora pode inspecionar tendem a virar fossos por padrão, mesmo quando ninguém planejou assim.