Mosseri tem razão sobre a revolta com a IA, mas prever não é um plano

Quando a pessoa que comanda um dos maiores feeds do mundo diz que as pessoas vão ficar ainda mais irritadas com a IA, isso é um alerta ou um álibi? Provavelmente os dois. E é a segunda leitura que merece nossa atenção.

Eis o que sabemos. Como informa o The Verge, o chefe do Instagram, Adam Mosseri, disse em uma entrevista que espera que a frustração e a raiva em relação à IA continuem piorando, e não apenas nas indústrias criativas. A Explainx observa que a lista de preocupações dele inclui o treinamento com o trabalho de criadores, deepfakes e empregos. Outras reportagens dizem que ele fez os comentários no podcast Colin and Samir, principalmente ao falar do novo lançamento de vídeos widescreen e de longa duração do Instagram.

Ele tem razão, e as evidências já estão fora do feed

Não precisamos acreditar só na palavra de Mosseri. A raiva aparece em lugares que nada têm a ver com o Instagram. A Channel NewsAsia informa que a empresa chinesa Lao Gan Ma negou demissões em massa ligadas à IA em meio à reação do público. No Mississippi, segundo uma investigação do Guardian e reportagens do Mississippi Today replicadas pelo site italiano Online-News, moradores próximos dos data centers de IA de Elon Musk reclamam de barulho e vibração, e alguns se irritam com ofertas de compra que pedem que abram mão de participar de um processo judicial.

Histórias diferentes, o mesmo padrão: a IA deixa de ser uma abstração no momento em que chega ao emprego, ao sono ou à timeline de alguém. Na nossa visão, a revolta não é tecnofobia irracional. São pessoas reagindo a custos que não escolheram, enquanto os benefícios são descritos em keynotes. A previsão de Mosseri é menos uma opinião polêmica do que uma previsão do tempo.

Prever a raiva é a parte fácil

É aqui que nos afastamos do tom da cobertura. Um executivo de plataforma que prevê a fúria do público com deepfakes e conteúdo de IA está descrevendo, a nosso ver, um problema que o próprio setor ajudou a criar. Os feeds eram o canal de distribuição. Os sistemas de ranqueamento decidiam o que era visto. Se a confiança está se desgastando, e as reportagens sobre os comentários de Mosseri dizem que a enxurrada de imagens de IA corrói a confiança no Instagram enquanto os usuários passam a valorizar o conteúdo cru e imperfeito como prova de autenticidade, então a empresa que segura o megafone tem um dever que vai além de comentar.

O próprio Mosseri fez uma observação franca, segundo o resumo da MSN: está ficando impossível distinguir fotos reais de falsas por causa da IA. Concordamos. Mas essa admissão vai contra a ideia de que o ônus deva recair sobre usuários apertando os olhos diante de pixels. Se não dá para perceber olhando, a plataforma precisa avisar. Isso significa rótulos visíveis, consistentes e difíceis de driblar, além de informações claras sobre quem fez o quê. As reportagens dizem que a Meta vem lançando novos rótulos e informações sobre criadores. A questão é se serão fortes o bastante para sobreviver ao contato com quem quer enganar.

Há também um ponto de justiça. Mosseri teria observado que as pessoas gostam de reclamar do lixo de IA enquanto muito conteúdo feito com IA é ótimo. É um ponto justo, e ninguém sério quer proibir o que é bom. Mas "parte é ótima" é justamente o motivo pelo qual a triagem importa. O bom conteúdo de IA não perde nada com um rótulo honesto. Só o enganoso perde.

"Controle" tem de significar mais do que um algoritmo mais esperto

A frase mais reveladora da conversa, como o site italiano iGizmo a apresenta, é a ideia de que, se você não gosta de IA, não deveria tê-la no seu feed. Parece razoável. O problema, como esse veículo aponta, é que deixar a seleção a cargo do algoritmo dá aos usuários um controle indireto, não absoluto. Iríamos além: um sistema de ranqueamento que adivinha suas preferências pelo comportamento não é uma configuração. É uma sugestão que você não consegue auditar.

Um controle real seria chato e concreto. Uma opção para reduzir o conteúdo gerado por IA. Rótulos pelos quais seja possível filtrar. Proteção da imagem que funcione para quem nunca pediu para aparecer num vídeo sintético. A cobertura da Explainx menciona a detecção de semelhança da plataforma e os controles de feed "Your Algorithm" do Facebook, o que sugere que as ferramentas não são ficção científica. O que falta, na nossa opinião, é torná-las o padrão, e não um item de menu que você descobre depois de um escândalo.

Nosso veredito

Leve o alerta de Mosseri a sério, porque ele provavelmente está certo. Mas não deixe que passe por liderança. Prever a revolta é o que se diz quando se quer o crédito pela visão de futuro sem assumir a responsabilidade pela causa. Se o Instagram e o resto da Meta querem que a raiva se estabilize, a sequência é simples: rotular com firmeza, proteger a imagem das pessoas e dar aos usuários chaves de verdade, em vez de empurrões probabilísticos.

Para os leitores, o conselho prático é menos glamouroso. Desconfie de imagens sem rótulo e perfeitas demais, prefira criadores que mostram o próprio processo e use os controles de feed que existirem hoje. E para as plataformas: a revolta não está chegando. Ela já chegou. Resta decidir se elas vão se antecipar ou continuar apenas narrando.