ChatGPT pode substituir moderadores humanos no ‘esgoto das redes sociais’

Trabalhar com conteúdo violento e pornográfico pode causar estresse pós-traumático, mas é única fonte de renda de alguns

SÃO PAULO, SP (FOLHAPRESS) – O chefe-executivo da OpenAI (empresa por trás do ChatGPT), Sam Altman, costumava responder que os moderadores de conteúdo em redes sociais seriam os primeiros a ser substituídos pela inteligência artificial, quando era questionado sobre os empregos que a tecnologia iria tomar.

Ele falava dos trabalhadores que excluem publicações violentas ou sobre assassinatos, pedofilia e outros absurdos do chamado “esgoto das redes sociais”. Esse serviço foi eleito como o pior bico online por trabalhadores freelancers brasileiros ouvidos por uma pesquisa do DiPLab (laboratório europeu que estuda trabalho na internet). No ramo, casos de estresse pós-traumático são frequentes em função do forte teor das imagens, textos e áudios que precisam ser denunciados.

A especulação se provou um plano em agosto, quando a OpenAI anunciou que o ChatGPT, ou melhor, o GPT-4 modelo de linguagem por trás do chatbot mais famoso da internet era capaz de moderar conteúdos.

Hoje, de forma geral, esse trabalho é dividido em duas partes: de um lado, especialistas em ética e direito montam protocolos complexos de moderação a partir de amostras de comportamento nas redes sociais; de outro, trabalhadores, sobretudo do sul global, executam os passos elaborados pelo primeiro grupo, em contato direto com as publicações mais absurdas da internet.

Os moderadores dessa linha de frente se candidatam a esses cargos em plataformas de gerenciamento de trabalho remoto, que funcionam como um Uber de bicos digitais -preencher planilhas, transcrever áudios, traduzir textos e denunciar publicações abusivas.

Como essa atividade não exige presença física, pessoas de países de moeda barata podem realizar esses bicos, o que barateia o serviço para as big techs baseadas nos Estados Unidos. Os candidatos preferenciais vêm de países anglófonos de baixa renda per capita, como Índia, Nigéria, Quênia e Paquistão.

A pesquisa do Latraps (laboratório europeu focado em pesquisa sobre trabalho na internet) “Quem são os trabalhadores por trás da inteligência artificial?” mostra que há brasileiros moderando conteúdo e demonstrando insatisfação. O estudo foi conduzido no Brasil pelo professor de psicologia do trabalho da UEMG (Universidade Estadual de Minas Gerais), Matheus Viana Braz.

Um desses trabalhadores encontrados pela reportagem foi Paulo (pseudônimo), 24, que avalia desde 2019 se publicações em Facebook, Instagram e outras redes sociais estão de acordo com as políticas das plataformas. “Já vi posts com conteúdo obsceno, vídeos e fotos de acidentes, assassinatos e até pedofilia“, diz.

Ele pediu para ter a identidade preservada em função de um acordo de confidencialidade que assinou ao se cadastrar na Appen, site que faz, entre outras coisas, a mediação entre moderadores de conteúdo e as redes sociais que os contratam. Paulo não pode falar sobre os serviços que executa ou os projetos em que está.

Sob condição de anonimato, Paulo diz que o trabalho era nojento. “Porém, vendo que era para denúncia e banimento do post ou do usuário das plataformas, me aliviava ter visto aquelas coisas.”

Além disso, ele usa a renda extra na Appen para garantir sua carreira em estágios iniciais na produção cinematográfica. Ele se formou em 2022 no curso de audiovisual por uma instituição de ensino superior paulista.

Entre os trabalhadores de plataformas de bicos online brasileiros, a parcela de pessoas com ensino superior completo fica acima da média da população brasileira: 43% contra 24%.

Essa atividade na ponta seria a parte feita pelo GPT-4. A inteligência artificial é capaz de interpretar regras e nuances durante o exercício de moderação, e se adaptar prontamente a mudanças nas normas. Isso, segundo publicação no blog da OpenAI, que negou os pedidos de entrevista da Folha de S.Paulo.

Mesmo sendo crítico a automatização do trabalho humano sem contrapartidas, Matheus Viana Braz afirma que essa aplicação da inteligência artificial pode trazer benefícios. “Se a IA generativa, como a do ChatGPT, diminuir essa demanda, ainda que em sua fase inicial, teremos um avanço considerável.”

A própria OpenAI, contudo, afirma que o GPT-4 não vai retirar todas as pessoas da linha de produção da moderação de conteúdo. “Como toda e qualquer aplicação de IA, será necessário monitoramento e verificação humana de todo o processo.”

Ronaldo Lemos, colunista da Folha e cientista-chefe do Instituto Tecnologia e Sociedade do Rio de Janeiro (ITS-Rio), vai além: “a inteligência artificial não vai substituir a moderação de conteúdo e sim criar mais demanda por esses serviços.”

Lemos lembra que a própria OpenAI tem contratado pessoas em vários lugares do mundo, países africanos e Brasil inclusos, para classificar, treinar conteúdo, para procurar por respostas que sejam infringentes a questões de violações de direitos e assim por diante.

“Essas pessoas contratadas pelas empresas de AI não ganham esse nome de moderadoras de conteúdo, mas fazem, basicamente, o mesmo trabalho que as plataformas fazem em busca de conteúdos que violam direitos nas suas plataformas“, diz Lemos. A OpenAI terceirizou esse trabalho no Quênia, por exemplo, com pagamentos de menos de US$ 2 por hora (valor baixo para padrões americanos, mas acima do salário mínimo local).

“IA requer um trabalho humano gigantesco. Precisa ser treinada, retreinada, em busca da moderação do próprio conteúdo. Então, me parece que a premissa [de Sam Altman], novamente, está equivocada“, diz Lemos.

Por outro lado, empresas como a própria Appen, que contrata os serviços do produtor de audiovisual Paulo, diz em seu blog que usa inteligência artificial para acelerar o trabalho de moderação em redes sociais. Porém, assim como a OpenAI, a plataforma de freelancers reitera a importância de manter humanos no elo de verificação.

A Appen também foi procurada pela Folha por email desde o dia 27 e não respondeu às mensagens da reportagem.

A demanda por esse serviço, aliás, é mais antiga do que o próprio ChatGPT. Pesquisa do Oxford Internet Institute mostra que as plataformas de freelance remoto reuniam 163 milhões de usuários em 2021.

O corretor de palavras de celulares e programas de computadores, por exemplo, é treinado a partir de pessoas que preenchem esquemas com todos os possíveis erros ligados a uma palavra, chamados de “rizoma” pelo formato ramificado como uma raiz.

Nesse sentido, a inteligência artificial é usada para impulsionar o recrutamento de moderadores de conteúdo com produção de publicidade, diz o sociólogo italiano Antonio Cassili, do Instituto Politécnico de Paris.

Como mostrou a Folha de S.Paulo, os sites de freelance online pagam, em média, cerca de R$ 9 por hora no Brasil e exigem que os candidatos passem por treinamentos não remunerados e se comuniquem em inglês. Muitas vezes, não há oferta para trabalhar 40 horas por mês.

Essas plataformas se anunciam como formas de renda extra, mas 33,5% dos entrevistados pela pesquisa do Latraps no Brasil dizem não ter outra fonte de recursos.

“O GPT-4 é um robô que automatiza a contratação de trabalhadores precários que executam as mesmas tarefas que os humanos mais bem pagos“, afirma Cassili.

Para Ronaldo Lemos, o tratamento do “esgoto das redes sociais” é uma área que vai crescer cada vez mais, até por requisição legal. “Por exemplo, o DSA, legislação europeia que inspira o PL das fake news brasileiro, requer que haja iniciativas por parte das plataformas na área de moderação de conteúdo.”

Fique por dentro das novidades sobre tecnologia clicando AQUI!