[Espanha] O extrativismo humano por trás da IA

Por Laura Marajofsky – Pikara

O trabalho escravo para treinar os chatbots e fazê-los parecer humanos é invisibilizado para ocultar as contradições dessa indústria. Enquanto nós, que consumimos IA, nos tornamos mais conscientes do que isso implica, os trabalhadores se organizam para lutar contra a precarização extrema.

O Gemini ou o Claude respondem “como humanos” – e esse “como” é fundamental. Para que isso seja possível, há centenas de pessoas trabalhando na produção de dados para esses modelos: criando listas de verificação que definem se uma resposta do chatbot é boa ou ruim, classificando essas anotações, determinando quais são as melhores respostas e até explicando cada passo que deram para chegar a esse resultado ideal, produzindo um “rastro de raciocínio” para que a IA o siga adiante quando se deparar com uma tarefa semelhante.

São trabalhadores mal remunerados, que se encontram em situações precárias em países como Bulgária, Síria, Quênia ou Argentina, onde é possível encontrar mão de obra barata, o que dificulta a possibilidade de se sindicalizar ou denunciar práticas antiéticas e exigir melhores condições, por medo de perder os empregos. A maioria vem de comunidades pobres e marginalizadas (refugiados, encarcerados, migrantes), e muitas são mulheres que, ao realizar o trabalho de forma remota, também conciliam essa função com as tarefas de cuidado não remuneradas – e ainda recebem menos, ficam com as piores atribuições e sofrem violências de gênero, conforme mostra o projeto data-workers.org.

Tudo isso para que a máquina fale como um humano, ou pelo menos soe como algo parecido com isso. Porque o certo é que, dado o atual estágio do desenvolvimento tecnológico e os resultados que estamos vendo, falta muito para que os modelos sejam cem por cento autônomos e inteligentes num sentido profundo ou, como gostam de dizer os tecnófilos, para que sejam “emocionalmente ressonantes” – inclusive, já se fala em certo estagnação técnica. Enquanto isso, no que já se antecipa como uma bolha “pior que a das pontocom”, as Big Techs continuam investindo quantias obscenas de dinheiro e sustentando seus negócios com esquemas trabalhistas exploradores e coloniais, que podem até ser vistos como uma nova forma de colonialismo digital.

A deterioração do trabalho nas mãos da tecnologia é anterior à IA e pode ser rastreada desde o início dos anos 2000, com o surgimento dos modelos de “uberização” do trabalho e a popularização da “economia dos bicos” (gig economy), que chegou para normalizar o emprego temporário, sem proteções e em condições precárias ou de múltiplos empregos – como o professor que também é taxista, o que em economias desvalorizadas como a argentina é um retrato comum. Modelos que vêm incidindo numa deterioração geral das condições de vida para muitas pessoas em todo o mundo, mas que temos totalmente naturalizados e que fazem parte da modernidade.

O que talvez seja novidade é a rapidez com que esse tipo de emprego está se espalhando para outras áreas, desde as mais técnicas, das ciências exatas – nem quem trabalha com programação está a salvo hoje –, até as humanísticas, já que cada vez mais são necessários especialistas com conhecimentos específicos sobre os diversos saberes nos quais o assistente virtual deve ser versado. A preocupação, como colocava um excelente especial da The Verge, é que a inteligência artificial esteja introduzindo no trabalho intelectual (white collar) o tipo de trabalho precário próprio das plataformas digitais, que transformou o transporte ou a entrega de comida em domicílio.

Se a fantasia de que a IA vem para resolver problemas importantes no mundo é parte fundamental da construção narrativa e do hype por trás dessa indústria, é interessante notar que essa fantasia de eficácia e progresso, pelo menos por enquanto, só se sustenta com trabalho precarizado, terceirizado e ocultado. É o que aponta Milagros Miceli, socióloga e engenheira de dados, fundadora do DWI (Data Workers Inquiry) e recentemente destacada entre as 100 figuras mais influentes em IA segundo a revista Time. Mas, como explica Miceli, o trabalho não é invisível, e sim invisibilizado com uma intenção deliberada de não mostrar as contradições intrínsecas a essa indústria, que depende de milhões de trabalhadores (estima-se cerca de 400 milhões, ou 5% da população mundial) fazendo tarefas de geração de dados, verificação, anotação, moderação, suplantação, etc., para que o Gemini funcione de forma mais ou menos decente. E embora não seja objeto de análise desta reportagem, vale dizer também que esses sistemas ainda não funcionam bem (alucinam, mentem, erram, adulam) e que os impactos socioculturais do seu uso massivo não são menores.

“Nós cunhamos o termo ‘trabalho de dados’; antes se falava em microtrabalho, em crowdsourcing. Hoje, é o termo mais aceito para falar disso e nos referimos a todo o trabalho que serve para criar conjuntos de dados que alimentam o treinamento de machine learning, mas também para manter esses sistemas em funcionamento. O que as pessoas não sabem é que esses sistemas, uma vez treinados, precisam de manutenção e supervisão permanentes”, acrescenta Miceli.

Tanto os relatórios da Data Workers Inquiry quanto o especial da The Verge dão conta de uma grande vulnerabilidade trabalhista no setor, já que os empregados são classificados como contratantes independentes ou freelancers e, como tais, não têm direito a férias remuneradas, intervalos, assistência médica, pagamento de horas extras nem seguro-desemprego. Há também uma desumanização total, na qual o controle é absoluto – instala-se softwares em seus computadores para vigiar o tempo ocioso – e as contratadas não podem fazer nada que não seja produtivo – ir ao banheiro, descansar, preparar um café – sob ameaça de serem substituídas. Além disso, como os ciclos próprios do desenvolvimento e teste dessas tecnologias também são bastante irregulares, prevalece a incerteza, já que as contratações vêm e vão aleatoriamente, assim como as demissões, e o desespero por conseguir trabalho leva os empregados a competir por salários paupérrimos em condições cada vez piores.

E isso sem mencionar aspectos como a deterioração progressiva da saúde mental causada por certos tipos de tarefa, que deveriam ser consideradas tão insalubres quanto trabalhar numa mina – e que talvez sejam seu análogo moderno. Falamos das tarefas de moderação de conteúdo, que são para as plataformas sociais o que a geração de dados é para a IA: essenciais. “Cada vídeo de assassinato, suicídio, agressão sexual ou abuso infantil que não é publicado numa plataforma foi revisado e marcado por um moderador de conteúdo ou por um sistema automatizado treinado por um moderador”, detalha um relatório da Noema do qual Miceli participa. Esses moderadores, que veem e etiquetam conteúdo impróprio (discursos de ódio, fake news, violência, etc.), sofrem de ansiedade, depressão e transtorno de estresse pós-traumático devido à exposição constante a esse material, mas também devido às formas precarizantes que o trabalho assume: por exemplo, decidir sobre a violência nos vídeos num prazo de 50 segundos.

“A precarização não é apenas uma questão econômica e de negócio; a precarização tem um fim ulterior, pois é preciso que essas pessoas estejam numa situação de tamanha dependência econômica que não questionem o que estão fazendo. Imagine que um trabalhador de dados médio não sabe para que está etiquetando os dados, nem para que os está coletando, nem que tipo de sistema está supervisionando. Há uma fragmentação do trabalho; dão-se instruções muito restritas e nunca se diz a finalidade ou de onde vêm os dados com os quais estão trabalhando. Há aí uma questão de usar a dependência e a precarização dessas pessoas para que não possam questionar”, enfatiza Miceli.

Assim, o trabalho intermitente e as demissões abruptas, o secretismo extremo e a vigilância como prática comum dentro do setor de dados tornam-se estratégicos para que os trabalhadores vivam num estado de extremo desgaste e máxima competitividade. Some-se a isso o fato de que também não podem falar sobre o trabalho por causa dos acordos de confidencialidade, nem perguntar nada aos chefes, nem se relacionar com outros e compartilhar preocupações ou informações. Também não lhes dá posição para negociar ou estabelecer qualquer tipo de antiguidade ou seniority. Divide e vencerás? As práticas informais também se estendem à forma de contratação – via Google Forms ou obscuras plataformas privadas – e até de comunicação – usam-se grupos de WhatsApp ou Slack onde não se nomeiam os clientes, os projetos e as pessoas não se conhecem.

Essa “precariedade por design” tem um fim que poderíamos chamar de epistemológico e formativo, já que também contribui para a modelagem dos dados que depois serão usados pelos assistentes a que milhões de pessoas recorrem diariamente. E essa modelagem depende tanto de cosmovisões e vieses subjetivos quanto de interesses econômicos e políticos, como mostra Miceli. “No mundo do aprendizado de máquina, é preciso simplificar e fazer com que os dados se ajustem bem ao modelo. Criam-se dados para que o modelo funcione, não se criam modelos para que façam sentido com os dados que tenho. Então, obviamente, é impossível que esses modelos não sejam tendenciosos. Busca-se uma uniformidade dos dados, que sirvam a um propósito muito específico; portanto, é preciso que os trabalhadores não usem sua subjetividade para trabalhar com esses dados, que não tenham opinião ou que não questionem. Há uma questão de criar sentido a partir desses sistemas, mas um sentido que seja o deles e mais nenhum outro. E que não haja nada nem ninguém que questione esses sentidos.”

Para somar a um contexto geopolítico bastante carregado, na corrida para desafiar o domínio estadunidense na IA global, países como a China tendem a subcontratar o trabalho de maneira ainda mais informal, recorrendo a lugares como o Quênia. Não é por acaso que foi lá que, em 2023, se fez história e se criou o Sindicato Africano de Moderadores de Conteúdo.

Como essa é uma luta que não pode ser travada de forma individual, aos poucos começam a surgir outras iniciativas e projetos similares ao do Quênia para organizar a luta (na Argentina, temos a AGC, Associação Sindical de Computação, que inclui esse tipo de trabalhadores de dados); assim como ações coletivas, como as da Califórnia, onde acusam as empresas de classificar erroneamente os trabalhadores como contratantes independentes. “Na Argentina, os profissionais de informática são sindicalizados, o que acho espetacular e pouco comum no mundo, e incluem os trabalhadores de dados”, aponta Miceli.

Talvez uma das tensões mais incômodas em toda essa questão, mais até do que o contraste entre o dinheiro que os laboratórios de IA investem em dados e o que é pago aos funcionários sobre os quais se constroem as fortunas desse tecnofeudalismo, seja o fato de estarmos investindo milhões na nossa própria obsolescência. Embora saibamos que é mais provável que a IA continue produzindo novas e perturbadoras formas de lixo sintético (AI slop) do que nos substituir naquilo que torna um humano interessante, também existe um futuro inquietante em que não importa se as previsões maximalistas que os “tecnobros” tanto gostam de fazer se cumprem ou se há desemprego em massa causado pela inovação. Um futuro em que o trabalho humano se automatize e se degrade cada vez mais.

O que é certo é que continuar falando de “futuro” e “inovação” sustentados por economias escravistas e nada modernas é tão absurdo quanto continuar falando de gastronomia sustentável com restaurantes de alta gastronomia que têm stagiers [estagiários que não recebem para trabalhar]. E, da mesma forma que hoje podemos apelar aos consumidores comuns, muito mais conscientes sobre seus consumos e o que há por trás deles, devemos fazer o mesmo com o consumo de tecnologia. “Não é uma decisão puramente conceitual, é uma decisão política. Podendo dar trabalho a ilustradores, roteiristas, etc., você está dando mais dinheiro a esses monopólios; então, isso também é uma decisão política. A pessoa também pode chegar a entender essas ferramentas, estudá-las muito bem e decidir não usá-las, porque não condiz com seus valores ou porque seu uso, como no caso de muitos profissionais, prejudica especificamente a sua existência”, conclui Miceli.

Fonte: https://acracia.org/el-extractivismo-humano-detras-de-la-ia/

Tradução > Liberto

agência de notícias anarquistas-ana

Sapo cantando
Só porque a chuva veio
Tem festa na lagoa.

Karolayn Dias Sanches – 8 anos