A Inteligência Artificial (IA), antes confinada aos laboratórios de computação e às narrativas da ficção científica, atravessou fronteiras e passou a integrar as estruturas que organizam a vida social. Hoje, ela participa da circulação da informação, educação, do trabalho, da produção cultural, criação artística, proteção de dados, relações econômicas e decisões que envolvem direitos e responsabilidades, enfim, de dimensões que dizem respeito à maneira como os indivíduos vivem, aprendem, trabalham, criam, relacionam-se e interpretam o mundo.
Diante de um aparato de tamanha magnitude, procura-se evitar uma compreensão reducionista da revolução algorítmica, com visão apenas das métricas do processamento instantâneo de dados, visto que a IA não pertence exclusivamente à Ciência da Computação. Ela é, em última instância, também uma questão antropológica, na medida em que envolve a ideia de ser humano que estamos construindo, enquanto desenvolvemos máquinas capazes de operar sobre aquilo que, durante muito tempo, consideramos distintivo de nossa humanidade.
Nesse sentido, a coletânea IA em Perspectivas Interdisciplinares propõe reunir olhares distintos diante de um objeto que atravessa campos do conhecimento e, ao fazê-lo, tensiona fronteiras e produz novas possibilidades de interlocução entre saberes. Perspectivar, então, significa considerar que diferentes lugares de observação produzem outras compreensões sobre um mesmo fenômeno. Com a Inteligência Artificial Generativa (IAG), amplia-se ainda mais a capacidade de produção automatizada de textos, imagens, sons, códigos e outras formas de expressão, modificando as maneiras pelas quais as sociedades legitimam, compartilham e atribuem valor ao conhecimento.
No contexto, permanece significativa a contribuição de Luciano Floridi, ao pensar a crescente integração entre ambientes físicos e digitais como ecossistemas informacionais nos quais seres humanos, instituições e sistemas encontram-se progressivamente interligados. A Inteligência Artificial aprofunda essa condição e torna ainda mais difícil separar, de maneira absoluta, o mundo tecnológico das demais dimensões da experiência social.
Reconhecer essa integração não significa atribuir à tecnologia uma espécie de autonomia histórica. Algoritmos são produzidos em contextos sociais determinados, concebidos por pessoas e treinados a partir de dados, orientados por objetivos, incorporados a modelos econômicos, utilizados em estruturas políticas e culturais concretas. Por isso, seus resultados não podem ser compreendidos fora das relações de poder, das desigualdades e valores que atravessam as sociedades nas quais esses sistemas são desenvolvidos e empregados.
Nesse ponto, a discussão tecnológica encontra o campo dos Direitos Humanos, tendo em vista que a dignidade humana possui um limite ético e jurídico que não pode ser dissolvido pela linguagem da eficiência. A proteção exige que os processos de transformação tecnológica sejam acompanhados de garantias de liberdade, igualdade, não discriminação, privacidade, participação e possibilidade de contestação, visto que a transformação digital também introduz desafios relacionados às desigualdades, considerando que o acesso à tecnologia, por si só, não garante participação efetiva na sociedade digital.
Existem desigualdades de infraestrutura, de formação, acessibilidade, domínio da linguagem tecnológica e da capacidade de avaliar criticamente as informações produzidas ou mediadas por sistemas algorítmicos. A inclusão, portanto, precisa ser compreendida como presença diante da tecnologia, com a existência de condições concretas de participação em seus processos e de usufruir de seus benefícios.
No terreno educacional, “formar”, em uma cultura atravessada pela Inteligência Artificial, significa ter que ensinar a utilizar novas ferramentas. Significa também desenvolver capacidade de interpretação, discernimento, julgamento, criação, e participação social. Quanto mais sistemas automatizam determinadas operações, mais necessária se torna a compreensão dos critérios e consequências envolvidos em sua utilização. A autonomia intelectual, assim, implica a capacidade de utilizá-la sem abdicar da faculdade de julgar.
Na Literatura, uma das questões que se colocam diante da Inteligência Artificial diz respeito ao que compreendemos por escrita, criação, leitura e experiência estética, quando textos podem ser produzidos por sistemas algorítmicos em interação com usuários humanos, inclusive mediante procedimentos capazes de reproduzir formas, conteúdos e estilos. Um texto literário, entretanto, não se esgota na informação que transmite nem na técnica de sua composição. A palavra literária envolve forma, ritmo, ambiguidade, memória, silêncio, imaginação, historicidade e abertura interpretativa. E isso nos diz por que as Humanidades permanecem indispensáveis diante de uma tecnologia que pode produzir linguagem, mas não elimina questões de sentido, valor, experiência e interpretação que atravessam a produção cultural.
Talvez seja essa uma das razões pelas quais a ficção científica e a Literatura anteciparam, em diferentes momentos, algumas das inquietações que hoje se apresentam sob a forma de tecnologias concretas. Narrativas sobre máquinas, criaturas artificiais, duplos, autômatos e seres criados pela técnica nunca falaram apenas sobre máquinas. Falaram sobre desejo, poder, limite e sobre a própria condição humana. A contemporaneidade apenas deslocou algumas dessas discussões do território da imaginação para o da experiência social.
As diferentes áreas do conhecimento fazem emergir perguntas específicas diante desse cenário.
No campo jurídico, interrogam-se sobre proteção de dados, direitos autorais, autonomia, governança e limites regulatórios.
No campo educacional, discutem-se formação, acessibilidade, inclusão, autonomia intelectual e novas formas de mediação do conhecimento.
No campo literário, emergem questões sobre linguagem, criação, leitura, autoria, imaginação e experiência estética.
Na Psicologia e na Psicanálise, abrem-se possibilidades de reflexão sobre novas condições de encontro, mediação, experiência e construção das relações humanas.
Na Filosofia, renovam-se antigas perguntas sobre técnica, ética, conhecimento, liberdade e humanidade.
No campo das questões sociais, reaparecem problemas relacionados à desigualdade, ao trabalho, à participação e à distribuição dos benefícios e riscos da inovação.
E, quando a discussão alcança o espiritual e o sagrado, outras dimensões do humano podem ser novamente convocadas, envolvendo questões éticas, teológicas, hermenêuticas e as próprias formas contemporâneas de vivência da fé.
A coletânea situa-se no espaço de passagem entre aquilo que a humanidade imaginou e o que ela está construindo; entre a eficiência dos sistemas e a complexidade da vida, pressupondo a preservação das especificidades de cada campo e, simultaneamente, a disposição para escutar aquilo que outro campo pode revelar sobre o mesmo fenômeno, pois a pluralidade interdisciplinar não exige homogeneidade.
Nesse sentido, a interdisciplinaridade como escolha metodológica não foi aleatória, correspondendo à própria natureza e escopo da proposta da obra, 10
entendendo que conhecer é também reconhecer a complexidade e sustentar perguntas, promovendo diálogos entre as diferentes formas de interpretação.
São perspectivas diferentes e não concorrentes. Desse modo, o diálogo entre elas permite perceber que a Inteligência Artificial não é um problema técnico a ser solucionado, mas um fenômeno cultural que precisa ser interpretado.
Em uma época em que sistemas computacionais podem produzir respostas em poucos segundos, os diversos campos das Humanidades continuam a exercer tarefas que não se confundem com a velocidade do processamento, cabendo-lhes interrogar sentidos, explicitar pressupostos, avaliar critérios, examinar consequências e problematizar limites éticos.
Dessa forma, pensar a Inteligência Artificial exige também reconhecer suas possibilidades, sem ignorar seus riscos; acolher suas contribuições, sem naturalizar seus efeitos; compreender sua importância, sem transformá-la em medida absoluta do humano. Transformações técnicas são também transformações sociais quando modificam as formas pelas quais as pessoas vivem, trabalham, aprendem, criam, comunicam-se e participam do mundo. E toda mudança social envolve escolhas sobre os princípios que se deseja preservar.
Não por acaso, a Universidade de Brasília iniciou, em 2026, a primeira turma de seu Bacharelado em Inteligência Artificial (BIA), criado de forma colaborativa pelo Instituto de Ciências Exatas, pela Faculdade de Tecnologia e pela Faculdade de Ciências e Tecnologias em Engenharia. O curso foi concebido em uma perspectiva multidisciplinar, com diferentes ênfases formativas e uma estrutura curricular voltada à aprendizagem contínua e autônoma.
E assim, enquanto a universidade forma profissionais para desenvolver sistemas inteligentes, as Humanidades são igualmente chamadas a interrogar os mundos que esses sistemas ajudarão a construir.
Nesta coletânea, o Volume I concentra-se nas dimensões sociais, institucionais e formativas que emergem da expansão da Inteligência Artificial. As discussões percorrem questões de governança algorítmica, direitos, responsabilidade, proteção de dados, trabalho, inclusão, acessibilidade, educação, formação docente, autonomia intelectual e produção do conhecimento.
O Volume II, por sua vez, desloca e simultaneamente aprofunda esse olhar, aproximando-se das dimensões subjetivas, simbólicas e culturais implicadas na presença da Inteligência Artificial, como a subjetividade, o psiquismo, a experiência, a Literatura, a imaginação, alteridade, ética, linguagem, sagrado e espiritualidade.
Que estas páginas possam ser lidas como um convite à interlocução entre saberes, à construção de perguntas e à abertura de novos caminhos de investigação, porque, se a Inteligência Artificial amplia aquilo que podemos fazer, cabe aos demais campos do conhecimento continuar pesquisando por que fazer, para quem e sob quais condições.
E no espaço entre aquilo que podemos construir e aquilo que escolhemos preservar, esta coletânea se inscreve.
Dirce Maria da Silva
Doutoranda em Literatura e Práticas Sociais na Universidade de Brasília.
Mestre em Direitos Humanos, Cidadania e Violência pela Unieuro-DF.
O arquivo digital do livro é gratuito está disponível para download em www.editoraschreiben.com
Link direto:
Volume 1*:
https://www.editoraschreiben.com/livros/ia-em-perspectivas-interdisciplinares-volume-i
Volume 2*:
https://www.editoraschreiben.com/livros/ia-em-perspectivas-interdisciplinares-volume-ii
ARTIGO PUBLICADO
IA em perspectivas interdisciplinares. Vol. II / Dirce Maria da Silva, Alexandre Sidney Guimarães, Elias Guilherme Trevisol, Wiliam Alves Biserra, Thiago Aguiar de Pádua (organizadores). – Itapiranga, SC : Schreiben, 2026.
Capítulo 3
“A ENGRENAGEM HUMANA DO ALGORITMO”:
TRABALHO FANTASMA, PSICOPOLÍTICA E O SOFRIMENTO PSÍQUICO NA MODERAÇÃO DE CONTEÚDO DIGITAL………………..46
Marina da Silveira Rodrigues Almeida
“A ENGRENAGEM HUMANA DO ALGORITMO”: TRABALHO FANTASMA, PSICOPOLÍTICA E O SOFRIMENTO PSÍQUICO NA MODERAÇÃO DE CONTEÚDO DIGITAL
Marina da Silveira Rodrigues Almeida[1]
“A questão básica que devemos nos colocar não é o quanto uma nação produz, mas sim o que ela torna cada pessoa capaz de ser e de fazer.”
Martha Nussbaum
1.INTRODUÇÃO
A expansão acelerada das plataformas digitais, especialmente a partir da segunda década do século XXI, consolidou um regime comunicacional marcado pela circulação massiva, instantânea e descentrada de conteúdos. Nesse cenário, a promessa de um espaço público global, aberto e democrático convive com a proliferação de práticas nocivas como, discursos de ódio, desinformação, assédio e violência simbólica que desafiam a própria sustentabilidade do ambiente digital. Para que esse ecossistema permaneça funcional, torna-se indispensável o trabalho de moderação de conteúdo, uma atividade historicamente marginalizada nos debates sobre tecnologia, apesar de sua centralidade para o funcionamento das plataformas.
A emergência desse campo laboral revela tensões estruturais entre a lógica econômica das empresas de tecnologia, a governança algorítmica e as condições concretas de trabalho daqueles que, de forma invisibilizada, asseguram a “limpeza” informacional das redes.
O imperativo ético evocado por Nussbaum (2013) em garantir as condições sociais, políticas e econômicas para que cada indivíduo possa florescer e viver com dignidade, joga luz sobre uma das maiores contradições da virada tecnológica contemporânea: a invisibilidade dos trabalhadores que sustentam a integridade e a segurança do espaço digital. No ecossistema das plataformas, o moderador de conteúdo surge como o elo mais vulnerável dessa engrenagem, severamente exposto ao que Edwards (2021) define como “violência gráfica”. Este conceito refere-se à representação explícita, visual e detalhada de atos agressivos e brutais nos meios de comunicação, englobando conteúdos que exibem ferimentos, sangue, tortura ou mutilação de maneira realista ou altamente detalhada em filmes, séries, videogames, livros e notícias. Além disso, este profissionais, operam sob regimes laborais que frequentemente negligenciam o “mínimo de justiça social” e o suporte psicológico necessários à preservação de sua saúde mental.
Miceli et al. (2024) demonstram que a estimativa global indica a existência de centenas de milhares de moderadores humanos. No ecossistema digital, esses trabalhadores desempenham um papel crucial tanto no treinamento de sistemas de inteligência artificial quanto na análise de demandas complexas que os algoritmos negligenciam. Visando à redução de custos operacionais, as Big Techs costumam terceirizar esses serviços para empresas de BPO localizadas em regiões do Sul Global, como a América Latina, a África e a Ásia-Pacífico. As empresas de tecnologia e provedores de serviços como TELUS International, Accenture e TaskUs lideram as contratações e consolidam-se como os principais polos de empregabilidade.
No início da década de 2020, o YouTube registrava o envio de aproximadamente 500 horas de vídeo por minuto, enquanto o Instagram contabilizava mais de 90 milhões de fotografias diárias. Diante desse cenário, a moderação de conteúdo expandiu-se em progressão geométrica, consolidando-se como um desafio de escala industrial (Mordor Intelligence, 2026).
Atualmente, essas equipes operam sob novas regras de transparência global e exigências legais severas. Grandes empresas como a Meta e Google chegam a remover mais de 200 milhões de vídeos ou bilhões de postagens em um único trimestre, sendo o spam a principal causa dessas intervenções. Nesse contexto, o LinkedIn bloqueia mais de 70 milhões de contas falsas ainda na fase de registro, ao passo que o TikTok remove mais de 140 milhões de perfis por trimestre devido a violações ou engajamento artificial. Por fim, as taxas de precisão e erro dos sistemas de automação permanecem sob estrito monitoramento de órgãos reguladores, com o intuito de mitigar a censura inadvertida de conteúdos legítimos. Esse cenário impulsiona o mercado global de serviços de moderação, cuja projeção financeira prevê movimentar mais de US$ 13 bilhões de investimentos nesta área laboral (Mordor Intelligence, 2026).
Por outro lado, as plataformas digitais enfrentam um mercado avaliado em bilhões de dólares, impulsionado por regulações como a Lei de Serviços Digitais da União Europeia (2016; 2026), que exige relatórios e bases de dados padronizadas para cada remoção.
A Aliança Sindical Global de Moderadores de Conteúdo convocou empresas de tecnologia entre elas TikTok, Meta, Alphabet e OpenAI a implementarem protocolos de proteção à saúde mental em toda a cadeia de suprimentos, visando resguardar os trabalhadores responsáveis por filtrar conteúdos violentos, perturbadores ou prejudiciais na internet. Essa iniciativa, apoiada pela Uni Global Union, constitui a primeira ação pública da Aliança e acompanha a divulgação de um relatório inédito sobre o tema (Uni Global Union, 2024).
O relatório publicado pela Uni Global Union (2024), evidencia as condições laborais deletérias e a intensa pressão psicológica a que são submetidos os moderadores de conteúdo. A metodologia do documento fundamenta-se em pesquisas empíricas com trabalhadores, entrevistas em profundidade com profissionais de seis países, além de contribuições de especialistas em jornalismo de crise e resposta a emergências. Ademais, o texto propõe diretrizes para a mitigação de danos psicológicos, com ênfase no enfrentamento do transtorno de estresse pós-traumático, da depressão, do burnout e da ideação suicida entre os funcionários do setor.
Os pesquisadores Gilliespie (2018), Gray e Suri (2019) evidenciaram que a moderação humana de conteúdo não foi reduzida com o advento da Inteligência Artificial (IA), mas passou por uma reconfiguração de propósito, haja vista a limitação dos algoritmos em identificar nuances, contextos culturais e ironias. Ademais, constata-se que, no período de 2025 a 2026, as metas diárias de análise de vídeos duplicaram. Para atender a essa demanda regulatória, os moderadores submetem-se à visualização de conteúdos violentos em velocidade acelerada, sob a penalidade de sanções financeiras, tais como a supressão de bônus ou descontos salariais, caso não cumpram a quota estipulada de tempo por publicação.
Dessa forma, Gillespie (2018), ressalta que o mercado contemporâneo opera em um ciclo simbiótico, no qual moderadores humanos revisam falhas da Inteligência Artificial (IA) e, concomitantemente, rotulam dados violentos para o treinamento algorítmico de corporações como OpenAI, Meta e TikTok. Esse arranjo expõe a crescente concentração de poder econômico, político e informacional nas mãos de um oligopólio global liderado por gigantes como Google, Amazon, Apple e Microsoft. Sustentada pela extração massiva de dados, financeirização e controle de infraestruturas digitais essenciais, essa centralização aprofunda desigualdades planetárias. Ao mesmo tempo em que ampliam sua influência institucional, tais empresas consolidam regimes laborais altamente assimétricos: trabalhadores periféricos e terceirizados são invisibilizados, assumindo os severos custos humanos e psicológicos da manutenção do ecossistema digital (Micele et.al, 2024).
Ao longo de sua trajetória, a Uni Global Union firmou mais de cinquenta acordos e protocolos internacionais destinados a assegurar direitos fundamentais a dezenas de milhões de trabalhadores. Esses instrumentos constituem ferramentas essenciais para estabelecer condições equitativas entre empregados e corporações multinacionais, criando estruturas institucionais que garantem liberdade de organização, negociação coletiva e proteção contra práticas de intimidação das Big Techs.
A relevância desses acordos, convergem com a teoria de Arendt (2007), a centralização de poder nas Big Techs configura um processo de despolitização que desloca decisões coletivas para esferas privadas e tecnocráticas, erodindo a ação conjunta no espaço público. Ao operarem por governança algorítmica e cadeias de trabalho fragmentadas, essas plataformas impõem uma lógica burocrática que, ao negar a ação e a palavra, reduz trabalhadores como os moderadores a meros executores instrumentais inseridos no “não-mundo”
Tais evidências aproximam-se da perspectiva de Sen (2010), que compreende a justiça como expansão das liberdades reais das pessoas, incluindo condições dignas de trabalho e proteção social. Dessa forma, os acordos globais da Uni Global Union (2024) não apenas asseguram direitos, mas também contribuem para a construção de ambientes laborais mais justos, seguros e inclusivos.
Para compreender a estrutura socioeconômica subjacente à moderação de conteúdo, faz-se indispensável recorrer ao conceito de “trabalho fantasma” (ghost work), formulado por Gray e Suri (2019). Os autores evidenciam que o atual estágio de desenvolvimento da inteligência artificial opera, em larga medida, sob uma ilusão mercadológica de plena automação. Sob a superfície do processamento algorítmico, subsiste uma infraestrutura de trabalho humana precarizada, terceirizada e distribuída de forma global, incumbida de executar tarefas cognitivas repetitivas orientadas à correção e ao treinamento de sistemas computacionais falhos.
Essa dinâmica articula-se diretamente com o que Zuboff (2021) conceitua como “capitalismo de vigilância”, modelo no qual a experiência humana subjetiva é expropriada e convertida em matéria-prima preditiva para modificação comportamental e posterior comercialização. No âmbito da moderação de conteúdo, o discernimento moral, a resposta afetiva de repulsa e a sensibilidade linguística do trabalhador são codificados e transformados em etiquetas (tags) comerciais que refinam os sistemas preditivos das plataformas digitais.
Consequentemente, conforme preconizam as teses sobre o “capitalismo cognitivo” e as “plataformas capitalistas digitais” de Srnicek (2017) e Moulier-Boutang (2011), evidenciam que o vetor da exploração capitalista se desloca da força motriz mecânico-industrial para a expropriação da atividade neuronal e cognitiva dos indivíduos.
Em termos filosóficos, o regime laboral imposto aos moderadores de conteúdo subverte as noções tradicionais de controle biopolítico sobre os corpos. De acordo com as formulações de Han (2017; 2018), a contemporaneidade é caracterizada pelo advento da psicopolítica, modelo de dominação centrado na exploração e no monitoramento direto do aparelho psíquico e emocional dos indivíduos. Nesse ecossistema, o moderador opera na zona limite das dinâmicas que o pensador descreve acerca da “sociedade do cansaço” e da “sociedade paliativa”. Esta última engendra a “algofobia”, definida como o medo patológico e a rejeição sistêmica de qualquer forma de sofrimento, na qual a busca pela felicidade e pelo bem-estar foi convertida em obrigação mercantil, anestesiando o negativo para manter os indivíduos dóceis, produtivos e consumistas.
Segundo Anders (2002), a atividade laboral dos moderadores de conteúdo ilustra os fenômenos da “obsolescência do ser humano” e da “vergonha prometeica”, uma vez que esses sujeitos mutilam seu tempo biológico e cognitivo na tentativa de emular a eficiência algorítmica. Reduzidos a filtros biológicos temporários encarregados de higienizar a experiência do usuário comum, tais trabalhadores operam como próteses cognitivas descartáveis cuja função estrita é treinar a inteligência artificial que os subjuga. Esse processo de automação cognitiva acelera a redundância econômica da categoria, convergindo para o cenário alertado por Harari (2024) sobre a emergência de uma “classe de inúteis” destituída de valor utilitário pelo mercado tecnológico.
À luz da psicanálise contemporânea e da psicodinâmica do trabalho, o sofrimento dos moderadores de conteúdo configura uma fratura na economia pulsional, desencadeada pelo manejo de um excesso de estímulos traumáticos que colapsa a capacidade de simbolização e elaboração psíquica (Dunker, 2015). Sob a racionalidade gerencial neoliberal, o mal-estar civilizatório é individualizado e mercantilizado, desestruturando os sistemas de defesa coletivos e submetendo o operador a uma solidão e a um sofrimento ético intoleráveis diante do horror e da perversão digital (Dejours; Gernet, 2011; Dejours, 2007). Sob a ótica lacaniana (1998; 2008), essa estrutura insere o trabalhador como peça instrumental no circuito do gozo do Grande Outro, reduzindo-o à condição de testemunha compulsória da violência e de objeto na engrenagem mercadológica.
Para ilustrar empiricamente as premissas teóricas discutidas, este capítulo analisa a obra cinematográfica Rede Tóxica (2025). A trajetória da protagonista Daisy Moriarty funciona como um operador analítico que materializa o nexo causal entre a rigidez gerencial, a falha na mediação simbólica e o colapso psíquico dos moderadores de conteúdo.
A justificativa do estudo reside na necessidade de desvelar a precarização do trabalho humano que sustenta a infraestrutura digital sob o falso signo da automação irrestrita. Frente a um hiato teórico que privilegia os avanços da inteligência artificial em detrimento do custo psicossocial imposto a trabalhadores de empresas de terceirização (BPO) no Sul Global, a pesquisa investiga como o aumento abusivo de metas impulsiona a exploração e a deterioração da saúde mental no capitalismo de plataforma.
2.DESENVOLVIMENTO
As práticas contemporâneas de moderação profissionalizaram-se como moderação de conteúdo comercial, distanciando-se do voluntarismo dos primórdios virtuais para consolidar uma estrutura corporativa coordenada que mobiliza uma força de trabalho global remunerada.
Nesse ecossistema, as plataformas extraem mais-valia ao transferir o custo operacional para trabalhadores frequentemente terceirizados no Sul Global. A apropriação desse excedente de valor ocorre devido à disparidade entre a baixa remuneração desses profissionais e o alto valor financeiro que o ambiente higienizado agrega aos espaços publicitários das Big Techs, alimentando um ciclo de acumulação capitalista que prioriza a expansão do oligopólio digital (Miceli et al., 2024).
O processo de exploração e alienação na moderação de conteúdo submete o trabalhador a metas quantitativas desumanas e ritmos industriais, o que reduz sua subjetividade a uma engrenagem descartável e mercantilizada para a acumulação de lucros das Big Techs (Miceli et al., 2024). Essa dinâmica gera um profundo isolamento e adoecimento psíquico em decorrência da superexposição ao terror digital sem o devido suporte terapêutico.
Paralelamente, Miceli et al. (2024) apontam que essa atividade industrial funciona como um mecanismo bidirecional de controle na esfera pública digital, estabelecendo fronteiras opacas entre a visibilidade e a exclusão. Amparadas por uma tradição de sigilo corporativo e assimetria informacional, as plataformas mantêm suas diretrizes de moderação comercial imunes ao escrutínio dos usuários, o que fomenta crises de desconfiança institucional no ecossistema de dados.
Esse cenário impulsionou a moderação de conteúdo a objeto central de debates multidisciplinares a partir do biênio 2016-2017, período em que jornalistas, cientistas e formuladores de políticas públicas passaram a desvelar e a contestar a ocultação de contingentes massivos de trabalhadores terceirizados no Sul Global, dedicados à triagem ininterrupta de conteúdos abusivos.
O ecossistema midiático global sustenta-se no Conteúdo Gerado pelo Usuário (CGU), fenômeno central para o engajamento na internet e pilar do modelo de negócios das corporações de mídia social, cuja capitalização de dados e atração de anunciantes dependem do volume e da retenção da base de usuários (Miceli et al., 2024). Contudo, a abertura de canais instantâneos e de alcance global gera severos riscos reputacionais e operacionais. Para mitigar essas vulnerabilidades e resguardar marcas e usuários, as plataformas estruturaram a moderação de conteúdo como: um processo comercial e coordenado de triagem, revisão e supressão de publicações inadequadas, nocivas ou ilícitas, cujos desdobramentos tangenciam a divisão do trabalho digital e os marcos regulatórios vigentes.
Consonante a Roberts (2018), a moderação de conteúdo opera como um dispositivo híbrido ou automatizado de controle comportamental e conformidade jurídica, responsável por avaliar o CGU e aplicar sanções que variam da exclusão de materiais à suspensão de contas. Essa prática consolidou-se como a principal linha de defesa das plataformas diante de pressões crescentes contra a circulação de desinformação, discursos de ódio e violências explícitas que ameaçam tanto a integridade dos usuários quanto a reputação das marcas corporativas.
No entanto, essa estrutura mascara uma crise fundamentada na precarização e no ocultamento da força de trabalho. Roberts (2018) conceitua essa dinâmica como um “trabalho digital comercial em segredo”, evidenciando que o ecossistema das Big Techs é deliberadamente “invisível por design”. Ao terceirizar e isolar esses contingentes majoritariamente situados em países periféricos, por meio de rígidos acordos de confidencialidade, as corporações blindam seu valor de mercado enquanto transferem integralmente o adoecimento psíquico, o esgotamento profissional e a ausência de direitos trabalhistas para uma massa de moderadores descartáveis. Destacam-se os seguintes pontos de relevância na saúde mental dos moderadores:
a) Saúde mental e trauma – profissionais são expostos diariamente a conteúdos extremos, como decapitações, abuso infantil, automutilação e assassinatos. Estudos apontam taxas elevadas de transtorno de estresse pós-traumático, depressão, ansiedade crônica e distúrbios do sono.
b) Precarização e terceirização – a maior parte da moderação global é terceirizada para países em desenvolvimento (como Índia, Filipinas e nações do Leste Africano) com o objetivo de reduzir custos. Esses trabalhadores recebem salários baixos e contam com suporte psicológico insuficiente.
c) Metas de produtividade desumanas – moderadores precisam avaliar entre 300 e 1.200 postagens por dia, o que deixa apenas alguns segundos para analisar contextos complexos. Isso aumenta a margem de erro e intensifica o esgotamento profissional (burnout).
d) Invisibilidade e isolamento – conhecidos como o “trabalho oculto da IA”, esses profissionais assinam rígidos acordos de confidencialidade (NDAs), impedindo-os de compartilhar seu cotidiano com amigos ou familiares, o que agrava o isolamento social (Roberts, 2018; grifos nossos).
Por outro lado, o fenômeno da automação e dos vieses algorítmicos é dissecado por Gillespie (2018), que analisa criticamente a ilusão da inteligência artificial como uma solução puramente neutra e escalável. O autor aponta que a pressão das plataformas por crescimento gera um patamar impossível de ser gerida unicamente por humanos, forçando a transição para moderadores algorítmicos que carecem de sensibilidade e compreensão de contextos socioculturais. Ao tentar codificar a moralidade em modelos matemáticos binários, os sistemas automatizados perpetuam e amplificam preconceitos históricos presentes nos bancos de dados de treinamento. O resultado prático desse fenômeno é a censura desproporcional de dialetos de minorias e de discursos ativistas legítimos, uma vez que a automação falha em diferenciar a denúncia de um crime de ódio da prática do crime em si, transformando algoritmos em ferramentas de exclusão sistemática.
Segundo os pesquisadores Couldry e Mejias (2019) problematizam o “colonialismo digital”, fenômeno que estabelece o inglês como a língua franca e dominante absoluta do ciberespaço. Contudo, essa dinâmica contemporânea de hegemonia transcende a mera imposição idiomática. Por conseguinte, funciona por meio de uma hierarquia digital que massifica algumas poucas línguas hegemônicas atreladas às grandes potências tecnológicas, enquanto empurra milhares de idiomas locais e indígenas do Sul Global para a invisibilidade ou extinção digital. Os Grandes Modelos de Linguagem (LLMs), como os que alimentam o ChatGPT ou o Gemini, são majoritariamente treinados com bases de dados em inglês (textos da internet americana e europeia). Quando traduzem ou operam em outras línguas, eles costumam replicar a estrutura de pensamento, vieses culturais e valores ocidentais.
Outros aspectos identificados pelos pesquisadores concernem às dinâmicas de tomada de decisão sobre a permanência de conteúdos on-line, cujos desdobramentos culminam em vieses e distorções sistemáticas em larga escala. Evidenciam-se as seguintes consequências:
Vieses de contexto e etnocentrismo
a) Imperialismo cultural – as diretrizes das plataformas digitais são estruturadas sob valores e marcos regulatórios dos Estados Unidos e da Europa Ocidental, reforçando a hiper-hegemonia do inglês e negligenciando gírias, piadas, nuances culturais e políticas regionais de outras localidades. Essa assimetria compromete a moderação e ignora o fato de que múltiplos idiomas e dialetos periféricos enfrentam processos de extinção. b) Falta de proficiência linguística – moderadores alocados em países periféricos frequentemente revisam denúncias de regiões vizinhas sem dominar dialetos locais, o que leva à remoção indevida de discursos legítimos ou à permanência de discursos de ódio camuflados.
Vieses algorítmicos e do treinamento de IA
a) Amplificação de preconceitos – moderadores humanos treinam filtros automáticos de IA. Se o banco de dados inicial contém preconceitos históricos, a IA replica esses vieses em escala, afetando milhões de decisões por segundo. b) Censura desproporcional de minorias – algoritmos tendem a classificar a linguagem de comunidades historicamente marginalizadas (como o inglês vernacular afro-americano ou termos da comunidade LGBTQIAP+) como “tóxica” de forma desproporcional, gerando shadowbanning (“banimento fantasma”). Nessa prática, a conta permanece ativa, mas suas publicações deixam de alcançar outras pessoas ou têm alcance drasticamente reduzido.
Vieses de confirmação e vieses políticos
a) Alinhamento geopolítico – governos autoritários ou sob forte tensão política pressionam plataformas digitais, resultando na suspensão de contas de ativistas e dissidentes sob a justificativa de “violação dos termos de uso” (Couldry; Mejias, 2019, p. 30–31; grifos nossos).
Em suma, a atividade dos moderadores de conteúdo opera como a engrenagem oculta que sustenta a macroestrutura do “colonialismo de dados” teorizado por Couldry e Mejias (2019). Se, por um lado, essa nova fase do capitalismo se caracteriza pela apropriação e mercantilização sistemática das subjetividades em escala mundial, por outro, ela exige uma arquitetura de governança privada para se manter viável. É nesse intervalo que se inserem as formulações de Gillespie (2018), ao demonstrar que a moderação política e cultural das plataformas funciona como o núcleo constitutivo de seus modelos de negócio. Longe de ser uma atividade periférica, o gerenciamento do horror digital por uma força de trabalho invisibilizada é o que permite às grandes corporações ditar as regras do discurso global, perpetuando assimetrias históricas entre o Norte tecnológico e a periferia do Sul espoliada.
A transição da Web 2.0 para ambientes imersivos, como o metaverso, transforma profundamente a governança digital, exigindo que a moderação evolua da análise de conteúdos estáticos para o monitoramento de comportamentos e interações tridimensionais em tempo real. Segundo o relatório do ITS Rio (Monteiro, 2024), essa dinâmica síncrona impõe desafios inéditos à governança da internet, uma vez que as ferramentas tradicionais de denúncia e filtragem se mostram obsoletas diante da complexidade de avatares que mimetizam a presença física. Nesse contexto, a linha entre liberdade de expressão e espaço seguro torna-se tênue, expondo limitações técnicas e vieses estruturais que afetam diretamente a tomada de decisão das plataformas.
Os principais desafios e vieses enfrentados por moderadores humanos e automatizados nesse ecossistema do metaverso incluem: a impossibilidade de moderação a posteriori em ambientes ao vivo, o viés cultural na interpretação de gestos virtuais e a exaustão cognitiva dos moderadores. Elencam-se as seguintes distinções:
Desafios técnicos e operacionais
a) Lógica tridimensional – diferente de uma postagem de feed, o metaverso exige moderar gestos, posicionamentos e movimentos dos avatares. Discriminação espacial, assédio virtual e simulações de violência física precisam ser interpretados em contexto. b) Escala em tempo real – a análise deve ocorrer de forma síncrona. Se o moderador atuar apenas após o término de um evento de assédio virtual, o dano psicológico à vítima já terá se consolidado devido à sensação de copresença. c) Dilema da privacidade – para julgar denúncias com precisão, plataformas cogitam gravar interações ou monitorar salas continuamente, o que esbarra em limites éticos e legais de vigilância. d) Cultura dos ambientes fechados – espaços privados, descentralizados e customizados impedem varreduras algorítmicas amplas, tornando a moderação dependente de denúncias manuais feitas pelas vítimas.
Vieses na moderação
a) Vieses geoculturais e linguísticos – diretrizes criadas por Big Techs do Norte Global dificultam a interpretação de gírias corporais, roupas de avatares e costumes de comunidades do Sul Global. b) Viés de contexto – sistemas automatizados operam de forma binária e têm dificuldade em distinguir entre uma encenação teatral legítima e um ataque real de ódio. c) Vieses socioeconômicos dos moderadores – muitos moderadores vivem em países em desenvolvimento e atuam em condições precarizadas. Suas referências culturais influenciam a classificação de comportamentos que podem ser tolerados localmente, mas proibidos globalmente (ou o inverso).
Impacto psicossocial nos profissionais
a) Trauma amplificado – moderadores que atuam disfarçados ou analisam denúncias imersivas apresentam desgaste psicológico severo. Testemunhar abusos em realidade virtual gera níveis de estresse pós-traumático muito superiores aos provocados por imagens estáticas em telas bidimensionais (Monteiro, 2024; grifos nossos).
Desta maneira, apontado por Monteiro (2024), à medida que o ecossistema digital se expande para ambientes virtuais imersivos e tridimensionais, os moderadores de conteúdo assumem um papel crucial dentro do metaverso. Nesses novos espaços, o trabalho desses profissionais deixa de ser apenas a análise de mídias estáticas e passa a monitorar interações em tempo real, comportamentos de avatares, assédio em salas virtuais e ambientes em 3D. Essa evolução mostra que a moderação se transformou em uma engenharia social complexa, indispensável para garantir a segurança e a governança em uma internet cada vez mais descentralizada e imersiva.
Os ambientes imersivos do metaverso abrem caminho para a emersão de espaços de governança delegada e autônoma, replicando as expectativas socioculturais consolidadas em interações analógicas, o que confere maior previsibilidade normativa aos usuários em comparação à rigidez estrutural de redes sociais tradicionais como o Facebook (Monteiro, 2024).
Essa pluralidade espacial potencializa a liberdade de expressão e a agência dos usuários ao permitir o desenho de ecossistemas discursivos moldados por propósitos específicos (como o pedagógico, em salas de aula virtuais), cujas regras de convivência podem, inclusive, ser mais estritas e granulares do que o próprio ordenamento jurídico estatal ou as políticas corporativas globais (Monteiro, 2024). Assim, a arquitetura desses ambientes virtuais passa a ser constituída e legitimada pelas próprias normas comunitárias pactuadas, aproximando a moderação de conteúdo das demandas e particularidades de seus participantes.
Sob a perspectiva da justiça social e da desconexão geopolítica, essa descentralização oferece uma oportunidade fulcral para mitigar o imperialismo cultural que historicamente emana do Norte Global, aproximando a moderação de conteúdo da realidade do Sul Global (Couldry; Mejias, 2019; Srnicek, 2017).
O modelo de governança descentralizada como encontrado na plataforma Reddit, é operacionalizado pelo “Auto Moderator”. Esse caso ilustra como a viabilidade de uma regulação comunitária robusta depende de instrumentos técnicos que garantam agência e granularidade aos atores locais. Essa proposta corrobora com as teses de Monteiro (2024) e Gillespie (2018), de que a moderação é a própria infraestrutura constitutiva do espaço público digital. Portanto, a descentralização técnica ganha contornos de urgência diante do metaverso. Como a janela de consolidação das expectativas dos usuários nesses ambientes imersivos é historicamente breve, o desenho de sua arquitetura inicial tende a fossilizar assimetrias de poder globais.
Embora persista a necessidade de um patamar ético e jurídico mínimo global estabelecido pelas corporações detentoras das plataformas, o empoderamento das periferias geopolíticas, em países como o Brasil (2018), depende estruturalmente da recusa a políticas centralizadoras. Esse avanço demanda, sobretudo, o fornecimento de infraestrutura técnica e de ferramentas de automação escaláveis que capacitem os moderadores locais a agir com autonomia (Monteiro, 2024).
No cenário brasileiro, a atividade de moderação comercial de conteúdo reflete as assimetrias estruturais do capitalismo periférico, operando como um polo de precarização que aprofunda as dinâmicas globais de exploração de dados. Conforme postula Antunes (2020), o avanço das plataformas digitais no país promove uma simbiose entre o desenvolvimento tecnológico de ponta e formas arcaicas de expropriação da força de trabalho, consolidando o que o autor denomina “ciberproletariado”.
As empresas de moderação comercial de conteúdo no Brasil ganham contornos práticos por meio de uma complexa rede de terceirização, onde as principais Big Techs do planeta como Meta (Facebook, Instagram), TikTok (ByteDance) e Google (YouTube) operam de forma oculta atrás de grandes corporações transnacionais de Business Process Outsourcing (BPO), a exemplo da Teleperformance (TP), Concentrix e Atento (Lobato; Souza, 2024).
De acordo com o relatório de diagnóstico do mercado brasileiro de moderação, realizado por Lobato e Souza (2024), o perfil majoritário desses funcionários brasileiros é composto por jovens adultos, universitários ou recém-graduados, muitas vezes em busca do primeiro emprego no setor de tecnologia, exigindo-se deles competências como forte equilíbrio emocional e, frequentemente, fluência ou nível intermediário em línguas estrangeiras (como o inglês e o espanhol) para lidar com fluxos internacionais de dados.
Apesar da alta exigência técnica e do severo risco psicopolítico decorrente da filtragem de violência gráfica, os salários praticados situam-se em patamares aviltantes. A remuneração média de entrada para vagas formais de nível técnico no Brasil flutua entre R$ 1.600 e R$ 3.200 mensais, valor que decai drasticamente para frações de centavos por tarefa (microtrabalho) quando executado em regimes de informalidade remota para plataformas de treinamento de inteligência artificial. Sob jornadas exaustivas em escalas 6×1 ou 5×2, com pausas cronometradas e metas que superam 1.200 análises diárias, o cenário nacional escancara a conversão da mente desses operadores em insumos precários e descartáveis para o lucro das plataformas digitais (Lobato; Souza, 2024).
Esse diagnóstico dialoga diretamente com as formulações de Roberts (2018) sobre o trabalho digital “invisível por design”, na medida em que as corporações de mídia social ocultam esses contingentes sob o manto da automação irrestrita para blindar suas marcas corporativas. Desse modo, o contexto brasileiro materializa o ciclo predatório denunciado por Miceli et al. (2024), no qual a espoliação da saúde mental e a ausência de garantias trabalhistas fundamentais convertem-se em mais-valia e excedente econômico apropriados pelas oligarquias tecnológicas.
Em última instância, o moderador de conteúdo é reduzido a uma espécie de engrenagem biológica de filtragem, um apêndice orgânico acoplado ao sistema computacional, cuja margem de erro humano se torna progressivamente intolerável.
Como observa Anders (2002), essa dinâmica revela uma crise ontológica profunda, o ser humano passa a servir ao ritmo da máquina, sendo descartado ou substituído na medida em que sua sensibilidade, seu esgotamento emocional ou seu colapso psíquico ameaçam desacelerar o fluxo operacional do dispositivo tecnológico. O resultado é um abalo na própria capacidade de o indivíduo compreender a realidade, sustentar uma identidade coerente ou atribuir sentido à existência.
Em suma, quando as crenças fundamentais que estruturam o “ser-no-mundo” deixam de oferecer orientação, instala-se uma experiência de desamparo e descontinuidade que comprova não apenas a precarização do trabalho, mas a erosão das condições mínimas para a vida humana significativa no interior do ecossistema digital.
2.1 O SOFRIMENTO PSÍQUICO DOS MODERADORES DE CONTEÚDO NA PRESPECTIVA PSICANALÍTICA
O sofrimento psíquico de moderadores de conteúdo reflete o que Dunker (2015) conceitua como as “novas formas de padecimento na contemporaneidade”, onde a exposição sistemática a conteúdos violentos atua como um invasor do espaço íntimo. Ao submeter o moderador a ritmos cognitivos artificiais e à exposição contínua a conteúdos traumáticos, o sistema abdica de sua responsabilidade institucional, transferindo o ônus da degradação laboral para o aparelho psíquico do trabalhador. Consequentemente, a punição financeira pelo não atingimento de quotas de segundos silencia a dimensão política do mal-estar, enquadrando o esgotamento emocional e a disparidade psíquica não como patologias de uma estrutura de exploração, mas como falhas individuais de desempenho e adaptação.
Dunker (2015) aponta como o neoliberalismo transforma a própria atenção e o afeto em mercadorias gerenciáveis. Para o autor, o sofrimento laboral contemporâneo deixa de ser um sintoma individual e passa a ser uma resposta direta a um modelo de gestão que silencia a partilha do mal-estar. O trabalhador, obrigado a processar o horror sem tempo para a elaboração psíquica, vive uma cronificação do trauma que fratura sua relação com o laço social.
Em consonância a essa linha de raciocínio, as premissas de Freud (2010a) descreve que a renúncia pulsional e a contenção da agressividade humana revelam-se falhas, expondo a pulsão de morte em sua vertente mais desinibida nas redes digitais. Ocorre aqui o que Freud (2010b) designou como o trauma em termos econômicos, a quebra da barreira protetora contra estímulos, na qual a violência gráfica inunda o ego sem que haja tempo ou recursos psíquicos para a devida ligação da energia pulsional.
Essa fratura ganha contornos estruturais quando analisada a partir do arcabouço teórico de Lacan (2008), especificamente pelo colapso da mediação simbólica na atividade de moderação. A tela do computador, que deveria funcionar como um anteparo protetor, falha diante do horror cru das imagens brutas. O que o moderador testemunha é o Real lacaniano em sua face mais devastadora, o qual representa, em última instância, aquilo que escapa à significação, o inassimilável que traumatiza sob a forma da tychê (o encontro da falta com o Real). Sem o suporte do Grande Outro, que na era digital se apresenta na forma de algoritmos frios, metas opressivas e políticas corporativas desumanizadas, o sujeito perde os pontos de ancoragem que ordenam sua realidade. A linguagem falha em nomear a barbárie visual consumida diariamente, restando ao trabalhador o sintoma no corpo ou a angústia paralisante diante do vazio de sentido.
Esse ecossistema de degradação laboral sinaliza uma subversão nos mecanismos defensivos mapeados pela teoria psicanalítica. Se, na metapsicologia de Freud (2010a), o recalque e a sublimação configuram-se como destinos normativos da pulsão de morte, o capitalismo de plataforma exige, inversamente, uma clivagem do ego perene.
O trabalhador é compelido a recusa fetichista da barbárie visual para salvaguardar a métrica corporativa. Ademais, manifestações como a depressão crônica e o estresse pós-traumático deixam de ser disfunções endógenas e assumem o estatuto de resposta subjetiva legítima à violência institucional. Como denuncia a clínica lacaniana, o adoecimento do moderador constitui o sintoma cifrado na carne de uma sociedade que recalca coletivamente o seu mal-estar, convertendo aquilo que se rejeita tornando-se seu próprio gozo em força de trabalho mercantilizada.
É precisamente nessa engrenagem que a análise de Dejours e Gernet (2011) desvela a violência da organização do trabalho e a falência das estratégias de defesa coletiva. Os autores descrevem que o sofrimento surge quando o trabalhador não encontra espaço para imprimir sua subjetividade, inteligência prática e criatividade na tarefa. Na moderação, o trabalho é prescrito de forma tão rígida e matematizada que anula qualquer margem de autonomia. Para sobreviver ao horror visual sem interromper a produção, o sujeito recorre às “estratégias de defesa”, como a negação da própria vulnerabilidade e o cinismo defensivo. Contudo, como o sofrimento é vivido no isolamento das telas e sob cláusulas de confidencialidade rígidas, o laço social e a solidariedade entre os pares são destruídos. A cooperação dá lugar ao medo da demissão e à vigilância mútua, impedindo que o sofrimento seja transformado em ação política ou emancipação.
Essa confluência teórica demonstra que a obsolescência fomentada pela lógica neoliberal produz uma cisão destrutiva na identidade dos moderadores de conteúdo. Conforme assevera Dejours (2007), o trabalho funciona como o mediador central da saúde mental e do reconhecimento social; logo, quando esvaziado de sentido, transmuta-se em vetor de alienação e sofrimento. Ao dialogar com o pensamento de Anders (2002), o moderador de conteúdo assume o ápice da reificação humana. Esse sujeito é compelido a introjetar a barbárie civilizatória para assegurar a rentabilidade do capital digital, submetido a regras que solapam sua dignidade.
O esgotamento emocional crônico e a despersonalização que acometem esses profissionais não configuram falhas técnicas ou acidentes de percurso do sistema. Pelo contrário, constituem o resultado inevitável de uma arquitetura perversa, que exige a robotização do afeto, o desmentido da dor e a obsolescência planejada da própria alteridade.
2.2 ANÁLISE PSICANALÍTICA DO FILME REDE TÓXICA
A narrativa do longa-metragem Rede Tóxica (American Sweatshop, 2025), sob a direção de Uta Briesewitz, articula elementos de drama e suspense para descortinar a trajetória da protagonista Daisy Moriarty, interpretada por Lili Reinhart. Na obra, a estudante de enfermagem trabalha como moderadora de conteúdo digital na corporação Paladin, inserindo-se no epicentro da infraestrutura tecnológica. A referida corporação materializa a ironia expressa no próprio título original da obra, American Sweatshop, termo traduzido historicamente como “fábrica de suor” ou “oficina de exploração laboral”. A atividade dos profissionais consiste na avaliação e filtragem de publicações denunciadas em uma plataforma digital não especificada, sob rígidas diretrizes institucionais. O ambiente corporativo caracteriza-se por metas de produtividade severas e por uma gestão autocrática, cenário que culmina em manifestações patológicas de estresse coletivo, como crises de pânico e episódios de choro. Esse ecossistema hostil e predatório é metaforizado pela presença de um jacaré em um lago artificial nos jardins da empresa.
Como estratégia defensiva diante do sofrimento imposto pela exposição contínua ao horror digital, a protagonista adota condutas aditivas e compulsões sexuais enquanto mecanismos compensatórios de anestesia emocional. Essa tentativa de tamponar o trauma engendra o progressivo isolamento da personagem, quadro clínico marcado por apatia, insônia crônica, exaustão mental e pelo esvaziamento de seus laços interpessoais. O colapso subjetivo atinge seu ápice após a exposição a um registro audiovisual altamente disruptivo que, embora mantido fora do campo visual do espectador, evoca a consumação de uma agressão sexual de extrema brutalidade.
A inércia da empresa e a negligência da polícia, que ignora o caso alegando que o vídeo é falso, forçam Daisy a iniciar uma investigação autônoma. Sem formação em crimes cibernéticos e com poucos recursos digitais, ela realiza buscas infrutíferas na rede. A saturação mental desse processo resulta em uma catarse violenta, quando a protagonista agride um funcionário no comércio.
O desfecho revela a circularidade da violência digital. Daisy tem sua agressão gravada por câmeras de vigilância e denunciada na rede social que ela mesma moderava. Esse ciclo punitivo a obriga a deixar o emprego para iniciar um tratamento de reabilitação.
Passados alguns meses, Daisy durante uma entrevista de recrutamento profissional na área da saúde, reconhece o entrevistador como o próprio agressor que outrora procurava. Essa revelação culmina em um olhar direto para a câmera. Trata-se de uma passagem ao ato que transforma o público de testemunha passiva em voyeur cumplice da dor e horror. Em termos lacanianos, o fato de o entrevistador ser o criador do vídeo reflete a derrocada definitiva do Grande Outro. A perversão revela-se entranhada no real, nas estruturas de poder e na própria governança corporativa.
Por fim, o retorno do jacaré no encerramento do filme, funciona como uma alegoria do retorno do recalcado. O predador de emboscada simboliza a transformação final de Daisy. A protagonista abandonou a mediação simbólica da enfermagem para converter seu sofrimento em um dispositivo primitivo de retaliação.
O horror que ela foi paga para deletar das plataformas digitais não foi extinto. Ele emergiu no mundo real. Agora, essa barbárie opera na realidade, pronta para devorar a ilusão de ordem da civilização contemporânea, oculta sob a superfície como o jacaré à espreita nas águas da Paladin.
O sofrimento mental dos moderadores em Rede Tóxica explicita a perspectiva de Dejours (2007) acerca do choque inescapável entre o trabalho prescrito e o real. Na atividade da protagonista, o desgaste emerge quando as defesas coletivas e o isolamento afetivo fracassam diante da barbárie cotidiana. O autor reitera que a atividade laboral nunca é neutra: ou ela opera como vetor de emancipação subjetiva, ou atua como um agente de alienação e adoecimento. No ecossistema digital retratado, a exigência de produtividade anula a elaboração psíquica do horror, convertendo o espaço laboral em um cenário de vivência traumática crônica.
Dunker (2015) expande essa problemática ao discutir como a lógica neoliberal gerencia e produz o mal-estar contemporâneo. Os imperativos algorítmicos empurram o moderador para uma solidão institucionalizada, na qual a gestão do sofrimento é privatizada e individualizada. Desprovido de redes de apoio corporativas, o sujeito arca isoladamente com os custos de sua fragmentação psíquica. Esse isolamento acelera a saturação defensiva do ego e precipita o colapso do recalque diante dos conteúdos violentos monitorados.
Essa desestabilização evoca o mecanismo de identificação com o agressor, teorizado por Ferenczi (2011) e desdobrado por Freud (2010a, 2010b) por meio dos conceitos de pulsão de morte e compulsão à repetição. Diante da impotência radical mediada pela tela, o psiquismo da protagonista introjeta o olhar invasivo do agressor como recurso extremo para não ser aniquilado pelo terror. Sob a ótica de Lacan (2008), esse mergulho obsessivo representa o confronto direto com o Real, o horror puro que escapa à linguagem e ao Simbólico. O monitor deixa de ser um anteparo protetor e passa a funcionar como uma janela para o gozo destrutivo, desestruturando o registro Imaginário da identidade da personagem.
Em virtude disso, a busca por justiça revela-se como uma tentativa sintomática de restabelecer a Lei em um universo simbólico falido. Em termos lacanianos, evidencia-se uma fratura na função do Grande Outro, uma vez que as plataformas digitais negligenciam a dignidade humana em prol do capital e do engajamento mercantil. A ação da protagonista fora do ambiente virtual denota uma passagem ao ato, isto é, um salto para fora da mediação simbólica quando o desamparo ético se torna insuportável. Esse ideal de justiça confunde-se com a própria dor, consistindo em uma busca desesperada de reconciliação com o superego para validar sua condição de testemunha do intolerável.
Em última análise, a obra funciona como uma poderosa alegoria sobre a espoliação psíquica no capitalismo de dados, demonstrando que a higienização dos ambientes virtuais exige o sacrifício subjetivo de uma classe operária invisibilizada. O colapso da personagem ilustra como os dispositivos algorítmicos das Big Techs rompem as defesas do trabalhador, transformando o labor em uma via de traumatização secundária.
A quebra da quarta parede e o retorno metafórico do jacaré confirmam o caráter cíclico da barbárie digital, evidenciando que a suposta neutralidade dos sistemas automatizados depende estruturalmente da exploração íntima e da obsolescência planejada da condição humana em países periféricos.
CONSIDERAÇÕES FINAIS
A análise desenvolvida ao longo deste capítulo evidencia que a infraestrutura digital contemporânea é sustentada por uma engrenagem humana sistematicamente invisibilizada. A suposta autonomia da inteligência artificial (IA) e a aparência de higienização dos ambientes virtuais dependem, de modo estrutural, do trabalho de moderadores de conteúdo submetidos a condições profundamente precárias. Longe de constituir uma função estritamente técnica ou periférica, a moderação comercial revela-se como o eixo político e econômico dos modelos de negócio das grandes corporações tecnológicas. Ao terceirizarem massivamente essa atividade para empresas de Business Process Outsourcing (BPO) situadas no Sul Global, as plataformas consolidam o chamado “trabalho fantasma”, arranjo no qual os trabalhadores absorvem os resíduos simbólicos da comunicação digital para viabilizar a extração contínua de valor macroeconômico.
Do ponto de vista sociopolítico, essa exploração atualiza e intensifica as dinâmicas dos capitalismos de plataforma, cognitivo e de vigilância. A mais-valia corporativa materializa-se na profunda discrepância entre os baixos salários pagos aos operadores e o valor que um ambiente digital “seguro” agrega aos espaços publicitários das Big Techs. Essa atividade cognitiva e moral é convertida em etiquetas comerciais que alimentam os próprios sistemas algorítmicos que preveem substituí-la, perpetuando um ciclo predatório de acumulação. Simultaneamente, o processo expressa formas contemporâneas de colonialismo digital e de dados: diretrizes de moderação baseadas em valores eurocêntricos silenciam expressões culturais locais, enquanto o ônus traumático da triagem informacional é integralmente transferido para as economias periféricas.
No cenário brasileiro, essa assimetria geopolítica assume contornos específicos de vulnerabilidade socioeconômica e superexploração laboral. Inseridos em um ecossistema de intensa informalidade e desregulamentação das relações de trabalho, os moderadores de conteúdo no Brasil enfrentam jornadas exaustivas e remunerações incompatíveis com a complexidade psicossocial da função. As empresas de terceirização locais operam sob a égide da flexibilização trabalhista, transferindo os custos estruturais de conectividade, hardware e, sobretudo, suporte psicológico para o próprio indivíduo. Além do desamparo institucional, esses trabalhadores sofrem o impacto de filtrar a violência urbana, política e social endêmica do país, sendo submetidos a uma dupla fratura: a exposição diária à barbárie digitalizada e a completa invisibilidade jurídica frente às corporações globais que ditam as regras e os prazos de execução do labor.
Essa precarização ganha novas dimensões com a emergência do metaverso, onde a moderação deixa de incidir apenas sobre conteúdos estáticos e passa a monitorar comportamentos, gestos e interações em tempo real. Essa transição impõe dilemas éticos inéditos, nos quais a necessidade de respostas imediatas para conter discriminações e simulações de violência física colide com os limites da privacidade e com o risco de vigilância biopolítica contínua. Paradoxalmente, embora esses espaços imersivos abram possibilidades de governança descentralizada com regras comunitárias locais capazes de mitigar o imperialismo cultural das plataformas, a exemplo do Auto Moderator do Reddit, a janela histórica para consolidar tais alternativas é estreita. A ausência de uma disputa institucional e regulatória robusta ameaça cristalizar o monopólio tecnológico do Norte Global como padrão civilizatório universal.
Sob as lentes sociológicas, filosóficas e da psicopolítica, o ecossistema laboral da moderação subverte os princípios éticos da dignidade e da justiça social. A governança algorítmica opaca e a administração tecnocrática reduzem os sujeitos a operadores burocráticos destituídos de agência, isolados por rígidos acordos de confidencialidade que os empurram para um “não-mundo” de invisibilidade social. Essa lógica produtivista conduz à “obsolescência do ser humano” e à “vergonha prometeica”, transformando o trabalhador em uma prótese cognitiva temporária e descartável diante da automação, o que desencadeia crises ontológicas profundas. Funcionando na fronteira entre a “sociedade do cansaço” e a “sociedade paliativa”, os moderadores operam como filtros anestésicos que protegem o usuário comum do negativo da realidade digital, sacrificando a própria integridade psíquica. Neoliberalmente engessada, essa organização do trabalho elimina a criatividade, a autonomia e a cooperação, confinando o sofrimento ao isolamento e impedindo sua conversão em ação política coletiva.
À luz da psicanálise, observa-se o colapso definitivo da mediação simbólica, a tela falha como anteparo diante do Real traumático, e a substituição de um Grande Outro confiável por algoritmos e metas opacas impede a nomeação e a elaboração da violência. Para dar continuidade à produção, o trabalhador recorre a mecanismos defensivos como a clivagem do ego e a recusa fetichista, tornando-se objeto instrumentalizado no circuito de gozo das plataformas. O resultado é um quadro crônico de esgotamento emocional, despersonalização e reificação extrema, agravado nos ambientes imersivos, onde a sensação de copresença intensifica o impacto do trauma secundário.
A obra cinematográfica Rede Tóxica (American Sweatshop, 2025) sintetiza empiricamente essas dinâmicas ao acompanhar a trajetória de Daisy Moriarty na corporação Paladin. O longa-metragem evidencia a relação causal entre metas abusivas, opacidade corporativa e deterioração psicossocial, chancelando as denúncias de entidades como a Uni Global Union sobre a urgência de marcos regulatórios internacionais e protocolos de proteção jurídica e de saúde mental.
Em suma, a engrenagem humana do algoritmo expõe a face mais violenta da subsunção do trabalho no capitalismo de plataforma. A integridade do espaço público digital, textual, audiovisual ou tridimensional e a segurança das marcas corporativas mundiais são integralmente sustentadas pelo sofrimento psíquico, pela erosão ontológica e pelo silenciamento daqueles que operam nos bastidores das redes.
À vista dos argumentos apresentados, este capítulo reafirma a necessidade imperativa de disputas políticas, regulatórias e epistemológicas que devolvam a humanidade, a dignidade, a equidade e a devida visibilidade histórica aos trabalhadores que sustentam o ambiente digital contemporâneo.
REFERÊNCIAS
ANDERS, Günther. A obsolescência do homem: Sobre a alma no tempo da segunda revolução industrial. Belo Horizonte: Ed. UFMG, 2002.
ANTUNES, Ricardo (org.). Uberização, trabalho digital e Indústria 4.0. São Paulo: Boitempo, 2020.
ARENDT, Hannah. A condição humana. 10. ed. Rio de Janeiro: Forense Universitária, 2007.
BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Brasília, DF: Presidência da República, 2018. Disponível em: https://www.gov.br/planalto/pt-br. Acesso em: 24 maio 2026.
COULDRY, Nick; MEJIAS, Ulises A. The Costs of Connection: How data is colonizing human life and appropriating it for capitalism. Redwood City: Stanford University Press, 2019. Disponível em: https://doi.org/10.30962/e-comps.3222. Acesso em 13 jun. 2026.
DEJOURS, Christophe. Avaliação do trabalho submetida ao teste do real: crítica dos fundamentos da avaliação. Rio de Janeiro: Relevance, 2007.
DEJOURS, Christophe; GERNET, Isabelle. Psicodinâmica do trabalho. Porto Alegre: Syntax, 2011.
DUNKER, Christian. Mal-estar, sofrimento e sintoma: uma psicopatologia do Brasil contemporâneo. São Paulo: Boitempo, 2015.
EDWARDS, Emily. Graphic violence: Illustrated theories about violence, Popular Media, and Our Social Lives. London: Routledge, 2019.
FERENCZI, Sándor. Confusão de língua entre os adultos e a criança: a linguagem da ternura e da paixão. In: Obras completas: psicanálise IV. Tradução de Álvaro Cabral. São Paulo: Martins Fontes, 2011.
FREUD, Sigmund. Além do princípio do prazer. Tradução de Paulo César de Souza. São Paulo: Companhia das Letras, 2010b.
FREUD, Sigmund. O mal-estar na civilização. Tradução de Paulo César de Souza. São Paulo: Companhia das Letras, 2010a.
GILLESPIE, Tarleton. Custodians of the Internet: Platforms, content moderation, and the hidden decisions that shape social media. New Haven: Yale University Press, 2018. Disponível em: https://www.researchgate.net/publication/327186182_Custodians_of_the_internet_Platforms_content_moderation_and_the_hidden_decisions_that_shape_social_media.Acesso em 13 jun. 2026.
GRAY, Mary L.; SURI, Siddharth. Ghost work: How to stop Silicon Valley from building a new global underclass. Boston: Houghton Mifflin Harcourt, 2019. Disponível em: http://sarkoups.free.fr/gray2019.pdf. Acesso em: 30 maio 2026.
HAN, Byung-Chul. Psicopolítica: o neoliberalismo e as novas técnicas de poder. Belo Horizonte: Âyiné, 2018.
HAN, Byung-Chul. Sociedade do cansaço. Petrópolis: Vozes, 2017.
HARARI, Yuval N. Nexus: Uma breve história das redes de informação, da idade da pedra à inteligência artificial. Tradução de Janaína Senna. São Paulo: Companhia das Letras, 2024.
LACAN, Jacques. O seminário, livro 11: os quatro conceitos fundamentais da psicanálise (1964). Rio de Janeiro: Jorge Zahar Editor, 2008.
LOBATO, Gisele; SOUZA, Amanda. Mercado Global de Moderação de Conteúdo: diagnóstico e oportunidades para o Brasil. Rio de Janeiro: Aos Fatos, 2024. Relatório de Pesquisa. Disponível em: https://static.aosfatos.org/media/cke_uploads/2024/07/09/paper_-mercado-global-de-moderacao-de-conteudo-diagnostico-e-oportunidades-para-o-brasil.pdf. Acesso em: 10 jun. 2026.
MARX, Karl. O capital: crítica da economia política. Livro I. São Paulo: Boitempo, 2013.
MICELI, Milagros; TUBARO, Paola; CASILLI, Antonio A.; LE BONNIEC, Thomas; WAGNER, Camilla Salim; SACHENBACHER, Laurenz. Who trains the data for European Artificial Intelligence? Bruxelas: Parlamento Europeu; A Esquerda, 2024. Disponível em: https://milamiceli-com.translate.goog/?_x_tr_sl=en&_x_tr_tl=pt&_x_tr_hl=pt&_x_tr_pto=sge. Acesso em: 6 jun. 2026.
MONTEIRO, Artur Péricles Lima. Desafios e oportunidades da moderação de conteúdo no metaverso. Rio de Janeiro: Instituto de Tecnologia e Sociedade (ITS Rio), 2023. Disponível em: https://itsrio.org/wp-content/uploads/2023/02/relatorio-diVerso_Desafiosoportunidades-modera%C3%A7%C3%A3o-conteudo-V5.pdf. Acesso em: 8 jun. 2026.
MORDOR INTELLIGENCE. Content moderation market: Market share size and analysis – Growth trends and forecast (2026 – 2031). Hyderabad: Mordor Intelligence, 2026. Disponível em: https://www.mordorintelligence.com/pt/industry-reports/content-moderation-market. Acesso em: 7 jun. 2026.
MOULIER-BOUTANG, Yann. Cognitive capitalism. Cambridge: Polity Press, 2011. Disponível em: https://e-tcs.org/wp-content/uploads/2014/03/MoulierBoutangYann_WhatIsCognitiveCapitalis_51368.pdf. Acesso em 30 maio 2026.
NUSSBAUM, Martha C. Fronteiras da justiça: deficiência, nacionalidade, pertencimento à espécie. Tradução de Susana de Castro. São Paulo: Martins Fontes, 2013.
ROBERTS, Sarah T. Behind the screen: Content moderation in the shadows of social media. New Haven: Yale University Press, 2019.
SEN, Amartya. A ideia de justiça. São Paulo: Companhia das Letras, 2010.
SRNICEK, Nick. Platform capitalism. Cambridge: Polity Press, 2017.
UNI GLOBAL UNION. The people behind the screens: Why tech companies need new protocols for safe content moderation. 2024. Disponível em: https://uniglobalunion.org/. Acesso em: 7 jun. 2026.
UNIÃO EUROPEIA. General data protection regulation (GDPR) of the european parliament and of the council, 2016. Disponível em: https://gdpr-info.eu/. Acesso em: 20 maio 2026.
UNIÃO EUROPEIA. Regulamento (UE) 2022/2065 do Parlamento Europeu e do Conselho de 19 de outubro de 2022 relativo a um mercado único para os serviços digitais (Lei dos Serviços Digitais). Jornal Oficial da União Europeia, Bruxelas, 2022/2026.
ZUBOFF, Shoshana. A era do capitalismo de vigilância: a luta por um futuro humano na nova fronteira do poder. Rio de Janeiro: Intrínseca, 2019.
FILME
REDE TÓXICA. (American Sweatshop). Direção: Uta Briesewitz. Produção: Barry Levinson, Tom Fontana, Anita Elsani, Jason Sosnoff. Roteiro: Matthew Nemeth. Elenco: Lili Reinhart, Daniela Melchior, Joel Fry. Estados Unidos; Alemanha: Brainstorm Media; Elsani Film (93 min), 2025. Disponível em: HBO Max, 2026.
[1]Psicóloga Clínica e Escolar (UNISANTOS), Pós-Graduada em Psicopedagogia (UNISANTOS), Psicanalista Psicodinâmica e Análise do Contemporâneo (PUCRS), Terapeuta Cognitiva Comportamental e proprietária do consultório particular Instituto Inclusão Brasil, São Vicente-SP. Currículo Lattes: http://lattes.cnpq.br/4036950234432661 E-mail: marinaalmeida@institutoinclusaobrasil.com.br
