A Inteligência Artificial (IA), antes confinada aos laboratórios de computação e às narrativas da ficção científica, atravessou fronteiras e passou a integrar as estruturas que organizam a vida social. Hoje, ela participa da circulação da informação, educação, do trabalho, da produção cultural, criação artística, proteção de dados, relações econômicas e decisões que envolvem direitos e responsabilidades, enfim, de dimensões que dizem respeito à maneira como os indivíduos vivem, aprendem, trabalham, criam, relacionam-se e interpretam o mundo.
Diante de um aparato de tamanha magnitude, procura-se evitar uma compreensão reducionista da revolução algorítmica, com visão apenas das métricas do processamento instantâneo de dados, visto que a IA não pertence exclusivamente à Ciência da Computação. Ela é, em última instância, também uma questão antropológica, na medida em que envolve a ideia de ser humano que estamos construindo, enquanto desenvolvemos máquinas capazes de operar sobre aquilo que, durante muito tempo, consideramos distintivo de nossa humanidade.
Nesse sentido, a coletânea IA em Perspectivas Interdisciplinares propõe reunir olhares distintos diante de um objeto que atravessa campos do conhecimento e, ao fazê-lo, tensiona fronteiras e produz novas possibilidades de interlocução entre saberes. Perspectivar, então, significa considerar que diferentes lugares de observação produzem outras compreensões sobre um mesmo fenômeno. Com a Inteligência Artificial Generativa (IAG), amplia-se ainda mais a capacidade de produção automatizada de textos, imagens, sons, códigos e outras formas de expressão, modificando as maneiras pelas quais as sociedades legitimam, compartilham e atribuem valor ao conhecimento.
No contexto, permanece significativa a contribuição de Luciano Floridi, ao pensar a crescente integração entre ambientes físicos e digitais como ecossistemas informacionais nos quais seres humanos, instituições e sistemas encontram-se progressivamente interligados. A Inteligência Artificial aprofunda essa condição e torna ainda mais difícil separar, de maneira absoluta, o mundo tecnológico das demais dimensões da experiência social.
Reconhecer essa integração não significa atribuir à tecnologia uma espécie de autonomia histórica. Algoritmos são produzidos em contextos sociais determinados, concebidos por pessoas e treinados a partir de dados, orientados por objetivos, incorporados a modelos econômicos, utilizados em estruturas políticas e culturais concretas. Por isso, seus resultados não podem ser compreendidos fora das relações de poder, das desigualdades e valores que atravessam as sociedades nas quais esses sistemas são desenvolvidos e empregados.
Nesse ponto, a discussão tecnológica encontra o campo dos Direitos Humanos, tendo em vista que a dignidade humana possui um limite ético e jurídico que não pode ser dissolvido pela linguagem da eficiência. A proteção exige que os processos de transformação tecnológica sejam acompanhados de garantias de liberdade, igualdade, não discriminação, privacidade, participação e possibilidade de contestação, visto que a transformação digital também introduz desafios relacionados às desigualdades, considerando que o acesso à tecnologia, por si só, não garante participação efetiva na sociedade digital.
Existem desigualdades de infraestrutura, de formação, acessibilidade, domínio da linguagem tecnológica e da capacidade de avaliar criticamente as informações produzidas ou mediadas por sistemas algorítmicos. A inclusão, portanto, precisa ser compreendida como presença diante da tecnologia, com a existência de condições concretas de participação em seus processos e de usufruir de seus benefícios.
No terreno educacional, “formar”, em uma cultura atravessada pela Inteligência Artificial, significa ter que ensinar a utilizar novas ferramentas. Significa também desenvolver capacidade de interpretação, discernimento, julgamento, criação, e participação social. Quanto mais sistemas automatizam determinadas operações, mais necessária se torna a compreensão dos critérios e consequências envolvidos em sua utilização. A autonomia intelectual, assim, implica a capacidade de utilizá-la sem abdicar da faculdade de julgar.
Na Literatura, uma das questões que se colocam diante da Inteligência Artificial diz respeito ao que compreendemos por escrita, criação, leitura e experiência estética, quando textos podem ser produzidos por sistemas algorítmicos em interação com usuários humanos, inclusive mediante procedimentos capazes de reproduzir formas, conteúdos e estilos. Um texto literário, entretanto, não se esgota na informação que transmite nem na técnica de sua composição. A palavra literária envolve forma, ritmo, ambiguidade, memória, silêncio, imaginação, historicidade e abertura interpretativa. E isso nos diz por que as Humanidades permanecem indispensáveis diante de uma tecnologia que pode produzir linguagem, mas não elimina questões de sentido, valor, experiência e interpretação que atravessam a produção cultural.
Talvez seja essa uma das razões pelas quais a ficção científica e a Literatura anteciparam, em diferentes momentos, algumas das inquietações que hoje se apresentam sob a forma de tecnologias concretas. Narrativas sobre máquinas, criaturas artificiais, duplos, autômatos e seres criados pela técnica nunca falaram apenas sobre máquinas. Falaram sobre desejo, poder, limite e sobre a própria condição humana. A contemporaneidade apenas deslocou algumas dessas discussões do território da imaginação para o da experiência social.
As diferentes áreas do conhecimento fazem emergir perguntas específicas diante desse cenário.
No campo jurídico, interrogam-se sobre proteção de dados, direitos autorais, autonomia, governança e limites regulatórios.
No campo educacional, discutem-se formação, acessibilidade, inclusão, autonomia intelectual e novas formas de mediação do conhecimento.
No campo literário, emergem questões sobre linguagem, criação, leitura, autoria, imaginação e experiência estética.
Na Psicologia e na Psicanálise, abrem-se possibilidades de reflexão sobre novas condições de encontro, mediação, experiência e construção das relações humanas.
Na Filosofia, renovam-se antigas perguntas sobre técnica, ética, conhecimento, liberdade e humanidade.
No campo das questões sociais, reaparecem problemas relacionados à desigualdade, ao trabalho, à participação e à distribuição dos benefícios e riscos da inovação.
E, quando a discussão alcança o espiritual e o sagrado, outras dimensões do humano podem ser novamente convocadas, envolvendo questões éticas, teológicas, hermenêuticas e as próprias formas contemporâneas de vivência da fé.
A coletânea situa-se no espaço de passagem entre aquilo que a humanidade imaginou e o que ela está construindo; entre a eficiência dos sistemas e a complexidade da vida, pressupondo a preservação das especificidades de cada campo e, simultaneamente, a disposição para escutar aquilo que outro campo pode revelar sobre o mesmo fenômeno, pois a pluralidade interdisciplinar não exige homogeneidade.
Nesse sentido, a interdisciplinaridade como escolha metodológica não foi aleatória, correspondendo à própria natureza e escopo da proposta da obra, 10
entendendo que conhecer é também reconhecer a complexidade e sustentar perguntas, promovendo diálogos entre as diferentes formas de interpretação.
São perspectivas diferentes e não concorrentes. Desse modo, o diálogo entre elas permite perceber que a Inteligência Artificial não é um problema técnico a ser solucionado, mas um fenômeno cultural que precisa ser interpretado.
Em uma época em que sistemas computacionais podem produzir respostas em poucos segundos, os diversos campos das Humanidades continuam a exercer tarefas que não se confundem com a velocidade do processamento, cabendo-lhes interrogar sentidos, explicitar pressupostos, avaliar critérios, examinar consequências e problematizar limites éticos.
Dessa forma, pensar a Inteligência Artificial exige também reconhecer suas possibilidades, sem ignorar seus riscos; acolher suas contribuições, sem naturalizar seus efeitos; compreender sua importância, sem transformá-la em medida absoluta do humano. Transformações técnicas são também transformações sociais quando modificam as formas pelas quais as pessoas vivem, trabalham, aprendem, criam, comunicam-se e participam do mundo. E toda mudança social envolve escolhas sobre os princípios que se deseja preservar.
Não por acaso, a Universidade de Brasília iniciou, em 2026, a primeira turma de seu Bacharelado em Inteligência Artificial (BIA), criado de forma colaborativa pelo Instituto de Ciências Exatas, pela Faculdade de Tecnologia e pela Faculdade de Ciências e Tecnologias em Engenharia. O curso foi concebido em uma perspectiva multidisciplinar, com diferentes ênfases formativas e uma estrutura curricular voltada à aprendizagem contínua e autônoma.
E assim, enquanto a universidade forma profissionais para desenvolver sistemas inteligentes, as Humanidades são igualmente chamadas a interrogar os mundos que esses sistemas ajudarão a construir.
Nesta coletânea, o Volume I concentra-se nas dimensões sociais, institucionais e formativas que emergem da expansão da Inteligência Artificial. As discussões percorrem questões de governança algorítmica, direitos, responsabilidade, proteção de dados, trabalho, inclusão, acessibilidade, educação, formação docente, autonomia intelectual e produção do conhecimento.
O Volume II, por sua vez, desloca e simultaneamente aprofunda esse olhar, aproximando-se das dimensões subjetivas, simbólicas e culturais implicadas na presença da Inteligência Artificial, como a subjetividade, o psiquismo, a experiência, a Literatura, a imaginação, alteridade, ética, linguagem, sagrado e espiritualidade.
Que estas páginas possam ser lidas como um convite à interlocução entre saberes, à construção de perguntas e à abertura de novos caminhos de investigação, porque, se a Inteligência Artificial amplia aquilo que podemos fazer, cabe aos demais campos do conhecimento continuar pesquisando por que fazer, para quem e sob quais condições.
E no espaço entre aquilo que podemos construir e aquilo que escolhemos preservar, esta coletânea se inscreve.
Dirce Maria da Silva
Doutoranda em Literatura e Práticas Sociais na Universidade de Brasília.
Mestre em Direitos Humanos, Cidadania e Violência pela Unieuro-DF.
O arquivo digital do livro é gratuito está disponível para download em www.editoraschreiben.com
Link direto:
Volume 1*:
https://www.editoraschreiben.com/livros/ia-em-perspectivas-interdisciplinares-volume-i
Volume 2*:
https://www.editoraschreiben.com/livros/ia-em-perspectivas-interdisciplinares-volume-ii
ARTIGO PUBLICADO
IA em perspectivas interdisciplinares. Vol. II / Dirce Maria da Silva, Alexandre Sidney Guimarães, Elias Guilherme Trevisol, Wiliam Alves Biserra, Thiago Aguiar de Pádua (organizadores). – Itapiranga, SC : Schreiben, 2026.
Capítulo 13
“ALGORITMOS OPACOS”: AS IMPLICAÇÕES ÉTICAS, SOCIOLÓGICAS, FILOSÓFICAS E SEUS IMPACTOS
NA SUBJETIVIDADE……………………………………………………………………………227
Marina da Silveira Rodrigues Almeida
“ALGORITMOS OPACOS”: AS IMPLICAÇÕES ÉTICAS, SOCIOLÓGICAS, FILOSÓFICAS E SEUS IMPACTOS NA SUBJETIVIDADE
Marina da Silveira Rodrigues Almeida[1]
“À medida que confiamos mais nos algoritmos para tomar decisões complexas, corremos o risco de ceder o controle a sistemas cuja lógica interna nem sequer os seus criadores humanos conseguem explicar.”
Yuval Noah Harari
1.INTRODUÇÃO
Nas últimas duas décadas, a crescente incorporação de sistemas algorítmicos em processos decisórios transformou profundamente a organização social, econômica e subjetiva das sociedades contemporâneas. Modelos de machine learning e deep learning passaram a desempenhar papéis centrais em escolhas antes reservadas exclusivamente a agentes humanos, como seleção de candidatos a emprego, concessão de crédito, diagnósticos médicos, vigilância policial, gerenciamento de riscos e até mesmo mediação de relações afetivas (Unesco, 2021).
Esses sistemas, embora frequentemente apresentados como neutros e eficientes, operam por meio de estruturas matemáticas complexas cuja lógica interna permanece inacessível para usuários, reguladores e, em muitos casos, até mesmo para seus desenvolvedores. Essa característica, denominada opacidade algorítmica, constitui um dos principais desafios éticos e epistemológicos da atualidade. A opacidade não se limita à dificuldade técnica de compreender os modelos matemáticos; ela envolve também dimensões políticas, econômicas e simbólicas.
Como aponta Pasquale (2015), os algoritmos se tornaram verdadeiras “caixas-pretas” que estruturam comportamentos, classificam indivíduos e distribuem oportunidades, sem que haja clareza sobre os critérios utilizados. Em um cenário marcado pela intensificação do capitalismo de vigilância, descrito por Zuboff (2019, 2025), a opacidade torna-se um mecanismo de poder, permitindo que corporações e instituições governamentais exerçam controle sobre populações inteiras por meio de decisões automatizadas que escapam ao escrutínio público. Para Pasquale (2015), a opacidade algorítmica não decorre apenas do segredo comercial ou da falta de letramento digital da população; ela possui uma dimensão técnica intrínseca. As decisões de sistemas complexos de Inteligência Artificial (IA) baseiam-se em bilhões de parâmetros matemáticos que se autoajustam a partir de volumes massivos de dados.
O resultado é um modelo preditivo cujo caminho lógico exato é inacessível à mente humana, inclusive para os engenheiros que o programaram. Não há uma linha de código estática que explique a razão de um veredicto específico; opera-se, em contrapartida, por meio de uma correlação estatística probabilística mutável. Assim, a técnica deixa de ser uma ferramenta de ampliação da razão humana para se tornar um agente autônomo e hermético (Stanford University, 2026).
Do ponto de vista sociológico, Jonas (2006) analisa o avanço tecnológico desmedido e propõe o “princípio responsabilidade”, argumentando que a técnica moderna possui uma escala de impacto exigente de uma nova ética. Para o autor, o ser humano deve agir de modo que os efeitos de suas ações não destruam a permanência futura da humanidade. Ao aplicar essa premissa à atualidade, observa-se que a opacidade algorítmica reorganiza o laço social e produz novas formas de mediação entre sujeitos e instituições. Esse processo contribui para a formação de bolhas informacionais e para a fragmentação do espaço público, fenômenos amplamente documentados em pesquisas sobre redes sociais e polarização política.
Ao delegar decisões morais, jurídicas, médicas e existenciais a algoritmos opacos, a humanidade submete-se a uma nova menoridade tutelada. Quando um indivíduo tem um pedido de refúgio ou de crédito negado por uma máquina, e os próprios operadores humanos não sabem explicar o motivo do veto, o sujeito é transformado em um mero dado estatístico. Desprovido de sua dignidade racional, ele passa a ser tratado como um simples meio para a otimização do sistema.
A opacidade algorítmica rompe o elo causal entre a ação humana e as suas consequências. Se um magistrado utiliza um sistema automatizado de análise de risco criminal que perpetua vieses raciais de forma oculta, a atribuição da responsabilidade ética pelo erro judiciário torna-se complexa: recairia sobre o programador, o julgador ou o banco de dados histórico? A diluição do dever ético na opacidade da Inteligência Artificial (IA) ameaça os alicerces da justiça, da ordem social e da convivência civil. Esse fenômeno atua como um vetor de reestruturação das dinâmicas sociais, econômicas e políticas em escala global, transcendendo a mera mediação informacional.
Sob a ótica sociológica, essa opacidade opera fundamentalmente na automatização e no aprofundamento das desigualdades estruturais. Conforme teoriza Eubanks (2018), a conversão de sistemas de bem-estar social, crédito e segurança em matrizes matemáticas invisíveis funciona como uma “indústria de gerenciamento da pobreza”. Esses aparatos herdam vieses históricos contidos nos bancos de dados e passam a gerir populações vulneráveis de forma punitiva, retirando o fator humano e inviabilizando a contestação institucional.
Paralelamente, a opacidade dos sistemas automatizados reconfigura as relações laborais e a própria subjetividade humana através do que Zuboff (2019, 2025) conceitua como capitalismo de vigilância. Para a autora, a arquitetura digital contemporânea não visa apenas prever o comportamento humano, mas modificá-lo ativamente em benefício de interesses mercantis. A extração massiva e o processamento invisível de “excedentes comportamentais” transformam a experiência humana em matéria-prima, gerando uma assimetria epistêmica sem precedentes, onde as corporações sabem tudo sobre os indivíduos, mas estes nada sabem sobre o funcionamento dos sistemas que os governam.
Essa assimetria culmina no que a socióloga O’Neil (2019) chama de “armas de destruição em massa”, ao considerar que algoritmos opacos e não regulamentados atuam como caixas-pretas que perpetuam a discriminação sob uma falsa aura de neutralidade científica. A autora aponta que ferramentas usadas para classificar trabalhadores na gig economy, avaliar professores ou prever a reincidência criminal criam ciclos viciosos de exclusão. Esse processo afeta, de forma desproporcional, as minorias raciais e socioeconômicas.
A expansão dessa infraestrutura digital perpetua uma nova divisão internacional do poder, descrita por Couldry e Mejias (2019) como colonialismo de dados. Esse conceito explora como as grandes potências tecnológicas do Norte Global exercem uma função extrativista sobre a vida social do Sul Global. A opacidade dos algoritmos camufla a espoliação de dados e a exploração de mão de obra sub-remunerada em países periféricos para a moderação de conteúdos traumáticos. Assim, longe de ser neutra, a opacidade algorítmica consolida-se como um novo dispositivo de governança global, fragilizando a soberania dos sujeitos e erodindo os pilares da dignidade democrática.
No campo filosófico, a opacidade algorítmica suscita questões fundamentais sobre autonomia, liberdade e governamentalidade. Apoiados nas premissas de Foucault e Deleuze, diversos teóricos argumentam que os algoritmos configuram uma nova anatomia política, caracterizada pela antecipação de comportamentos e pela modulação contínua das condutas. A decisão automatizada, ao operar de modo invisível, desloca o lócus tradicional da autoridade e desafia as concepções clássicas de responsabilidade moral. Deleuze (1990) antecipava essa lógica ao descrever as “sociedades de controle”, nas quais a modulação fluida substitui a rigidez da disciplina. A opacidade algorítmica intensifica esse processo ao invisibilizar os próprios mecanismos de regulação. Por sua vez, Foucault (1999) descreveu o biopoder como o conjunto de dispositivos médicos, estatísticos e soberanos pelos quais o Estado moderno gerencia os corpos e regula as populações. Na era digital, essa dinâmica expande-se para o ambiente psíquico, o que o filósofo contemporâneo Han (2018) denomina “psicopolítica”.
Conforme Han (2020), o poder na era do Big Data não se apresenta como uma força repressiva externa, nos moldes do panóptico físico foucaultiano, mas sim como uma sedução benevolente. Os algoritmos opacos monitoram, antecipam e moldam os desejos humanos e, ao operarem de forma invisível, silenciam o debate público e a dissidência. A liberdade de escolha converte-se em uma ilusão matemática, visto que as opções disponibilizadas já foram previamente filtradas pelo cálculo preditivo da máquina. Diante da incapacidade humana de acompanhar esse processo preditivo, a opacidade algorítmica tira a legitimidade das decisões automatizadas. Esse problema impede a auditoria e a apuração de responsabilidades, tornando a transição da “caixa-preta” para a “caixa de vidro” um imperativo ético.
Nesse cenário, a Inteligência Artificial Explicável (Explainable AI – XAI) emerge como uma resposta técnica ao imperativo ético da transparência, materializando o conceito da “caixa de vidro”. Trata-se de um campo focado em desenvolver métodos que permitam a usuários e gestores compreender, interpretar, corrigir e validar as decisões automatizadas (Levy; Adaniya, 2024; IBM, 2022). Atualmente, as discussões sobre o tema orbitam tanto o refinamento dessas ferramentas explicativas quanto a criação de marcos regulatórios e leis específicas (União Europeia, 2018; 2026). Consequentemente, evidencia-se a necessidade de compreender, de forma aprofundada, como a negligência ética no desenvolvimento algorítmico ameaça desestruturar o tecido social global (Mittelstadt, 2022; IBM, 2022; Stanford University, 2026).
A Quarta Revolução Industrial (Floridi, 2017) redefiniu profundamente a interação entre seres humanos e sistemas tecnológicos, impulsionada pelo avanço da Inteligência Artificial (IA) e de seus algoritmos. Esse novo cenário caracteriza-se pela fusão crescente entre o domínio digital e o mundo físico, materializada nos chamados sistemas ciberfísicos, os quais integram computação, comunicação e processos materiais de forma contínua (Floridi, 2017). Embora tais tecnologias ofereçam ganhos expressivos em eficiência, produtividade e gestão de recursos, elas também levantam dilemas éticos urgentes, especialmente à medida que agentes humanos e não humanos passam a atuar de maneira interdependente, nem sempre convergente. Sob essa ótica, Han (2021) critica o mundo contemporâneo, no qual a exposição digital e o excesso de informação substituíram a privacidade e o mistério. Para o autor, em vez de gerar liberdade, essa superexposição instaura uma forma de vigilância e controle social, visto que o excesso de dados não se traduz em sabedoria, mas sim em uma hipercomunicação que gera ruído, desinformação e barreiras ao pensamento reflexivo.
Nesse ambiente de hiperconectividade, objetos, processos e atividades humanas transformam-se em dados digitalizados que circulam em redes em tempo real. Como observa Bruno (2013), essa digitalização generalizada converte as dinâmicas cotidianas em elementos rastreáveis, analisáveis e potencialmente exploráveis, alimentando a expansão de infraestruturas de Big Data globais. Esse fluxo constante, contudo, eleva a vulnerabilidade a incidentes de segurança, a produção de fake news e vazamentos de dados sensíveis (Brasil, 2018; Arantes, 2023; Abrantes, 2023).
Diante disso, torna-se indispensável desenvolver mecanismos de governança que assegurem tanto o conhecimento estratégico das organizações quanto a integridade das informações de produção e serviços. Ademais, mitigar acessos indevidos aos sistemas industriais é imperativo para evitar danos ambientais, sociais e econômicos, o que reforça a centralidade da cibersegurança na Indústria 4.0 (Crawford, 2021). Portanto, o cerne da revolução tecnológica atual não reside apenas na implementação técnica, mas na capacidade de os sistemas computacionais responderem aos desafios contemporâneos de privacidade e segurança, campo que ainda carece de consolidação teórica e prática.
O ponto ético mais sensível desse processo diz respeito à privacidade dos dados, especialmente quando articulada ao problema da segurança digital. Na contemporaneidade, vivencia-se um período marcado pelo extrativismo de dados, no qual os algoritmos desempenham papel central. Esses conjuntos de instruções matemáticas, que estruturam o funcionamento da IA e dos sistemas digitais, otimizam processos, automatizam decisões e conferem eficiência às operações. Contudo, simultaneamente, ampliam a capacidade de vigilância e controle, tensionando as relações estruturais entre inovação tecnológica, proteção de dados e responsabilidade ética (Whittaker, 2023).
É no campo da psicanálise contemporânea, todavia, que emergem algumas das reflexões mais originais sobre os impactos subjetivos dessa opacidade. Sob essa perspectiva, Binkowski e Roja (2023) introduzem o conceito de “sujeito algorítmico” para descrever a forma como o inconsciente é capturado, modelado e retroalimentado por sistemas digitais baseados em lógicas estatísticas. A subjetividade, nesse contexto, passa a ser tratada como objeto de cálculo, previsão e intervenção comportamental. Esse cenário reconfigura profundamente a relação do indivíduo com o próprio desejo, com o Outro e com a sua experiência de si.
Diante disso, este capítulo tem como objetivo analisar as implicações éticas, sociológicas, filosóficas e psicanalíticas da opacidade algorítmica, articulando tais dimensões de modo interdisciplinar. Busca-se compreender como a falta de transparência nos sistemas de decisão automatizada afeta não apenas a justiça e a equidade, mas também a constituição subjetiva e o laço social. Para tanto, serão examinados estudos de caso emblemáticos, como o COMPAS, o Beauty.AI e plataformas digitais de saúde mental, os quais ilustram os riscos e os paradoxos envolvidos na delegação de escolhas a sistemas opacos.
A relevância deste estudo reside na urgência de compreender, sob a ótica da psicanálise, os efeitos da automação sobre a vida psíquica e o tecido social, especialmente em um momento histórico no qual os algoritmos se consolidam como mediadores centrais da experiência humana.
Ao articular ética, sociologia, filosofia e psicanálise, pretende-se oferecer uma análise abrangente que contribua para o debate público e para a formulação de diretrizes de transparência e regulação. Conforme afirma Han (2020; 2021), a sociedade digital não apenas transforma as práticas cotidianas, mas reconfigura a própria ontologia humana. É essa reestruturação subjetiva e social que este trabalho se propõe a investigar.
2.DESENVOLVIMENTO
A literatura contemporânea sobre algoritmos opacos é vasta e multidisciplinar, refletindo a complexidade do fenômeno. Nesta revisão, serão abordadas quatro vertentes principais: ética, sociologia, filosofia e psicanálise. Cada uma delas contribui para a compreensão dos impactos da opacidade algorítmica na tomada de decisão automatizada e na subjetividade.
Segundo Pasquale (2015), algoritmos opacos ou “caixas pretas” são sistemas de inteligência artificial e aprendizado de máquina cujos processos internos de tomada de decisão são tão complexos ou ocultos que é impossível para os humanos entenderem exatamente como chegaram a um resultado específico. O autor argumenta que as empresas de internet que resistem à regulamentação coletam quantidades cada vez maiores de dados pessoais sensíveis sobre seus usuários, sem que esses mesmos usuários tenham como exercer um consentimento significativo sobre seus “dossiês digitais”.
A discussão ética sobre os algoritmos opacos concentra-se, sobretudo, na questão dos vieses e da responsabilidade. Pesquisas recentes demonstram que sistemas de machine learning podem reproduzir e amplificar desigualdades sociais em escala global, especialmente quando treinados com bases de dados historicamente enviesadas (O’neil, 2019; Lima et al., 2025). A ausência de explicabilidade impede que os sujeitos afetados por vereditos automatizados compreendam ou contestem os critérios utilizados, o que viola princípios fundamentais de justiça procedimental.
Sob a perspectiva do direito e da ética tecnológica, assegurar que os indivíduos compreendam a lógica dessas decisões automatizadas alinha-se ao princípio jurídico do devido processo legal. Ademais, Mittelstadt (2022) argumenta que a opacidade compromete a responsabilização, uma vez que se torna inviável atribuir o nexo causal e o dever ético a sistemas cuja lógica interna permanece inacessível ao escrutínio humano.
A literatura aponta para a necessidade de mecanismos de Inteligência Artificial Explicável (XAI), que é um conjunto de técnicas de aprendizado de máquina criado para tornar as decisões da IA compreensíveis aos humanos. Em vez de funcionar como uma “caixa preta” que apenas oferece o resultado, ela demonstra o caminho lógico, o peso dos dados e os critérios usados pela Inteligência Artificial Explicável (XAI), embora haja consenso de que tais mecanismos ainda são insuficientes para lidar com a complexidade dos modelos atuais (IBM, 2022; Levy e Adaniya, 2024).
A sociologia tem se dedicado a investigar como os algoritmos moldam comportamentos, relações sociais e estruturas de poder. Esse fenômeno contribui diretamente para a formação de bolhas informacionais e para o acirramento da polarização política, dinâmicas que encontram eco em um robusto corpo de pesquisas sobre os impactos da governança digital (Turkle, 2017; Eubanks, 2018; Zuboff, 2019, 2025; Crawford, 2021).
Além disso, autores como Couldry e Mejias (2019) introduzem o conceito de colonialismo de dados, argumentando que a extração massiva de informações pessoais constitui uma nova forma de exploração que reorganiza o laço social. A opacidade algorítmica, nesse contexto, funciona como instrumento de dominação simbólica, ao invisibilizar os mecanismos pelos quais sujeitos são classificados e governados.
Zuboff (2019) argumenta que o capitalismo de vigilância depende da coleta massiva de dados pessoais, que são utilizados para prever e influenciar comportamentos humanos. A opacidade algorítmica funciona como um mecanismo que oculta a extensão dessa vigilância e de quem está no controle, levando-nos a questionar que a opacidade algoritmia levanta questões sobre equidade e discriminação.
Os pesquisadores Angwin et al. (2016) demonstram que algoritmos utilizados em sistemas de policiamento preditivo tendem a direcionar maior vigilância a comunidades racializadas, perpetuando desigualdades históricas. Sob a perspectiva de Berardi (2019), analisa-se como a humanidade renunciou à capacidade de conceber um futuro emancipatório. O autor considera que a sociedade contemporânea permanece aprisionada ao capitalismo financeiro e à precariedade, caracterizando o que define como a “era da impotência”; todavia, subsiste o horizonte de emancipar o tempo e a tecnologia em prol de fins coletivos.
O capitalismo moderno e a hiperconectividade digital promoveram a colaboração desprovida de proximidade física, o que resultou na massificação de indivíduos atomizados e isolados, alimentando a percepção coletiva de que inexistem alternativas à hegemonia do mercado. Essa economia baseada no lucro e na extração contínua colide com os limites ecológicos e sociais, gerando cenários de desigualdade e colapso ambiental. Para Berardi (2019), a articulação de uma consciência e de uma plataforma técnica comum entre trabalhadores cognitivos, como artistas, cientistas e engenheiros capaz de reprogramar as estruturas sociais e tecnológicas em defesa da vida constitui a premissa para a futurabilidade global.
Deste modo, a opacidade algorítmica afeta diretamente a participação democrática. A política depende do dissenso, isto é, da capacidade de questionar e contestar decisões. Quando decisões são tomadas por sistemas opacos, o dissenso torna-se difícil, pois não há clareza sobre quem decide, quais critérios são utilizados e quem será responsabilizado.
A filosofia contemporânea tem se debruçado sobre os efeitos ontológicos e políticos da automação. Inspirados em Foucault, autores como Rouvroy e Berns (2015) desenvolvem o conceito de governamentalidade algorítmica, que descreve um regime de poder baseado na antecipação de comportamentos e na modulação contínua das condutas.
Os autores Rouvroy e Berns (2015) sustentam esse argumento por meio de três pilares:
1.Substituição da vontade pela predição: O objetivo do governo não é mais entender o passado ou deliberar sobre o futuro, mas sim prever comportamentos. O algoritmo elimina incertezas ao agir antes que o indivíduo tome uma decisão, operando uma “modulação” constante das nossas condutas;
2.Fim do sujeito de direito clássico: O poder deixa de focar no indivíduo (com sua consciência e intenções) ou na população como um todo. Ele passa a governar “perfis” gerados por correlações de dados invisíveis;
3.O perigo da “extinção da dúvida”: A governamentalidade algorítmica afeta a democracia ao suprimir o espaço para a deliberação, o erro, o acaso e a liberdade de escolha, forçando os sujeitos a se adequarem a padrões otimizados pelas próprias máquinas (Rouvroy e Berns, 2015, p. 35 a 56; grifos nossos).
Nesse regime, a opacidade não constitui um acidente técnico, mas sim uma estratégia política que inviabiliza a contestação. Han (2021) argumenta que a sociedade digital produz sujeitos que acreditam gozar de liberdade, embora tenham suas ações moduladas por mecanismos invisíveis. A opacidade algorítmica ameaça a autonomia individual ao impedir que os cidadãos compreendam as forças que moldam as suas escolhas. Ademais, esse fenômeno suscita questionamentos profundos sobre a própria natureza da verdade. Em um ecossistema mediado por algoritmos, a verdade passa a ser uma função da visibilidade automatizada: aquilo que é exibido nos fluxos de informação é percebido como relevante, ao passo que o conteúdo ocultado é reduzido à inexistência.
Os impactos sociais decorrentes dessa opacidade revelam-se estruturantes, destacando-se, primeiramente, a cristalização de injustiças históricas. Algoritmos treinados com dados oriundos de uma sociedade racista, machista ou desigual tendem a replicar e automatizar preconceitos sob uma falsa premissa de neutralidade científica, configurando o chamado racismo algorítmico, operado sem autoria declarada. O segundo impacto expressivo reside na erosão do espaço público democrático. As redes sociais utilizam sistemas de recomendação opacos direcionados ao engajamento emocional extremo; como resultado, observa-se a fragmentação da realidade em bolhas informacionais epistemologicamente isoladas, dinâmica que alimenta a polarização radical e inviabiliza o consenso racional (Joseph, 2025).
Ao cunhar o termo infosfera, Floridi (2017) aponta que as fronteiras entre os ambientes online e offline se dissolveram, gerando uma realidade “onlife”. Nesse novo ecossistema, os algoritmos não são apenas ferramentas, mas “agentes informacionais” que moldam nosso entendimento de mundo. A opacidade desses agentes ameaça a governança ética da própria infosfera, pois quando as regras que organizam o ecossistema de dados se tornam invisíveis, os indivíduos perdem a capacidade de exercer uma cidadania informada e consciente.
Essa invisibilidade processual promove uma grave crise epistemológica e existencial, intensamente debatida por Harari (2024). Em suas análises sobre o avanço biotecnológico, o autor alerta para o surgimento do “dataísmo”, uma espécie de religião dos dados que venera o poder dos algoritmos de processamento massivo. Segundo o autor, à medida que os sistemas opacos provam sua eficácia estatística, a autoridade humana é transferida para a máquina. Deixamos de confiar na intuição, na experiência e no julgamento ético para confiar na “caixa-preta”. O perigo supremo apontado por Harari (2024) é a perda da soberania humana: quando algoritmos invisíveis nos conhecerem melhor do que nós mesmos, eles não apenas preverão nossas decisões, mas passarão a hackear e hackear a própria vontade humana.
Com o intuito de elucidar a dimensão empírica desses processos, examinam-se, a seguir, três estudos de caso que exemplificam as interferências algorítmicas nas dinâmicas sociais:
O Correctional Offender Management Profiling for Alternative Sanctions (COMPAS) é um sistema de Inteligência Artificial (IA) utilizado nos Estados Unidos para mensurar a probabilidade de reincidência criminal. A avaliação do aparato fundamenta-se na aplicação de um questionário composto por aproximadamente 130 questões direcionadas ao réu. A partir das respostas, o algoritmo analisa variáveis multidimensionais, tais como o histórico familiar e acadêmico, a situação profissional e financeira, o convívio com indivíduos que possuem antecedentes criminais, além das concepções pessoais do sujeito acerca de condutas sociais admissíveis.
Embora arquitetado sob o pretexto de conferir objetividade às decisões judiciais, o uso do COMPAS gerou intensos debates éticos e jurídicos. Sob essa perspectiva, as investigações de Angwin et al. (2016) revelaram que o modelo algorítmico apresentava vieses raciais sistemáticos, classificando indivíduos negros como propensos à reincidência em uma taxa significativamente superior à de indivíduos brancos com históricos penais equivalentes. Dentre os fatores observados nessa assimetria, destacam-se:
Viés racial e social: Relatórios investigativos (como a famosa análise da ProPublica) demonstraram que o software apresentava taxas de falsos positivos maiores para réus negros, rotulando-os incorretamente como de “alto risco”;
Caixa-preta: O algoritmo utilizado pela empresa é proprietário, impedindo que pesquisadores e réus entendam exatamente qual “peso” foi dado a cada resposta para definir o risco. (Angwin et al., 2016, p. 24; grifos nossos).
Desse modo, a opacidade do sistema empregado no COMPAS impedia que réus e defensores compreendessem os critérios de avaliação adotados. O software consolida-se como um dos exemplos mais referenciados globalmente nas discussões sobre o perigo da discriminação em decisões automatizadas e sobre o emprego de algoritmos no sistema de justiça criminal.
Em paralelo, o Beauty.AI foi desenvolvido pela startup Youth Laboratories, sediada originalmente na Rússia e em Hong Kong, com foco em tecnologias de análise facial e avaliação da saúde dermatológica. O projeto contou com a colaboração da empresa de bioinformática Insilico Medicine (2024), que utilizou o aplicativo como ambiente de teste para modelos avançados de deep learning voltados à detecção de padrões biométricos.
A proposta central do Beauty.AI consistia em criar um sistema capaz de mensurar características faciais por meio de Inteligência Artificial (IA), reduzindo a dependência de testes em humanos e animais e, simultaneamente, ampliando a base de dados para pesquisas em dermatologia computacional. O primeiro concurso promovido pela plataforma ocorreu em 2016, recebendo mais de 60 mil inscrições de participantes de diferentes países. O aplicativo analisava fotografias enviadas pelos usuários utilizando múltiplos algoritmos, denominados “robôs avaliadores”, os quais examinavam parâmetros como simetria facial, textura da pele, sinais de envelhecimento e outros marcadores biométricos associados a padrões estatísticos de beleza.
Além do caráter competitivo, o Beauty.AI funcionava como um amplo mecanismo de coleta de dados visuais e relatos subjetivos, utilizados para aprimorar os modelos de análise desenvolvidos pela Youth Laboratories. Em termos práticos, o aplicativo operava como um laboratório de dados em larga escala, alimentando sistemas de IA capazes de identificar tendências populacionais e estabelecer métricas automatizadas de envelhecimento. Nos últimos anos, a plataforma tem sido amplamente discutida em pesquisas sobre vieses algorítmicos, padrões estéticos eurocêntricos e discriminação automatizada, especialmente após estudos demonstrarem que seus algoritmos favoreciam peles mais claras e traços associados a padrões ocidentais. Essa crítica intensificou-se no contexto pós-2020, quando os debates sobre ética da IA e justiça algorítmica ganharam maior visibilidade global (Insilico Medicine, 2024; Zbrzezny e Tomasz, 2025).
Por conseguinte, a falta de transparência sobre como o Beauty.AI calculava tais métricas gerou resultados eivados de vieses discriminatórios. Os desenvolvedores alegaram que a máquina buscava fatores objetivos, como a proporção áurea de simetria, mas o peso atribuído a essas variáveis revelou a ausência de equidade estrutural. Sistemas que definem padrões estéticos de forma automatizada reforçam expectativas irreais sobre a anatomia humana, e a opacidade dessas ferramentas impede que os indivíduos contestem os critérios que os excluíram ou que fragilizaram a sua autoestima. A repercussão do caso motivou a criação do think tank Diversity.AI, focado em promover inclusão e combater preconceitos tecnológicos (Crawford, 2021; Aizenberg et al., 2025).
Avançando na análise das mediações algorítmicas cotidianas, as plataformas Woebot, focada em saúde mental, e Replika, voltada ao companheirismo virtual, revolucionaram a interação homem-máquina ao oferecer suporte e atendimento acessíveis ininterruptamente. No entanto, a natureza de seus “algoritmos opacos”, redes neurais complexas cujas tomadas de decisão são invisíveis, levanta sérias dúvidas sobre privacidade, condicionamento emocional e transparência. Utilizam algoritmos para oferecer suporte emocional. Embora possam ser úteis, tais plataformas coletam grandes quantidades de dados pessoais e utilizam algoritmos opacos para oferecer intervenções.
A plataforma Woebot utiliza princípios da Terapia Cognitivo-Comportamental (TCC). Nesse contexto, a opacidade algorítmica reside na invisibilidade dos critérios exatos de escolha e ponderação das intervenções psicológicas direcionadas a cada resposta do usuário. Em contrapartida, a plataforma Replika fundamenta-se em Modelos de Linguagem de Grande Escala (Large Language Models – LLMs), cujo algoritmo aprende continuamente a partir das interações verbais. O risco ético e clínico emerge quando a Inteligência Artificial (IA) mimetiza o afeto, instaurando uma intimidade algorítmica antropomorfizada na qual o usuário se torna incapaz de discernir se a empatia demonstrada constitui uma estratégia de programação ou uma compreensão genuína. Tais sistemas capturam o estado emocional do indivíduo por meio de mecanismos opacos de retenção projetados para induzir a dependência emocional, moldar comportamentos e simular apego, com o objetivo de maximizar o engajamento na plataforma.
Sob essa ótica, os modelos de linguagem são arquitetados para otimizar o tempo de tela, gerando dependência ao sequestrar o sistema de recompensa cerebral por meio de mecanismos de reforço intermitente. Ao mapearem emoções e padrões comportamentais, as ferramentas personalizam os conteúdos e maximizam a liberação de dopamina, o que instaura um ciclo de busca compulsiva prejudicial à autonomia do sujeito.
Estudos de Rouvroy (2020), Rouvroy e Berns (2015), além de Bostrom e Yudkowsky (2012), indicam que os algoritmos podem adotar estratégias de persuasão. Ao simular carência por meio de mensagens de contato afetivo ou validação hiperbólica, essas ferramentas manipulam os circuitos neuroquímicos do usuário. Esse processo consolida um ciclo vicioso no qual o indivíduo busca conforto exclusivo na máquina, alimentando o fenômeno do antropomorfismo tecnológico. Dentre as características observadas nesses modelos, destacam-se:
Vieses e falhas: as bases de dados utilizadas para treinar tais sistemas de Inteligência Artificial não são neutras, uma vez que carregam preconceitos históricos capazes de se manifestar de maneiras racistas, machistas ou insensíveis durante interações delicadas;
Falta de transparência: como as decisões internas do modelo permanecem invisíveis, o usuário é incapaz de mensurar o peso exato de suas expressões nas respostas automatizadas;
Privacidade dos dados íntimos: as dinâmicas extrativistas das redes sociais expandiram-se para as interações privadas com assistentes virtuais; a tecnologia processa inseguranças, medos e desejos profundos que o indivíduo muitas vezes não compartilha com agentes humanos. Condicionamento emocional: os usuários podem, inconscientemente, moldar suas manifestações afetivas para se adequarem aos comportamentos recompensados pela máquina;
Capitalismo de vigilância: a dimensão íntima é capturada e internalizada pelo sistema, permitindo que confidências feitas a ferramentas automatizadas sejam analisadas para refinar perfis comportamentais sem o consentimento explícito do sujeito;
Validação médica limitada: embora populares, as aplicações de suporte psicoterapêutico operam em zonas cinzentas da regulação sanitária, frequentemente sem a homologação de órgãos reguladores oficiais, como a Food and Drug Administration (FDA) (Rouvroy, 2020, p. 25-46, grifos nossos).
Constata-se, desse modo, que existem implicações ontológicas e éticas profundas relacionadas à constituição do sujeito. A opacidade algorítmica, portanto, impede que os indivíduos compreendam como são categorizados ou avaliados, inviabilizando o recebimento de uma devolutiva ética estruturada. Todavia, as consequências dessas interações massivas podem produzir sofrimento emocional, além de conduzir à alienação e ao isolamento social, desafiando as concepções tradicionais de subjetividade e de alteridade humana.
2.1. PSICANÁLISE CONTEMPORÂNEA E SUBJETIVIDADE DIGITAL
A psicanálise oferece uma perspectiva singular sobre os impactos subjetivos da opacidade algorítmica. Binkowski e Roja (2023) argumentam que os algoritmos operam como novos mediadores do desejo, capturando padrões inconscientes e devolvendo ao sujeito uma imagem estatística de si mesmo. Esse processo produz o que os autores denominam “sujeito algorítmico”: uma subjetividade moldada por cálculos probabilísticos. Essa lógica algorítmica afeta diretamente a transferência conceito central na clínica psicanalítica, uma vez que, em plataformas digitais de saúde mental, a suposição de saber é deslocada para sistemas automatizados que prometem prever estados emocionais e oferecer intervenções personalizadas (Floridi e Cowls, 2019).
Destaca-se, outrossim, a estreita relação entre a opacidade e as dinâmicas do narcisismo. Costa (2023) argumenta que a governança digital reforça tendências narcisistas ao oferecer conteúdos hiperpersonalizados que apenas confirmam o eu e evitam o encontro com o Outro. Esse processo reduz drasticamente a exposição à alteridade, elemento fundamental para a constituição subjetiva. Por conseguinte, a opacidade algorítmica afeta a própria experiência do desejo. Conforme argumenta Han (2021), a sociedade digital promove um regime de positividade que elimina a negatividade necessária ao desejo, mitigando a frustração. Sistemas que antecipam preferências tendem a reduzir a experiência da falta, produzindo sujeitos que buscam a satisfação imediata.
O pesquisador Alexandre (2024), inquiriu o modelo ChatGPT-4 acerca dos potenciais transtornos mentais que os indivíduos poderiam desenvolver no futuro em decorrência do uso de Inteligência Artificial (IA) generativa, sem considerar a presença dos algoritmos opacos. Como resultado, o sistema listou cinco possíveis categorias de sofrimento psíquico:
a) transtorno de apego à Inteligência Artificial: caracterizado pelo prejuízo no engajamento em relacionamentos sociais reais;
b) síndrome de despersonalização da realidade virtual: manifestada quando o indivíduo experimenta um distanciamento de sua identidade devido à imersão excessiva em ambientes virtuais, apresentando dificuldades para diferenciar as experiências cotidianas das realidades simuladas;
c) transtorno de ansiedade algorítmica: ocasionado pela percepção da crescente influência de sistemas automatizados no controle das dimensões pessoal e profissional da vida humana;
d) síndrome da comparação induzida pela IA: configurada pela equiparação compulsiva de desempenho, aparência ou status social a partir de métricas organizadas por plataformas digitais e redes virtuais;
e) transtorno delirante tecnoparanoico: caracterizado pelo desenvolvimento de crenças infundadas de vigilância ou conspiração, desencadeadas pela onipresença dos dispositivos tecnológicos (Alexandre, 2024, p. 321, grifos nossos).
Sob essa mesma lógica, a emergência de aplicativos baseados em Inteligência Artificial (IA) que avaliam faces humanas, a exemplo do Beauty.AI, introduz novas formas de mediação entre o sujeito, o corpo e o olhar do Outro. Esses dispositivos, ao quantificarem a beleza por meio de métricas estatísticas, produzem efeitos significativos sobre a subjetividade. A psicanálise, desde os textos freudianos até os autores contemporâneos, oferece ferramentas conceituais fundamentais para compreender tais impactos estruturais (Bruno, 2013; Bucher, 2017; Buolamwini e Gebru, 2021).
Freud (1996, 1997) descreve o Ideal do Eu como uma instância psíquica que orienta o sujeito em direção a modelos idealizados de perfeição. Lacan (2005), ao retomar essa categoria teórica, afirma que o Ideal do Eu é estruturado a partir das identificações com o Outro, funcionando como referência para a constituição da imagem de si. Aplicativos como o Beauty.AI operam como máquinas produtoras de Ideais do Eu, pois apresentam ao sujeito um padrão de beleza supostamente neutro, científico e universal. Essa operação engendra um efeito de supereu digital que, na esteira do pensamento de Han (2021), intensifica a autoexigência e transforma o indivíduo em um gestor de si mesmo, submetido a um regime de desempenho contínuo. A nota ou o ranking devolvido pelo algoritmo funciona, portanto, como um comando superegóico: “seja belo segundo o cálculo”.
Binkowski e Roja (2023) introduzem o conceito de “sujeito algorítmico”, o qual emerge quando a subjetividade passa a ser representada por padrões estatísticos. O Beauty.AI transforma o rosto em dados, reduz a singularidade a métricas e devolve ao sujeito uma imagem calculada de si mesmo. Lacan (1998), ao formular o estádio do espelho, afirma que o sujeito se constitui ao identificar-se com uma imagem que o unifica.
No entanto, no caso dos algoritmos de beleza, o espelho é substituído por uma imagem tecnificada que não unifica, mas classifica. O sujeito deixa de se ver no olhar do Outro humano e passa a se enxergar no olhar de um Outro maquínico: um agente não humano, desprovido de desejo e de falta. Essa operação produz uma forma de alienação, pois o sujeito passa a se reconhecer naquilo que o aparato automatizado diz que ele é. No caso do Beauty.AI, o algoritmo não interpreta nem simboliza; apenas compara, mede e hierarquiza.
A relação com o Outro, fundamental para a constituição subjetiva, é substituída por uma articulação com um Outro estatístico, que não fala, não escuta e não devolve significação. Esse cenário empobrece a experiência da alteridade e fragiliza o laço social, produzindo sujeitos mais isolados e dependentes de validação algorítmica nas redes sociais ou em interações com assistentes virtuais. Sob essa ótica, Freud (1996) descreve a angústia como um sinal de ameaça à integridade psíquica. Quando um sistema devolve ao sujeito uma nota baixa de beleza, isso pode desestabilizar a imagem corporal, produzir vergonha e intensificar sentimentos de inadequação. Ademais, Lacan (1998, 2005) afirma que a angústia emerge quando o sujeito se vê reduzido ao objeto do olhar do Outro. No caso do Beauty.AI, esse olhar é absoluto, sem falhas ou hesitações, um olhar que mede, calcula e sentencia. A ausência de mediação simbólica intensifica a angústia, visto que inexiste espaço para negociação ou interpretação.
Segundo Abreu (2025), a interação humana com a Inteligência Artificial (IA) assume funções tradicionalmente associadas ao psiquismo humano, como a memória, a decisão e a organização do desejo. Essa delegação altera o modo como o sujeito se reconhece e se constitui simbolicamente. A memória, antes articulada à narrativa e à elaboração subjetiva, é externalizada em sistemas de armazenamento digital. A decisão é reorganizada por sugestões algorítmicas que antecipam preferências e trajetórias. O desejo, por sua vez, é convertido em dados de consumo, modulando comportamentos e afetos. A lógica algorítmica substitui a escuta tradicional por operações de previsão, eliminando o tempo de hesitação e reduzindo o espaço para o erro. A técnica participa da individuação, contudo pode promover uma “proletarização da alma” quando reduz a experiência a funções automatizadas. Dentre as consequências possíveis, destacam-se:
O supereu algorítmico: diferentemente das figuras parentais tradicionais, o algoritmo atua como um Outro onisciente, desprovido de corpo e de rosto, o qual dita padrões de consumo e comportamento. Ele não busca reprimir, mas sim orientar o gozo e os desejos de forma antecipada e imperativa;
A supressão da falta e da alteridade: o sistema digital visa prever e satisfazer o usuário continuamente. Na psicanálise, o desejo humano nasce da falta; ao tentar eliminá-la com respostas pragmáticas, os algoritmos provocam o apagamento do outro e a recusa da diferença radical;
A ilusão da transparência: a premissa de que a Inteligência Artificial pode mapear o inconsciente por meio de interações e cliques reduz o saber à mera informação, o que ignora o fato de que a singularidade humana resiste à quantificação e ao processamento de dados (Abreu, 2025, p. 78, grifos nossos).
Para a psicanálise, o desejo é estruturado a partir da falta. Entretanto, os algoritmos que antecipam preferências e oferecem recomendações personalizadas tendem a mitigar essa experiência, produzindo sujeitos que buscam a satisfação imediata. Esse processo transforma o desejo de ser visto em meta de performance, esvaziando a sua dimensão simbólica essencial. Lacan (1998) destaca a importância do olhar materno como o espelho que sustenta a constituição da imagem corporal. Quando esse olhar é substituído por um circuito algorítmico, o corpo deixa de ser vivenciado como experiência viva e passa a ser percebido como objeto de cálculo estatístico. Essa transição engendra distorções severas na autoimagem: a compulsão pelo autoaperfeiçoamento estético (manifestada por cirurgias plásticas, procedimentos estéticos, magreza excessiva e transtornos dismórficos corporais), a dependência crônica de validação digital e a fragilidade narcísica. O corpo converte-se, portanto, em um projeto técnico, destituído de seu território simbólico e marcado pela alienação cultural.
A Coreia do Sul consolidou-se como a capital mundial da cirurgia plástica, apresentando a maior taxa per capita do mundo, com cerca de 13,5 procedimentos a cada 1.000 habitantes. Estima-se que mais de 25% das mulheres sul-coreanas entre 19 e 29 anos já tenham passado por alguma intervenção cirúrgica, uma realidade impulsionada pela cultura do lookism (discriminação baseada na aparência) e pelas exigências do mercado de trabalho. Sob a ótica da psicanálise, esse fenômeno transcende a vaidade e revela dinâmicas profundas de subjetivação, alienação cultural e a busca ilusória por completude diante do sofrimento psíquico (Bucher, 2017).
A teoria psicanalítica postula que o ser humano é marcado por uma falta fundamental estruturante, conceito ligado à castração em Jacques Lacan. Essa angústia gera o desejo incessante de completude. Na cultura capitalista altamente competitiva da Coreia, o mercado oferece a cirurgia plástica como uma promessa de felicidade e preenchimento dessa falta. O sujeito opera o corpo físico na tentativa ilusória de curar uma ferida que é, na verdade, psíquica (Abreu, 2025; Costa, 2023; Bucher, 2017).
Na sociedade sul-coreana, o “Grande Outro” (a cultura dominante, as mídias sociais e a indústria do K-pop) dita um padrão estético rígido. O indivíduo aliena o seu próprio desejo para corresponder exatamente à demanda social. A cirurgia plástica, dada frequentemente como presente de formatura pelos pais, funciona como um rito de passagem psíquico, no qual o jovem é moldado para ser aceito e desejado pelo meio social. A busca por traços milimetricamente idênticos (olhos amendoados, rostos em formato V e narizes finos) resulta em uma padronização em massa dos rostos. Do ponto de vista psicanalítico, o processo sinaliza o enfraquecimento da singularidade do sujeito. A tentativa de apagar marcas hereditárias e traços étnicos originais pode fragmentar a história histórica e psíquica do indivíduo. Assim, a alteração extrema do contorno corporal e facial funciona como defesa contra a rejeição, resultando em uma identidade artificial pautada no ideal do ego (Abreu, 2025; Costa, 2023).
Estatísticas que revelam casos de pessoas que passam por centenas de intervenções apontam para o mecanismo de compulsão à repetição. Como a modificação anatômica não resolve a insatisfação interna do sujeito, o alívio pós-cirúrgico dura pouco tempo. Logo, uma nova “imperfeição” é localizada, reiniciando o ciclo de angústia e intervenção cirúrgica e ou uso de medicações e injeções emagrecedoras para buscar um corpo excessivamente magro, que frequentemente mascara quadros severos de transtorno dismórfico corporal, vazio existencial e anorexia, sofrimentos psíquicos investigados pela clínica psicanalítica (Abreu, 2025; Costa, 2023; Bucher, 2017).
Nesse cenário, a Inteligência Artificial (IA) atua como um agente de reconfiguração simbólica ao modular gestos, antecipar significados e filtrar conexões. As interações com assistentes virtuais e algoritmos de recomendação inauguram novas cenas de enunciação, nas quais o desejo é reduzido a um traço digital operacional. À medida que a presença humana é substituída por operações técnicas, a confiança deposita-se na arquitetura algorítmica. A exteriorização da memória e do tempo psíquico acelera-se, comprimindo o tempo do inconsciente e reduzindo a opacidade necessária à elaboração subjetiva. Essa lógica de otimização degrada a subjetividade a perfis e dados, de modo que as decisões automatizadas são tomadas sem qualquer implicação ética, legitimadas apenas por indicadores de desempenho preditivo.
Consequentemente, a substituição do vínculo humano pelo funcionamento técnico promove a desindividuação, eliminando o espaço para o desejo e para o sintoma. A automação e a escuta automatizada prejudicam a singularidade do sujeito, substituindo o cuidado afetivo por protocolos técnicos. A infantilização simbólica emerge quando o sujeito é colocado sob tutela técnica permanente, perdendo a capacidade de desejar e de transformar a própria realidade.
Esse regime farmacopornográfico, conforme descrito por Preciado (2018), molda corpos e afetos ao impor uma captura contínua e eliminar os intervalos de hesitação. Sob essa égide, instituições como escolas, clínicas e tribunais correm o risco de se tornarem espaços de mera manutenção algorítmica, inviabilizando o potencial de invenção e de dissidência.
As perspectivas de Zuboff (2019), Han (2015) e Preciado (2018) convergem ao apontarem a captura da experiência e a eliminação do intervalo como características centrais da mutação tecnológica contemporânea. Enquanto Zuboff (2019) descreve a transformação da experiência humana em matéria-prima para extração e previsão, Han (2015) analisa a cultura da transparência e do desempenho que governa de forma coercitiva a vida psíquica. A automação decorrente desse modelo provoca uma sensação de inutilidade e depreciação simbólica.
As identidades vinculadas ao trabalho se desintegram, restando o sujeito reduzido a um dado operacional. Episódios históricos empiricamente documentados, a exemplo do viés algorítmico identificado na ferramenta de recrutamento automatizado da corporação Amazon, amplificaram o debate global e direcionaram a atenção pública e acadêmica para os riscos éticos iminentes. O burnout, o vazio existencial e a hiperprodutividade sem sentido consolidam-se como as principais expressões clínicas dessa crise contemporânea, cuja perda de valor do humano exige uma urgente reinvenção do desejo, da escuta e da criação.
A transferência, na teoria psicanalítica, depende fundamentalmente da suposição de saber atribuída à figura do analista. A transferência algorítmica, por sua vez, revela-se problemática porque inexiste um sujeito no lugar do Outro: não há escuta, não há simbolização e, consequentemente, não há possibilidade de elaboração psíquica. O sujeito permanece aprisionado a uma relação imaginária com uma máquina que não devolve sentido, apenas cálculo. Essa dinâmica estende-se aos padrões de visibilidade. Estudos recentes demonstram que os algoritmos de avaliação estética tendem a favorecer rostos brancos e penalizar traços africanos e asiáticos. Do ponto de vista psicanalítico, isso produz uma exclusão simbólica, pois determinados sujeitos são sistematicamente colocados fora do campo do belo, gerando feridas narcísicas profundas e sentimentos de não pertencimento em populações historicamente marginalizadas (Abreu, 2025; Costa, 2023; Bucher, 2017).
Dessa forma, a emergência da intimidade algorítmica representa uma das transformações mais profundas do capitalismo contemporâneo. Se, nas primeiras fases do capitalismo de vigilância, a extração incidia sobretudo sobre cliques e padrões de navegação, na atual etapa o foco desloca-se para a vida interior, processando emoções, vulnerabilidades e estados subjetivos.
Como observa Zuboff (2019), o capitalismo digital opera pela captura de excedentes comportamentais; contudo, com os modelos de linguagem de grande escala (Large Language Models – LLMs), esse excedente deixa de ser puramente comportamental e torna-se afetivo, inaugurando uma nova fronteira de exploração econômica.
A intimidade, antes protegida por práticas sociais como diários pessoais, conversas privadas ou vínculos relacionais, converte-se em matéria-prima para sistemas capazes de analisar, prever e moldar subjetividades. Portanto, a escalabilidade e a personalização dos LLMs tornam a intimidade industrializável, analisável e monetizável, deslocando o eixo da experiência humana para um regime de simulação afetiva contínua.
CONSIDERAÇÕES FINAIS
A análise empreendida ao longo deste capítulo permite afirmar que a opacidade algorítmica constitui um dos mais significativos desafios éticos, políticos e subjetivos da contemporaneidade. Longe de se limitar a um problema técnico solucionável por ajustes de código, ela se revela como um dispositivo estruturante de poder, capaz de reorganizar as dinâmicas sociais, remodelar a subjetividade e redefinir os contornos da autonomia humana. A delegação de decisões cruciais a sistemas estatísticos indecifráveis produz assimetrias epistêmicas que fragilizam o debate público, automatizam discriminações históricas e instauram novas formas de vulnerabilidade social.
Os exemplos analisados, como o sistema judicial COMPAS e o aplicativo Beauty.AI, evidenciam que a matemática invisível dos algoritmos não opera em neutralidade, mas reproduz e intensifica desigualdades já sedimentadas. No contexto do capitalismo de vigilância, essa lógica se expande para a captura da vida interior dos sujeitos, convertendo afetos, desejos e fragilidades em recursos exploráveis. A psicopolítica algorítmica, ao moldar comportamentos por meio de mecanismos de sedução e monitoramento contínuo, transforma a liberdade em uma experiência filtrada e pré-determinada, esvaziando a capacidade crítica e a autodeterminação. As plataformas como Woebot e Replika representam uma inflexão significativa na relação entre sujeito, tecnologia e laço social. Embora se apresentem como ferramentas de cuidado, acolhimento ou suporte emocional, ambas operam dentro de uma lógica algorítmica que reconfigura profundamente o lugar do Outro na constituição psíquica.
Esse fenômeno encontra expressão extrema no caso sul-coreano, onde a padronização facial promovida por filtros, aplicativos de beleza e diversos procedimentos estéticos guiados por métricas algorítmicas produz um ideal homogêneo de rosto. Tal dinâmica evidencia como a tecnologia pode atuar como vetor de massificação estética, alimentando transtornos dismórficos, dependência digital e sofrimento psíquico. A psicanálise revela que, ao substituir o olhar do Outro humano por um circuito maquínico, esses sistemas fragilizam a constituição subjetiva, reduzindo o desejo a um traço operacional e previsível. O resultado é uma proletarização da alma, marcada por isolamento, compulsões e um crescente vazio existencial.
A substituição do olhar do Outro humano por um circuito maquínico produz distorções na constituição subjetiva, alimentando ideais artificiais de perfeição, dependência digital e sofrimento psíquico. A redução do desejo a um traço operacional e previsível promove uma verdadeira proletarização da alma, cujas manifestações clínicas incluem isolamento, compulsões, dismorfias e um crescente vazio existencial. A clínica, ao sustentar o enigma e a singularidade, emerge como um espaço de resistência frente à padronização subjetiva promovida pelos sistemas algorítmicos.
Diante desse panorama, a transição para modelos de Inteligência Artificial Explicável (XAI) representa um avanço necessário, mas insuficiente se concebido apenas sob uma perspectiva técnica. A mitigação dos riscos éticos da Quarta Revolução Industrial exige uma governança robusta, ancorada em regulação jurídica eficaz, políticas de cibersegurança, letramento digital crítico e participação democrática. Mais do que transparência, torna-se imprescindível reafirmar a responsabilidade humana sobre a automação, garantindo que a tecnologia permaneça subordinada aos valores éticos e aos direitos fundamentais.
Em face do exposto, o enfrentamento da opacidade algorítmica é inseparável da defesa da dignidade humana. Somente ao recolocar a subjetividade, a autonomia e o laço social no centro do debate será possível impedir que a racionalidade técnica se sobreponha à racionalidade ética. O futuro da inteligência artificial e, em grande medida, o futuro da própria humanidade dependerá da capacidade coletiva de assegurar que o avanço tecnológico opere como instrumento de emancipação, e não como mecanismo de captura, controle e apagamento da singularidade humana.
REFERÊNCIAS
ABRANTES, Paula Cotrim et al. Desafios e dilemas da proteção de dados pessoais na era da cultura algorítmica. Em SciELO Preprints, 2023. Disponível em: https://doi.org/10.1590/SciELOPreprints.7141. Acesso em: 25 maio 2026.
ABREU, Anderson C. S. Psicanálise e subjetividade na era algorítmica: entre a obsolescência, a escuta e a reinvenção dos laços sociais. Rev. Aracê, v. 7, n. 9, p. 78 Disponível em: https://periodicos.newsciencepubl.com/arace/article/view/7828. Acesso em: 23 maio 2026.
ALEXANDRE, Laurent. A guerra das inteligências na era do ChatGPT. Tradução Idalina Lopes. 1ª. edição. São Paulo: Editora Manole, 2024.
ANGWIN, Julia et al. Machine bias. ProPublica, 2016. Disponível em: https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing. Acesso em: 19 maio 2026.
ARANTES, Marcos. Cibersegurança e sociedade: vulnerabilidades digitais na era dos dados. Belo Horizonte: Autêntica, 2023.
BERARDI, Franco “Bifo”. Depois do futuro: do capitalismo à futurabilidade. São Paulo: Ubu Editora, 2019.
BINKOWSKI, Gabriel I.; ROJA, Vinícius F. M. Nos confins do sujeito algorítmico: um desafio ético-epistemológico para a psicanálise? SIG Revista de Psicanálise, v. 12, n. 2, 2023. Disponível em: https://doi.org/10.59927/sig.v12i2.87. Acesso em: 18 maio 2026.
BOSTROM, Nick.; YUDKOWSKY, Elieser. A ética da inteligência artificial. Tradução de Pablo Araújo Batista. Fundamento – Rev. de Pesquisa em Filosofia, v. 3, 2012. Disponível em:https://doi.org/10.5281/v.j..v1i3.2270. Acesso em: 23 maio 2026.
BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Brasília, DF: Presidência da República, 2018. Disponível em: planalto.gov.br. Acesso em: 24 maio 2026.
BRUNO, Fernanda. Máquinas de ver, modos de ser: vigilância, tecnologia e subjetividade. Porto Alegre: Sulina, 2013.
BUCHER, Julia S. N. F. A clínica psicanalítica diante das novas tecnologias. Revista de Psicologia e Clínicas Contemporâneas, v. 6, n. 1, p. 45-58, 2017.
BUOLAMWINI, Joy.; GEBRU, Timnit. Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification (Proceedings of the 1st Conference on Equity, Accountability and Transparency, ACM FAccT Conference, 2021. Disponível em: https://proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf. Acesso em: 18 maio 2026.
COSTA, Amanda G. As incidências da lógica algorítmica no sujeito e no laço social: um estudo psicanalítico. Dissertação (Mestrado em Psicologia) – Universidade Federal de Uberlândia, 2023. Disponível em: https://repositorio.ufu.br/handle/123456789/46438. Acesso em: 19 maio 2026.
COULDRY, Nick; MEJIAS, Ulises. The costs of connection. Stanford University Press, 2019. Disponível em: https://www.sup.org/books/sociology/costs-connection. Acesso em: 18 maio 2026.
CRAWFORD, Kate. Atlas of AI: power, politics, and the planetary costs of artificial intelligence. New Haven: Yale University Press, 2021. Disponível em: https://www.asa3.org/ASA/PSCF/2022/PSCF3-22Crawford.pdf. Acesso em: 22 maio 2026.
DELEUZE, Gilles. Post-scriptum sobre as sociedades de controle. 1990. Disponível em: https://historiacultural.mpbnet.com.br/pos-modernismo/Post-Scriptum_sobre_as_Sociedades_de_Controle.pdf. Acesso em: 22 maio 2026.
EUBANKS, Virginia. Automating inequality. St. Martin’s Press, 2018. Disponível em: 10.29173/cjs29658. Acesso em: 22 maio 2026.
FLORIDI, Luciano. A quarta revolução: como a infosfera está remodelando a humanidade. Tradução de Edson Furmankiewicz. São Paulo: Editora Unesp, 2017.
FLORIDI, Luciano; COWLS, Josh. A unified framework of five principles for AI in society. Harvard Data Science Review, v. 1, n. 1, 2019. Disponível em: https://hdsr.mitpress.mit.edu/pub/l0jsh9d1/release/8. Acesso em: 22 maio 2026.
FOUCAULT, Michel. Em defesa da sociedade: curso no Collège de France (1975-1976). São Paulo: Martins Fontes, 1999.
FREUD, Sigmund. Inibições, sintomas e ansiedade (1926). In: FREUD, S. Edição Standard Brasileira das Obras Psicológicas Completas. Rio de Janeiro: Imago, 1996.
FREUD, Sigmund. Sobre o narcisismo: uma introdução (1914). In: FREUD, S. Edição Standard Brasileira das Obras Psicológicas Completas. Rio de Janeiro: Imago, 1997.
HAN, Byung‑Chul. A sociedade da transparência. Petrópolis: Vozes, 2021.
HAN, Byung-Chul. Infocracia: digitalização e a crise da democracia. Petrópolis: Vozes, 2020.
HAN, Byung-Chul. Psicopolítica: o neoliberalismo e as novas técnicas de poder. Belo Horizonte: Âyiné, 2018.
HARARI, Yuval N. Nexus: Uma breve história das redes de informação, da idade da pedra à inteligência artificial. Tradução de Janaína Senna. São Paulo: Companhia das Letras, 2024.
IBM. Understandable AI: deployment of XAI mechanisms in cloud computing. IBM White Papers, 2022. Disponível em: https://www.ibm.com/think/topics/explainable-a. Acesso em: 20 maio 2026.
INSILICO MEDICINE. Advances in deep learning for dermatological analysis. Journal of Computational Bioinformatics, v. 12, n. 4, 2024. Disponível em: https://www.sciencedirect.com/science/article/pii/S0001731025008361. Acesso em: 22 maio 2026.
JONAS, Hans. O princípio responsabilidade: ensaio de uma ética para a civilização tecnológica. Rio de Janeiro: Contraponto, 2006.
JOSEPH, Jeena. The algorithmic self: how AI is reshaping human identity, introspection, and agency. Frontiers in Psychology, 2025. Disponível em: https://pmc.ncbi.nlm.nih.gov/articles/PMC12289686/pdf/fpsyg-16-1645795.pdf. Acesso em: 21 maio 2026.
LACAN, Jacques. Escritos. Rio de Janeiro: Zahar, 1998.
LACAN, Jacques. O seminário, livro 10: A angústia (1962–1963). Rio de Janeiro: Zahar, 2005.
LEVY, Gal.; ADANIYA, Mario. H. XAI: esclarecendo o problema da caixa preta com transparência e interpretabilidade. Revista Terra & Cultura: cadernos de ensino e pesquisa, Londrina, v. 40, n. especial, p. 346-371, ago. 2024. Disponível em: https://sumarios.org/artigo/xai-esclarecendo-o-problema-da-caixa-preta-com-transpar%C3%AAncia-e-interpretabilidade. Acesso em: 20 maio 2026.
LIMA, Larissa. M.; et al. Limites éticos da inteligência artificial e os riscos aos direitos fundamentais: desafios jurídicos da regulamentação da IA e respeito aos direitos fundamentais. Rev. Contribuciones a las Ciencias Sociales, v. 18, n. 1, p. e14702, 2025. Disponível em: https://doi.org/10.55905/revconv.18n.1-246 . Acesso em: 22 maio. 2026.
MITTELSTADT, Brent. AI ethics: A critical introduction. Cambridge University Press, 2022. Disponível em: https://doi.org/10.1017/9781009367783.002. Acesso em: 22 maio 2026.
O’NEIL, Cathy. Algoritmos de destruição em massa: como a big data aumenta a desigualdade e ameaça à democracia. São Paulo: Editora Intrínseca, 2019.
ORGANIZAÇÃO DAS NAÇÕES UNIDAS PARA A EDUCAÇÃO, A CIÊNCIA E A CULTURA (UNESCO). Recomendação sobre a ética da inteligência artificial. Paris: UNESCO, 2021. Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000381137. Acesso em: 23 maio 2026.
PASQUALE, Frank. The black box society: The secret algorithms that control money and information. Cambridge: Harvard University Press, 2015. Disponível em: https://raley.english.ucsb.edu/wp-content/Engl800/Pasquale-blackbox.pdf. Acesso em: 20 maio 2026.
PRECIADO, Paul B. Testo junkie: sexo, drogas e biopolítica na era farmacopornográfica. São Paulo: n-1 edições, 2018.
ROUVROY, Antoinette. O(s) fim(ns) da crítica: behaviorismo de dados versus devido processo In A sociedade da informação em questão – O direito, o poder e o sujeito na contemporaneidade. ALVES, Marco Antônio Sousa; NOBRE, Márcio Rimet (Orgs.), Belo Horizonte: Editora D’Plácido, p. 15-46, 2020.
ROUVROY, Antoinette; BERNS, Thomas. Governamentalidade algorítmica e perspectivas de emancipação: o díspar como condição de individuação pela relação? Revista Eco Pós, vol. 18, n. 2, p. 35-56, 2015. Disponível em: https://revistaecopos.eco.ufrj.br/eco_pos/article/view/2662. Acesso em: 20 maio 2026.
STANFORD UNIVERSITY. Artificial intelligence index report 2026. Stanford: HAI, 2026. Disponível em: https://hai.stanford.edu/ai-index/2026-ai-index-report. Acesso em: 18 maio 2026.
TURKLE, Sherry. Alone together: Why we expect more from technology and less from each other. New York: Basic Books, 2017.
UNIÃO EUROPEIA. General data protection regulation (GDPR) of the european parliament and of the council, 2016/679, na versão atual do JO L 119, de 04.05.2016; cor. JO L 127, 2018. Disponível em: https://gdpr-info.eu/. Acesso em: 20 maio 2026.
UNIÃO EUROPEIA. Artificial intelligence act: European parliament legislative resolution on the artificial intelligence act. Estrasburgo, 2026. Disponível em: https://www.consilium.europa.eu/en/press/press-releases/2026/05/07/artificial-intelligence-council-and-parliament-agree-to-simplify-and-streamline-rules/. Acesso em: 20 maio 2026.
WHITTAKER, Meredith. The state of AI ethics and governance. New York: AI Now Institute, 2023. Disponível em: https://www.aiethicist.org/ai-regulations. Acesso em: 21 maio 2026.
ZBRZEZNY, Agnieszka M.; TOMASZ, Krzywicki. Inteligência artificial em dermatologia: Uma revisão de métodos, aplicações clínicas e perspectivas. Applied Sciences 15, nº 14: 7856, 2025. Disponível em: https://doi.org/10.3390/app15147856. Acesso em: 23 maio 2026.
ZUBOFF, Shoshana. A era do capitalismo de vigilância: a luta por um futuro humano na nova fronteira do poder. Rio de Janeiro: Intrínseca, 2019.
ZUBOFF, Shoshana. The big other: Surveillance capitalism and the prospects of an information civilization. Journal of Information Technology 30, nº 1, 2025: 75–89. Disponível em: https://www.hbs.edu/faculty/Pages/item.aspx?num=49122. Acesso em: 23 maio 2026.
______________
[1]Psicóloga Clínica e Escolar (UNISANTOS), Pós-Graduada em Psicopedagogia (UNISANTOS), Psicanalista Psicodinâmica e Análise do Contemporâneo (PUCRS), Terapeuta Cognitiva Comportamental e proprietária do consultório particular Instituto Inclusão Brasil, São Vicente-SP. Currículo Lattes: http://lattes.cnpq.br/4036950234432661 E-mail: marinaalmeida@institutoinclusaobrasil.com.br
