Algoritmos podem reforçar preconceitos e afetar relações de trabalho

Relações de trabalho – Sistemas de inteligência artificial e algoritmos estão cada vez mais presentes nas redes sociais, nos aplicativos de transporte, nos mecanismos de busca e em processos automatizados de seleção, avaliação e vigilância. Embora sejam frequentemente apresentados como ferramentas técnicas e imparciais, esses recursos podem reproduzir preconceitos e aprofundar desigualdades existentes na sociedade.

Esse fenômeno é chamado de violência algorítmica. O conceito abrange situações em que sistemas computacionais automatizados discriminam pessoas, reduzem a visibilidade de determinados grupos, ampliam discursos de ódio ou interferem de maneira prejudicial nas condições de vida e de trabalho.

LEIA: Celular Seguro terá novos recursos para fechar cerco à venda de aparelhos roubados

O que é violência algorítmica?

A violência algorítmica ocorre quando plataformas digitais, ferramentas de inteligência artificial, bancos de dados e outros sistemas automatizados reproduzem ou intensificam desigualdades sociais.

Essas tecnologias podem determinar quem terá maior visibilidade nas redes, quem será tratado como suspeito, quem receberá determinada oportunidade e quem terá acesso a emprego, crédito, proteção ou reconhecimento.

O problema não se limita a uma falha isolada de programação. Os algoritmos são desenvolvidos por pessoas, empresas e instituições inseridas em sociedades marcadas por racismo, sexismo, LGBTfobia e outras formas de desigualdade estrutural. Além disso, modelos de inteligência artificial são treinados com grandes volumes de informações e decisões produzidas ao longo do tempo por seres humanos.

Quando os dados utilizados refletem práticas discriminatórias, a tecnologia pode aprender esses padrões e repeti-los de maneira automatizada. Dessa forma, a violência algorítmica não necessariamente cria a desigualdade, mas pode organizá-la, ampliá-la e conferir a ela aparência de decisão técnica.

Conteúdos LGBTQIA+ podem perder visibilidade

O cientista da comunicação e influenciador Christian Gonzatti relata há cerca de dez anos dificuldades para divulgar conteúdos voltados ao público LGBTQIA+ nas redes sociais.

Em seu perfil profissional nas redes sociais, Gonzatti inicialmente publicava conteúdos culturais ligados ao universo considerado “nerd” sob uma perspectiva LGBTQIA+. Segundo ele, a plataforma não teria interpretado o contexto de ressignificação do termo “viado”, utilizado no nome da página, e teria tratado o conteúdo como possível discurso ofensivo.

Mesmo após o projeto mudar de nome, o influenciador afirma que publicações com palavras como “gay” ou “lésbica” continuam apresentando alcance menor.

“O algoritmo não lê contexto. Não via ‘viado’ como uma ressignificação, da maneira que historicamente o movimento faz a partir de termos criados originalmente para difamar e caluniar. A página começou a ser denunciada e a plataforma as acatou, como se o espaço fosse de veiculação de discursos de ódio”, recorda.

O caso demonstra como sistemas incapazes de compreender integralmente o contexto social e histórico de uma expressão podem silenciar justamente os grupos que deveriam ser protegidos contra a discriminação.

Algoritmos também interferem nas condições de trabalho

A violência algorítmica também está presente no mundo do trabalho, especialmente nas atividades organizadas por plataformas digitais.

Um motorista de aplicativo que atua em São Paulo relatou que, mesmo após dirigir por 10 ou 12 horas, recebe mensagens informando que falta apenas mais uma corrida para alcançar determinado bônus. Estimulado pelo sistema, ele acaba prolongando a jornada, por vezes chegando a 14 horas seguidas, sem interromper a atividade nem mesmo para se alimentar.

Nesse tipo de situação, o algoritmo não funciona apenas como uma ferramenta de distribuição de corridas. Ele influencia o comportamento do trabalhador, estabelece incentivos e contribui para a intensificação da jornada.

Para o cientista da computação e jornalista, Alexandre Gonçalves, sistemas desse tipo podem pressionar as pessoas a ignorar limites físicos e necessidades humanas básicas.

“Neste caso, os algoritmos forçam as pessoas a aumentar a produtividade de um jeito que não reconhece os limites naturais da humanidade. É violência”, afirma.

A gestão algorítmica pode envolver ainda mecanismos de monitoramento, avaliação, definição de preços, acesso às tarefas e suspensão de contas. Embora essas decisões sejam apresentadas como automáticas, elas afetam diretamente a renda, a saúde, a segurança e a continuidade profissional dos trabalhadores.

Decisões automatizadas exigem transparência e revisão humana

Para a antropóloga, professora na Universidade Estadual Paulista (Unesp) e coautora do livro Violência Algorítmica e Vidas LGBTQIAPN+, Larissa Pelúcio, é preciso a regulação das plataformas, com transparência sobre os algoritmos usados para monitorar ou avaliar o trabalho e a respeito da influência desses sistemas nas condições profissionais e no acesso às atividades remuneradas.

“Precisamos de leis e políticas públicas que responsabilizem plataformas e empresas de tecnologias por danos algorítmicos”, defende.

Também é defendido o direito de receber explicações por escrito sobre decisões automatizadas que produzam efeitos negativos. Isso inclui situações como falta de pagamento, bloqueio de acesso ao trabalho, suspensão da conta ou encerramento da relação com a plataforma.

Além disso, também deve ser condicionada a possibilidade de revisão dessas decisões com participação humana adequada. A intervenção de uma pessoa permite avaliar circunstâncias que o sistema automatizado pode não compreender, além de oferecer ao trabalhador um meio efetivo de contestação.

Reconhecimento facial pode automatizar o racismo

A violência algorítmica também aparece em sistemas de reconhecimento facial. No Brasil, um levantamento que embasou a criação de um grupo de trabalho do Conselho Nacional de Justiça, em 2021, apontou que pessoas negras representavam 83% dos casos de identificação facial equivocada que resultaram em prisão preventiva de inocentes.

O dado exemplifica como desigualdades existentes nas instituições podem ser transferidas para tecnologias automatizadas. Caso informações marcadas pelo racismo estrutural sejam usadas para treinar novos sistemas, erros e discriminações podem ganhar escala e passar a ser repetidos com maior rapidez.

Nessas condições, a prática discriminatória do racismo, já presente na sociedade, pode ser reproduzida no ambiente digital com consequências sobre a liberdade, a segurança e os direitos fundamentais das pessoas atingidas.

Fake news e discursos de ódio ganham alcance

Conteúdos falsos ou ofensivos, por despertarem reações emocionais, podem receber maior engajamento e ser distribuídos para um número mais amplo de usuários.

A violência algorítmica pode ocorrer ainda por meio da produção e circulação de deepfakes usados para prejudicar a reputação de pessoas. Nesse caso, ferramentas de inteligência artificial possibilitam novas formas de agressão e ampliam a capacidade de manipulação de imagens, vídeos e falas.

“Os algoritmos de engajamento tendem a favorecer conteúdos que provocam medo, indignação e conflito. Isso faz com que discursos de ódio e desinformação ganhem escala e velocidade”, declara a assistente social, professora na Universidade Federal de Mato Grosso e coautora do livro Violência Algorítmica e Vidas LGBTQIAPN+, Bruna Irineu.

Desigualdades brasileiras aumentam os riscos

No Brasil, a combinação entre forte presença das plataformas digitais e profundas desigualdades sociais pode tornar os impactos mais graves.

Populações negras, indígenas, periféricas e LGBTQIAPN+ já convivem com diferentes formas de violência institucional. Quando os sistemas tecnológicos são desenvolvidos sem considerar essa realidade, há risco de reproduzirem os mesmos padrões de exclusão.

O problema pode ser ampliado pelo fato de muitas tecnologias serem criadas com bancos de dados que não representam adequadamente a diversidade demográfica brasileira. Sistemas treinados em outros contextos podem produzir classificações e decisões ainda menos precisas quando aplicados à população do país.

Educação digital, auditorias e regulação

Não existe uma única medida capaz de eliminar a violência algorítmica. Especialistas defendem uma combinação de educação digital, responsabilização das empresas, transparência e regulação.

O letramento digital pode ajudar usuários e trabalhadores a compreender como seus dados são coletados e utilizados pelas plataformas. Também permite reconhecer que as recomendações e decisões apresentadas pelos sistemas não são necessariamente neutras.

Auditorias independentes podem verificar se determinados algoritmos prejudicam grupos sociais ou profissionais. A revisão das bases de dados e a participação das comunidades afetadas no desenho das tecnologias também são apontadas como medidas necessárias.

Quanto maior for o poder dos algoritmos para organizar o trabalho, controlar informações e definir oportunidades, maior deverá ser a responsabilidade das empresas sobre as consequências dessas decisões. A inovação tecnológica não pode servir como justificativa para retirar direitos, ocultar critérios ou automatizar preconceitos.

“Não se trata de corrigir viés como se fosse um pequeno defeito técnico, mas de reconhecer que muitos sistemas são construídos sobre desigualdades históricas”, explica Irineu.

Acumule cashback e transfira o dinheiro direto para sua conta!

A Bee Fenati segue em expansão para garantir aos seus usuários cada vez mais benefícios. Agora a plataforma conta com a Benefícios Rede Bee, que reúne descontos em dezenas de grandes marcas, com muitas delas oferecendo cashback, ou seja, o retorno de um valor da sua compra que poderá ser transferido para sua conta! (Saiba mais aqui)

Baixe o aplicativo nas lojas App Store (iOS) e Play Store (Android) e aproveite agora!

A rede oferece em um único ambiente ofertas em áreas como educação, compras, viagens, lazer, serviços, tecnologia e muito mais. Dentre as marcas parceiras estão Magalu, Renner, Drogasil, C&A, Casas Bahia, Petz, e outras dezenas de opções que oferecem tudo que você precisa na sua rotina!

Além de poderem aproveitar os descontos oferecidos pelas marcas parceiras, os sócios e contribuintes dos sindicatos filiados à Fenati (Federação Nacional dos Trabalhadores em Tecnologia da Informação) podem receber de volta um percentual a cada compra que realizarem em parceiros que oferecem o cashback.

Este valor fica em uma carteira digital dentro da plataforma e, a partir de R$ 20 reais acumulados em cashback, o trabalhador pode enviar o dinheiro direto para sua conta bancária! Na prática, a ferramenta permite que sócios e contribuintes dos sindicatos filiados à Fenati ZEREM o valor da sua contribuição assistencial e/ou associativa!

Atualmente, o valor da contribuição é de R$ 32,50 por mês para sócios e R$ 35 por mês para contribuintes, ou seja, é possível recuperar todo esse valor e ainda acumular muito mais – tudo isso contribuindo para fortalecer a categoria e transformando as compras do dia a dia em ganho real.

Encontre o emprego dos seus sonhos com a Bee Hunter

Sócios e contribuintes agora contam também com uma ferramenta para se aproximarem das melhores oportunidades do mercado de trabalho: a Bee Hunter, uma plataforma inteligente da Bee Fenati que utiliza tecnologia e inteligência artificial para tornar a busca por vagas mais eficiente, estratégica e conectada ao perfil de cada usuário. (Saiba mais aqui)

A partir do cadastro do currículo, a plataforma utiliza inteligência artificial para analisar informações como experiências, competências e objetivos profissionais, cruzando esses dados com vagas disponíveis em empresas parceiras como Vagas.com, Sinergy e Trampos e identificando as posições que mais combinam com o perfil do usuário.

Entre agora na Bee Hunter e encontre seu emprego dos sonhos!

A Bee Hunter ainda vai além e auxilia o profissional a estar preparado para a vaga dos sonhos! Nossa inteligência analisa o perfil e sugere cursos da Fenati Academy que vão ajudá-lo a ampliar sua qualificação e elevar a aderência às vagas desejadas.

Disponível dentro da Bee Fenati, a Fenati Academy reúne mais de 8 mil opções de cursos nas áreas mais pedidas pelo mercado com acesso gratuito para sócios e contribuintes por meio de parcerias com a Oracle University, a Cisco Networking Academy e o Sindplay, todos com CERTIFICAÇÕES GRATUITAS ou com descontos exclusivos.

(Com informações de g1)
(Foto: Reprodução/Magnific)