Planos da Meta envolvendo IA preocupa entidades de segurança digital

Meta – Ativistas e entidades ligadas à segurança na internet manifestaram preocupação com os planos da Meta para o uso de inteligência artificial (IA) em processos de verificação de riscos nas plataformas da empresa, como Facebook, Instagram e Threads. Em carta enviada à diretora executiva da Ofcom, Melanie Dawes, essas organizações pediram ao órgão regulador britânico que imponha limites ao uso da tecnologia em avaliações de risco consideradas cruciais.

A Ofcom, responsável pela regulação das comunicações no Reino Unido, afirmou ao jornal The Guardian que está “considerando as preocupações” levantadas pelas entidades. Entre as signatárias da carta estão a Molly Rose Foundation, a NSPCC e a Internet Watch Foundation.

LEIA: BB adota IA generativa para auxiliar gestão financeira de clientes

As críticas ganham ainda mais força diante da Lei de Segurança Online do Reino Unido, que exige que redes sociais avaliem como danos podem ocorrer em seus serviços e que apresentem planos para mitigá-los. A proteção de menores de idade e a prevenção contra conteúdo ilegal estão entre os principais objetivos da legislação.

Segundo as entidades, permitir que a IA conduza essas avaliações de risco seria um “passo retrógrado e altamente alarmante”. Na carta, os ativistas pedem ainda que a Ofcom “conteste qualquer suposição de que as plataformas podem escolher diluir seus processos de avaliação de risco”.

A mobilização foi organizada pela Molly Rose Foundation após uma reportagem da NPR, publicada em maio, revelar que atualizações de algoritmos da Meta e novos recursos de segurança estariam sendo aprovados, em sua maioria, por sistemas de IA, sem análise de funcionários da empresa.

A mudança permitiria o lançamento mais rápido de atualizações para Facebook, Instagram e WhatsApp, mas também poderia aumentar os riscos para os usuários, ao reduzir mecanismos de prevenção, afirmou um ex-executivo da Meta à emissora, sob condição de anonimato.

A NPR também apontou que a Meta cogitava automatizar revisões em áreas sensíveis, como riscos para o público juvenil e o monitoramento da disseminação de informações falsas.

Outro lado

Em resposta, um porta-voz da Ofcom declarou que a organização deixou claro que “os serviços devem nos informar quem completou, revisou e aprovou sua avaliação de risco. Estamos considerando as preocupações levantadas nesta carta e responderemos oportunamente”.

A Meta, por sua vez, afirmou que a carta distorce a abordagem da empresa sobre segurança. “Não estamos usando IA para tomar decisões sobre risco”, disse um porta-voz da big tech.

“Em vez disso, nossos especialistas construíram uma ferramenta que ajuda equipes a identificar quando requisitos legais e de política se aplicam a produtos específicos. Usamos tecnologia, supervisionada por humanos, para melhorar nossa capacidade de gerenciar conteúdo prejudicial e nossos avanços tecnológicos melhoraram significativamente os resultados de segurança.”

Monitoramento de usuários

Paralelamente, a Meta também tem sido acusada de rastrear o histórico de navegação de usuários de celulares Android, mesmo com o uso de VPN ou guias anônimas. Segundo um relatório de pesquisadores das instituições IMDEA Networks (Espanha), Radboud University (Holanda) e KU Leuven (Bélgica), a empresa teria iniciado essas ações em setembro de 2024.

O estudo aponta que a Meta teria utilizado o Meta Pixel, ferramenta que mede interações com anúncios, em conjunto com os aplicativos do Facebook e do Instagram. Com isso, seria possível vincular a atividade de navegação ao endereço IP registrado nos apps. Prática semelhante já era atribuída à empresa russa Yandex desde 2017.

(Com informações de Olhar Digital)
(Foto: Reprodução/Freepik/rafapress)