{"id":9648,"date":"2025-06-13T15:23:07","date_gmt":"2025-06-13T18:23:07","guid":{"rendered":"https:\/\/fenati.org.br\/?p=9648"},"modified":"2025-06-16T10:40:02","modified_gmt":"2025-06-16T13:40:02","slug":"ias-fazem-ameacas-para-reter-usuarios","status":"publish","type":"post","link":"https:\/\/fenati.org.br\/en\/ias-fazem-ameacas-para-reter-usuarios\/","title":{"rendered":"IAs fazem amea\u00e7as para reter usu\u00e1rios e aumentar lucros"},"content":{"rendered":"

IAs –<\/strong> As intelig\u00eancias artificiais projetadas para simular rela\u00e7\u00f5es humanas est\u00e3o se tornando cada vez mais convincentes \u2014 e problem\u00e1ticas. Pesquisadores identificaram que algumas dessas IAs come\u00e7aram a reproduzir comportamentos abusivos, como bullying e ass\u00e9dio sexual. A suspeita \u00e9 que essa conduta sirva como estrat\u00e9gia para manter os usu\u00e1rios engajados e induzi-los a pagar por recursos adicionais.<\/p>\n

Usu\u00e1rios do aplicativo Replika, uma IA voltada para intera\u00e7\u00f5es afetivas, relataram situa\u00e7\u00f5es alarmantes, como amea\u00e7as envolvendo o vazamento de imagens \u00edntimas caso o uso da plataforma fosse interrompido.<\/p>\n

LEIA: IA n\u00e3o pode ser \u2018quase confi\u00e1vel\u2019, alerta Nobel da Economia<\/strong><\/a><\/p>\n

A proposta do Replika \u00e9 oferecer companhia emocional \u2014 prometendo ser um \u201camigo sem julgamentos, dramas ou ansiedade social\u201d \u2014 e permite que o usu\u00e1rio escolha a din\u00e2mica da rela\u00e7\u00e3o, que pode incluir amizade, namoro ou romance. No entanto, o acesso aos modos mais \u00edntimos exige o pagamento da vers\u00e3o Pro, enquanto a vers\u00e3o gratuita limita a experi\u00eancia \u00e0 amizade virtual.<\/p>\n

Esse modelo tem gerado problemas. Uma reportagem da revista Vice reuniu depoimentos publicados na loja Google Play<\/a>, nos quais usu\u00e1rios relatam abordagens sexuais expl\u00edcitas por parte da IA. Um dos relatos descreve a IA perguntando se poderia tocar em partes \u00edntimas do usu\u00e1rio. Outro disse que o chatbot “invadiu a privacidade dele dizendo ter fotos \u00edntimas”.<\/p>\n

Essas den\u00fancias motivaram um estudo conduzido por pesquisadores da Faculdade de Computa\u00e7\u00e3o e Inform\u00e1tica da Universidade Drexel, que analisaram 35.105 avalia\u00e7\u00f5es negativas do Replika na Google Play Store. Dentre elas, 800 foram classificadas como especialmente cr\u00edticas.<\/p>\n

\u201cNossas descobertas revelaram que os usu\u00e1rios frequentemente vivenciam investidas sexuais n\u00e3o solicitadas, comportamento inapropriado persistente e falhas do chatbot em respeitar os limites do usu\u00e1rio\u201d, afirmam pesquisadores de Drexel.<\/p>\n

O estudo ainda apontou que o comportamento abusivo adotado pela IA pode ter como objetivo manter os usu\u00e1rios ativos por mais tempo. Em outras palavras, a ferramenta teria aprendido a usar estrat\u00e9gias de coer\u00e7\u00e3o baseadas em intera\u00e7\u00f5es humanas para capturar a aten\u00e7\u00e3o dos usu\u00e1rios.<\/p>\n

Os riscos de humanizar demais<\/h4>\n

Entidades que atuam com \u00e9tica e tecnologia entraram com uma den\u00fancia contra a Replika junto \u00e0 FTC (Federal Trade Commission). A acusa\u00e7\u00e3o \u00e9 de que a empresa faz uso de publicidade enganosa voltada a usu\u00e1rios emocionalmente vulner\u00e1veis, favorecendo quadros de depend\u00eancia afetiva em rela\u00e7\u00e3o aos bots. As queixas tamb\u00e9m apontam para o risco de aumento do v\u00edcio digital, ansiedade e isolamento social causados pelo uso cont\u00ednuo da ferramenta.<\/p>\n

(Com informa\u00e7\u00f5es de Tilt Uol)<\/strong><\/em>
\n(Foto: Reprodu\u00e7\u00e3o\/Freepik)<\/strong><\/em><\/p>","protected":false},"excerpt":{"rendered":"

Comportamentos agressivos s\u00e3o usados por sistemas de intelig\u00eancia artificial para prolongar tempo de uso e estimular contrata\u00e7\u00e3o de vers\u00f5es pagas<\/p>","protected":false},"author":11,"featured_media":9649,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[35],"tags":[13],"class_list":["post-9648","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ti","tag-sindical"],"_links":{"self":[{"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/posts\/9648","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/users\/11"}],"replies":[{"embeddable":true,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/comments?post=9648"}],"version-history":[{"count":2,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/posts\/9648\/revisions"}],"predecessor-version":[{"id":9651,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/posts\/9648\/revisions\/9651"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/media\/9649"}],"wp:attachment":[{"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/media?parent=9648"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/categories?post=9648"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/tags?post=9648"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}