{"id":19964,"date":"2026-06-08T13:29:45","date_gmt":"2026-06-08T16:29:45","guid":{"rendered":"https:\/\/fenati.org.br\/anthropic-defende-pausa-no-avanco-da-ia-riscos\/"},"modified":"2026-07-02T23:09:33","modified_gmt":"2026-07-03T02:09:33","slug":"anthropic-defende-pausa-no-avanco-da-ia-riscos","status":"publish","type":"post","link":"https:\/\/fenati.org.br\/en\/anthropic-defende-pausa-no-avanco-da-ia-riscos\/","title":{"rendered":"Anthropic defende pausa no avan\u00e7o da IA por riscos de perda de controle humano"},"content":{"rendered":"

Pausa no avan\u00e7o da IA –<\/strong> A Anthropic<\/a> avalia que uma interrup\u00e7\u00e3o tempor\u00e1ria no desenvolvimento da intelig\u00eancia artificial pode ser necess\u00e1ria. Segundo a companhia, os avan\u00e7os dos modelos est\u00e3o ocorrendo em velocidade superior \u00e0 produ\u00e7\u00e3o de pesquisas voltadas \u00e0 compreens\u00e3o e mitiga\u00e7\u00e3o dos riscos associados \u00e0 tecnologia.<\/p>\n

A proposta foi apresentada no artigo “When AI builds itself” (“Quando IA constr\u00f3i a si mesma”, em tradu\u00e7\u00e3o livre), assinado pela diretora do The Anthropic Institute, Marina Favaro, e pelo cofundador da empresa, Jack Clark. “Acreditamos que seria bom para o mundo ter a op\u00e7\u00e3o de reduzir ou pausar temporariamente o desenvolvimento da IA, para permitir que as estruturas sociais e a pesquisa de alinhamento sigam o ritmo do avan\u00e7o da tecnologia”, afirmaram no artigo.<\/p>\n

LEIA: O que muda com a reforma trabalhista que paralisou setores em Portugal<\/a><\/strong><\/p>\n

De acordo com a companhia, uma interrup\u00e7\u00e3o desse tipo s\u00f3 teria efetividade caso fosse adotada por desenvolvedoras de IA avan\u00e7ada em diferentes pa\u00edses. Al\u00e9m disso, seria necess\u00e1rio criar mecanismos que permitissem aos laborat\u00f3rios verificar se os concorrentes realmente interromperam seus processos de desenvolvimento.<\/p>\n

Em entrevista \u00e0 CNN, Clark comparou a proposta aos acordos e limita\u00e7\u00f5es estabelecidos para armas nucleares. “N\u00f3s j\u00e1 fizemos isso antes. No auge da Guerra Fria, em situa\u00e7\u00f5es de grande tens\u00e3o entre pa\u00edses rivais, encontraram maneiras de estabilizar aspectos da corrida armamentista nuclear. Tudo isso j\u00e1 foi feito em outros dom\u00ednios, e talvez seja algo que precisemos fazer tamb\u00e9m no dom\u00ednio da IA”, argumentou.<\/p>\n

IA pode escapar do controle dos humanos, acredita Anthropic<\/strong><\/p>\n

A principal preocupa\u00e7\u00e3o da Anthropic est\u00e1 relacionada ao chamado “autoaperfei\u00e7oamento recursivo completo” dos grandes modelos de linguagem (LLMs). O conceito descreve a capacidade de sistemas de IA aprimorarem seu pr\u00f3prio desempenho sem a necessidade de participa\u00e7\u00e3o humana direta, algo que a empresa considera cada vez mais plaus\u00edvel nos pr\u00f3ximos anos.<\/p>\n

“O aprimoramento recursivo completo tamb\u00e9m pode aumentar os riscos de os humanos perderem o controle sobre os sistemas de IA”, afirmou a empresa. “Se os sistemas forem capazes de construir completamente seus pr\u00f3prios sucessores, as maneiras como protegemos, monitoramos e moldamos seu comportamento se tornam muito mais importantes”, complementou.<\/p>\n

Nos pr\u00f3ximos meses, a Anthropic pretende ampliar o di\u00e1logo com legisladores, pesquisadores, organiza\u00e7\u00f5es da sociedade civil e outras empresas do setor para discutir como uma eventual estrat\u00e9gia de conten\u00e7\u00e3o poderia ser implementada. “Sem um mecanismo de coordena\u00e7\u00e3o global, empresas e governos ter\u00e3o que tomar decis\u00f5es dif\u00edceis sobre seguran\u00e7a enquanto enfrentam press\u00f5es competitivas e geopol\u00edticas”, argumentaram no artigo.<\/p>\n

Ao mesmo tempo, parte dos executivos da ind\u00fastria nos Estados Unidos teme que uma desacelera\u00e7\u00e3o do desenvolvimento local possa beneficiar a China, que poderia n\u00e3o adotar as mesmas restri\u00e7\u00f5es e crit\u00e9rios de seguran\u00e7a.<\/p>\n

Anthropic se prepara para lan\u00e7ar IA ‘superpoderosa’<\/strong><\/p>\n

Nas pr\u00f3ximas semanas, a Anthropic deve apresentar uma nova fam\u00edlia de modelos da linha Claude Mythos. A tecnologia foi disponibilizada inicialmente de forma limitada aos participantes do Project Glasswing devido \u00e0 sua capacidade de identificar e explorar vulnerabilidades em softwares.<\/p>\n

Recentemente, a empresa ampliou o alcance do Project Glasswing, incluindo outras 150 organiza\u00e7\u00f5es. Entre elas est\u00e3o companhias que atuam em \u00e1reas consideradas estrat\u00e9gicas, como abastecimento de \u00e1gua, sa\u00fade e energia.<\/p>\n

Junte cashback e transfira para sua conta com a Benef\u00edcios Rede Bee!<\/strong><\/p>\n

A Bee Fenati \u2013 a rede social dos profissionais de TI de todo o Brasil \u2013 segue em expans\u00e3o para garantir aos seus usu\u00e1rios cada vez mais benef\u00edcios. Agora a plataforma conta com a Benef\u00edcios Rede Bee, que re\u00fane descontos em dezenas de grandes marcas, com muitas delas oferecendo cashback, ou seja, o retorno de um valor da sua compra que poder\u00e1 ser transferido direto para sua conta!\u00a0(Saiba mais aqui)<\/strong><\/a><\/p>\n

Baixe o aplicativo nas lojas\u00a0App Store<\/strong><\/a>\u00a0e\u00a0Play Store<\/strong><\/a>\u00a0e aproveite agora! A Bee Fenati re\u00fane em um \u00fanico ambiente ofertas em \u00e1reas como educa\u00e7\u00e3o, compras, viagens, lazer, servi\u00e7os, tecnologia e muito mais. Dentre as marcas parceiras est\u00e3o Magalu, Renner, Drogasil, C&A, Dell, Casas Bahia, Vivo, Petz, Drogaria S\u00e3o Paulo, e muito mais!<\/p>\n

Al\u00e9m de poderem aproveitar os descontos oferecidos pelas marcas parceiras, os usu\u00e1rios da plataforma receber\u00e3o de volta um percentual a cada compra que realizarem em parceiros que oferecem o cashback.<\/p>\n

Este valor ficar\u00e1 em uma carteira digital dentro da plataforma da Benef\u00edcios Rede Bee e, a partir de R$ 20 reais acumulados em cashback, o trabalhador pode transferir o dinheiro direto para sua conta banc\u00e1ria!<\/p>\n

Na pr\u00e1tica, a ferramenta permitir\u00e1 que s\u00f3cios e contribuintes dos sindicatos filiados \u00e0 Fenati (Federa\u00e7\u00e3o Nacional dos Trabalhadores em Tecnologia da Informa\u00e7\u00e3o) possam ZERAR o valor da sua contribui\u00e7\u00e3o assistencial e associativa!<\/p>\n

Atualmente, o valor da contribui\u00e7\u00e3o \u00e9 de R$ 32,50 por m\u00eas para s\u00f3cios e R$ 35 por m\u00eas para contribuintes, ou seja, \u00e9 poss\u00edvel recuperar todo esse valor e ainda acumular muito mais \u2013 tudo isso contribuindo para fortalecer a categoria e transformando as compras e servi\u00e7os do cotidiano em ganho real.<\/p>\n

(Com informa\u00e7\u00f5es de TecMundo)<\/strong><\/em>
\n(Foto: Reprodu\u00e7\u00e3o\/Magnific)<\/strong><\/em><\/p>","protected":false},"excerpt":{"rendered":"

Empresa avalia que a evolu\u00e7\u00e3o da intelig\u00eancia artificial avan\u00e7a mais r\u00e1pido do que os estudos sobre seus impactos e mecanismos de seguran\u00e7a<\/p>","protected":false},"author":11,"featured_media":19965,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[42],"tags":[13],"class_list":["post-19964","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-noticias","tag-sindical"],"_links":{"self":[{"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/posts\/19964","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/users\/11"}],"replies":[{"embeddable":true,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/comments?post=19964"}],"version-history":[{"count":1,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/posts\/19964\/revisions"}],"predecessor-version":[{"id":20357,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/posts\/19964\/revisions\/20357"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/media\/19965"}],"wp:attachment":[{"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/media?parent=19964"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/categories?post=19964"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/fenati.org.br\/en\/wp-json\/wp\/v2\/tags?post=19964"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}