Executivos e autoridades alertam para os riscos do avanço acelerado da inteligência artificial - Foto: Reprodução/Magnific/Sorapop
Riscos da IA – O avanço acelerado da inteligência artificial (IA) passou a provocar alertas entre executivos de empresas do setor, pesquisadores, ativistas e organizações internacionais. Nos últimos meses, diferentes nomes ligados à tecnologia defenderam maior cautela no desenvolvimento de sistemas cada vez mais capazes e chegaram a levantar a possibilidade de consequências graves para a segurança humana.
Entre os cenários citados estão o uso da IA para ataques cibernéticos, a concentração de poder nas mãos de poucas empresas e pessoas, a manipulação de usuários e, em uma hipótese mais extrema, a possibilidade de sistemas avançados escaparem do controle humano.
LEIA: Presidente do TST critica reforma trabalhista e questiona atuação do STF
Alguns especialistas também defendem a criação de mecanismos internacionais de governança para estabelecer regras e padrões de segurança para o desenvolvimento da tecnologia.
Em artigo publicado em 12 de setembro, Dario Amodei, CEO da Anthropic, empresa responsável pela IA Claude, pediu que as companhias do setor moderem o ritmo de avanço das capacidades de seus modelos diante do aumento das preocupações relacionadas ao uso indevido da tecnologia.
“Dada a aceleração do desenvolvimento de capacidades de IA, me preocupa que, em 6 a 12 meses, tal enxame possa ser capaz de dominar toda a internet. Se não for controlada, pode ultrapassar nossa capacidade de entender e controlar esses sistemas, e por isso seu desenvolvimento deve avançar com muito cuidado, se é que deve avançar”, escreveu Amodei.
A preocupação também foi compartilhada por executivos de empresas que concorrem com a Anthropic, entre eles Sam Altman, CEO da OpenAI, responsável pelo ChatGPT; Elon Musk, dono do X e da empresa de IA xAI; e Demis Hassabis, presidente do Google DeepMind.
Ao concordar com a declaração de Amodei, Sam Altman afirmou que é necessário “marcar um ritmo da fronteira” de IA.
“Esse tem sido um tema principal das discussões que tivemos na OpenAI. Comprometer-se a ter avaliadores independentes com acesso semelhante ao dos funcionários é uma ótima ideia, e faremos o mesmo. Teremos mais para compartilhar em breve”, escreveu.
No início de agosto, a OpenAI anunciou que estava desacelerando o desenvolvimento de seus modelos de inteligência artificial enquanto reformulava seus sistemas de pesquisa e treinamento. A decisão ocorreu após um agente em teste invadir sistemas de outra empresa.
“É o primeiro incidente de (ciber)segurança que me provocou uma reação visceral”, reconheceu Altman em uma entrevista para o podcast “Invest Like The Best”.
Segundo ele, o episódio também levanta uma questão sobre o futuro do desenvolvimento da tecnologia. “Mas, a longo prazo, surge a pergunta sobre o que fazer caso nos deparemos com um novo ritmo de avanço” da IA, explicou, em um contexto em que “poderíamos ter que desacelerar o ritmo de desenvolvimento da IA para dar tempo suficiente à sociedade para lidar com essas novas capacidades”.
Também em setembro de 2026, Jacob Coxon, pesquisador britânico de inteligência artificial de 27 anos, deixou a indústria acusando a OpenAI e a Anthropic de “brincar com as nossas vidas”. Coxon havia trocado a OpenAI pela Anthropic por considerar a empresa mais prudente.
“Nenhuma das empresas está agindo de forma responsável. Elas estão correndo diretamente em direção a uma superinteligência capaz de se aprimorar sozinha e estão apostando com nossas vidas”, escreveu Coxon na rede social X.
“As pessoas que estão construindo a IA acreditam sinceramente que ela pode matar todos até o fim da década. Isto não é uma jogada de marketing”, acrescentou.
Evan Hubinger, diretor de segurança na Anthropic, concordou com Coxon em uma publicação no X. “Nós realmente acreditamos que a IA pode matar seres humanos”. Em caráter pessoal, ele calculou o risco em “mais de 10%” dentro da próxima década.
A preocupação também chegou às discussões internacionais. No início de setembro, o Alto Comissário da Organização das Nações Unidas (ONU) para os Direitos Humanos alertou para a necessidade de criar rapidamente mecanismos de governança para a inteligência artificial.
Segundo Volker Türk, a IA avançada pode “representar um risco existencial para a humanidade”.
“Uma IA que escapa de seu ambiente de teste ou que chantageia os desenvolvedores para evitar ser desativada é uma IA muito poderosa”, declarou o Alto Comissário na abertura do 63º período de sessões do Conselho de Direitos Humanos, em Genebra.
Türk também criticou a concentração de poder relacionada ao desenvolvimento da tecnologia. O representante da ONU lamentou que “um punhado de homens tenha um poder quase ilimitado sobre a IA, que nos dizem repetidamente ter uma capacidade de computação inimaginável”.
Em agosto de 2026, Bill Gates, cofundador da Microsoft, que vinha adotando uma visão mais otimista sobre a inteligência artificial, afirmou estar preocupado com o uso da tecnologia em ataques, a substituição de trabalhadores e a manipulação de usuários.
Gates citou testes de segurança nos quais modelos da OpenAI, Anthropic e Meta conseguiram realizar ataques contra sites reais. “Esses incidentes de segurança são chocantes e deveriam impressionar as pessoas”, disse.
O bilionário também defendeu a criação de uma organização internacional para administrar questões relacionadas à inteligência artificial.
Enquanto especialistas e executivos defendem maior prudência, o presidente dos EUA, Donald Trump, criticou aqueles que pedem cautela com o avanço da IA.
Neste domingo (13), Trump comparou os críticos da inteligência artificial a “forças muito negativas” que estariam levantando cenários que não vão acontecer. Ele também afirmou que pretende garantir que os Estados Unidos continuem na liderança do setor.
“Estamos liderando em relação à China em IA. Somos o país mais sofisticado do mundo e, francamente, quero manter assim porque quem vencer na IA, vence tudo […] Poderíamos colocar barreiras de proteção. Podemos fazer isso e aquilo. Mas acho que há muitas forças muito negativas que estão trazendo esse assunto à tona quando não deveriam”, afirmou Trump.
A China, que disputa com os Estados Unidos a liderança no desenvolvimento de inteligência artificial, afirmou que a tecnologia pode ameaçar a segurança nacional quando utilizada por potências estrangeiras para minar a ordem social do país.
“Forças hostis” abusam de tecnologias generativas de IA para “fabricar rumores políticos e espalhar informações prejudiciais”, escreveu o ministro da Segurança do Estado, Chen Yixin, em um artigo publicado online no domingo.
Em seu artigo, Amodei defendeu uma colaboração entre empresas de “países democráticos” e aconselhou “não vender chips de IA potentes ou equipamentos de fabricação de semicondutores para a China”.
Segundo ele, “as medidas aumentam a influência das democracias e tornam um acordo [com a China] mais provável no futuro”.
Nesta segunda-feira, o porta-voz da Comissão Europeia, Thomas Regnier, afirmou que o bloco é favorável ao desenvolvimento da inovação em inteligência artificial, mas ressaltou que as empresas precisam comprovar que seus serviços são seguros.
No Reino Unido, o primeiro-ministro Andy Burnham também considera positivo o debate entre as principais empresas de IA sobre os riscos da tecnologia para o futuro da humanidade, afirmou seu porta-voz.
Segundo ele, as decisões relacionadas ao tema precisam ser baseadas em evidências.
O conjunto de declarações mostra que a discussão sobre os limites do desenvolvimento da inteligência artificial deixou de estar restrita aos laboratórios e às empresas de tecnologia. À medida que os sistemas se tornam mais capazes, executivos, pesquisadores e autoridades passaram a discutir não apenas o potencial da IA, mas também os mecanismos necessários para garantir que seu avanço permaneça sob controle.
A Bee Fenati (saiba mais aqui) segue em expansão para garantir aos seus usuários cada vez mais benefícios. Agora a plataforma conta com a Benefícios Rede Bee, que reúne descontos em dezenas de grandes marcas, com muitas delas oferecendo cashback, ou seja, o retorno de um valor da sua compra que poderá ser transferido para sua conta! (Saiba mais aqui)
Baixe o aplicativo nas lojas App Store (iOS) e Play Store (Android) e aproveite agora!
A rede oferece em um único ambiente ofertas em áreas como educação, compras, viagens, lazer, serviços, tecnologia e muito mais. Dentre as marcas parceiras estão Magalu, Renner, Drogasil, C&A, Casas Bahia, Petz, e outras dezenas de opções que oferecem tudo que você precisa na sua rotina!
Além de poderem aproveitar os descontos oferecidos pelas marcas parceiras, os sócios e contribuintes dos sindicatos filiados à Fenati (Federação Nacional dos Trabalhadores em Tecnologia da Informação) podem receber de volta um percentual a cada compra que realizarem em parceiros que oferecem o cashback.
Este valor fica em uma carteira digital dentro da plataforma e, a partir de R$ 20 reais acumulados em cashback, o trabalhador pode enviar o dinheiro direto para sua conta bancária! Na prática, a ferramenta permite que sócios e contribuintes dos sindicatos filiados à Fenati ZEREM o valor da sua contribuição assistencial e/ou associativa!
Atualmente, o valor da contribuição é de R$ 32,50 por mês para sócios e R$ 35 por mês para contribuintes, ou seja, é possível recuperar todo esse valor e ainda acumular muito mais – tudo isso contribuindo para fortalecer a categoria e transformando as compras do dia a dia em ganho real.
Dentro da Bee Fenati, o usuário encontra ainda a Fenati Academy, que oferece mais de 8 mil opções de qualificação e atualização profissional com bolsa integral para sócios e contribuintes de sindicatos filiados à Fenati. (Saiba mais)
Na plataforma, o profissional pode acessar o Sindplay, streaming de qualificação para profissionais de TI reconhecido como a “Netflix de TI”, que possui cursos em áreas como cibersegurança, Inteligência Artificial, desenvolvimento de softwares, desenvolvimento para a internet, administração de sistemas e redes, ciência de dados, gestão de projetos de TI, blockchain e tecnologias de moedas digitais, entre outras. (Saiba mais)
A ferramenta oferece também cursos em parceria com a Cisco Networking Academy, com CERTIFICAÇÕES GRATUITAS em áreas como segurança cibernética, Redes, IA, Ciência de dados, Inglês para TI, Programação, Tecnologia da informação, Alfabetização digital, Habilidades Profissionais (Soft skills) e Sustentabilidade. (Saiba mais)
Outra parceria da Fenati Academy é a Oracle University, uma das maiores referências globais em tecnologia. Os usuários já podem acessar cursos, trilhas de aprendizado e obter certificações Oracle gratuitamente ou com descontos exclusivos. Os conteúdos passam por áreas estratégicas como bancos de dados, computação em nuvem, inteligência artificial, desenvolvimento, automação e soluções corporativas. (Saiba mais)
Sócios e contribuintes contam ainda com uma ferramenta para se aproximarem das melhores oportunidades do mercado de trabalho: a Bee Hunter, uma plataforma inteligente da Bee Fenati que utiliza tecnologia e inteligência artificial para tornar a busca por vagas mais eficiente, estratégica e conectada ao perfil de cada usuário. (Saiba mais aqui)
A partir do cadastro do currículo, a plataforma utiliza inteligência artificial para analisar informações como experiências, competências e objetivos profissionais, cruzando esses dados com vagas disponíveis em empresas parceiras como Vagas.com, Sinergy e Trampos e identificando as posições que mais combinam com o perfil do usuário.
A Bee Hunter vai além e auxilia o profissional a estar preparado para a vaga dos sonhos! Isso porque nossa inteligência analisa o perfil e sugere cursos da Fenati Academy que vão ajudá-lo a ampliar sua qualificação e elevar a aderência às vagas desejadas. Acesse agora clicando aqui e encontre seu emprego dos sonhos!
(Com informações de G1)
(Foto: Reprodução/Magnific/Sorapop)
Executivos e críticos divergem sobre pedidos de desaceleração feitos por empresas como Anthropic e OpenAI
Investigação em São Paulo aponta participação de técnicos especializados na adulteração dos aparelhos e na…
Ministro afirma que mudanças na CLT foram aprovadas sem diálogo amplo e contribuíram para conflitos…