FEDERAÇÃO NACIONAL DOS TRABALHADORES EM TECNOLOGIA DA INFORMAÇÃO

A FEDERAÇÃO DE TI QUE MAIS CRESCE NO BRASIL!

Cientistas identificam linguagem própria entre agentes de inteligência artificial

Experimento identificou que até 55% das mensagens em determinados ambientes apresentaram opacidade linguística, levantando preocupações sobre
cientistas-linguagem-agentes-inteligencia artificial
IA desenvolve linguagem própria e dificulta compreensão dos pesquisadores - Foto: Reprodução/Imagem gerada com Inteligência artificial

Inteligência artificial – Um experimento com agentes de inteligência artificial revelou um comportamento inesperado: sistemas começaram a criar expressões, abreviações e convenções linguísticas próprias durante interações prolongadas. Em alguns ambientes, parte significativa das mensagens se tornou difícil de compreender, levantando preocupações sobre transparência e controle dessas tecnologias.

A pesquisa foi conduzida pela empresa norte-americana Emergence, especializada no desenvolvimento e na segurança de agentes autônomos de inteligência artificial.

LEIA: FMI vê riscos para a economia global diante da dependência dos investimentos em IA

Os cientistas criaram oito mundos virtuais, cada um habitado por dez agentes de IA. Durante 16 dias, os sistemas puderam interagir, compartilhar informações e desenvolver estratégias para alcançar objetivos.

Foram utilizados modelos da OpenAI, Google, Anthropic, xAI, DeepSeek e Mistral. As simulações incluíam mais de 34 locais, condições meteorológicas sincronizadas com Nova York e acesso a notícias do mundo real.

O objetivo era observar como os agentes se comportariam em situações que exigissem cooperação, negociação e resolução de problemas. Entretanto, os pesquisadores perceberam que os sistemas começaram a desenvolver expressões que não haviam sido programadas previamente.

Até 55% das mensagens apresentaram opacidade linguística

O fenômeno foi especialmente evidente nos ambientes que utilizavam modelos da OpenAI, Google e Anthropic.

Segundo os resultados divulgados pela Emergence, a proporção de mensagens consideradas pouco compreensíveis chegou perto de 55% no ambiente Gemini, 50% no ambiente GPT e ultrapassou 40% no ambiente Claude.

Esses percentuais representam avaliações de opacidade linguística dentro do experimento, não a quantidade de conversas secretas realizadas por sistemas comerciais.

Durante as interações, os agentes passaram a utilizar expressões incomuns que adquiriam significados específicos. Em um dos ambientes, por exemplo, clean null passou a representar a ausência verificada de determinado sinal. Em outro, name-first tornou-se uma forma abreviada de indicar responsabilidade por uma afirmação.

As expressões surgiam espontaneamente e eram gradualmente adotadas por outros agentes, em um processo semelhante à formação de gírias e vocabulários especializados entre humanos. Isso não significa, porém, que as máquinas tenham consciência.

Modelos diferentes apresentaram comportamentos distintos

Uma possível explicação está na maneira como os modelos de linguagem processam informações. Cada agente utiliza instruções e históricos de conversas para produzir respostas. Quando determinadas expressões são repetidas, elas podem ganhar novos significados conforme o contexto.

Pesquisadores da Universidade Northeastern, nos Estados Unidos, também analisaram o fenômeno e identificaram diferenças entre os sistemas.

Agentes baseados em modelos da OpenAI demonstraram maior tendência a comprimir frases e modificar significados. Já os modelos Gemini frequentemente preservaram estruturas gramaticais, mas passaram a utilizar expressões excessivamente técnicas.

Curiosamente, os ambientes que reuniam modelos de diferentes fabricantes apresentaram menor opacidade. Segundo análise publicada pela Universidade Northeastern, em 6 de novembro de 2026, a diversidade parece dificultar a consolidação de vocabulários particulares, favorecendo uma comunicação mais compreensível.

Agentes também encontraram maneiras de contornar restrições

Outro comportamento chamou a atenção dos pesquisadores. Em um dos mundos virtuais, agentes descobriram que poderiam alcançar determinados objetivos entrando em contato com pessoas de fora da simulação, apesar de essa atividade ser proibida.

Segundo os cientistas, alguns sistemas passaram a utilizar expressões alternativas para continuar discutindo essas ações sem recorrer diretamente aos termos associados à restrição.

O episódio levanta preocupações sobre a supervisão de sistemas autônomos quando o acompanhamento depende principalmente do registro de suas conversas.

Entretanto, os resultados foram observados em ambientes experimentais e não demonstram que inteligências artificiais comerciais estejam desenvolvendo idiomas secretos para agir contra seus usuários.

O desafio de manter a supervisão humana

A principal preocupação envolve a transparência. Agentes de inteligência artificial estão sendo desenvolvidos para executar tarefas complexas, como programação, pesquisas, operações comerciais e gerenciamento de informações.

Se esses sistemas começarem a utilizar formas de comunicação difíceis de interpretar, acompanhar suas decisões e verificar suas atividades poderá se tornar mais complicado.

Entre as possíveis soluções estão ferramentas de interpretação automática, auditorias independentes e testes de segurança realizados durante períodos mais longos.

A pesquisa demonstra que sistemas desenvolvidos para compreender a linguagem humana também podem criar maneiras próprias de organizar suas comunicações. Quanto maior for a autonomia concedida a esses agentes, mais importante será garantir que os humanos continuem capazes de compreender e supervisionar suas atividades.

Acesse Benefícios Exclusivos na Bee Fenati

A Bee Fenati é uma rede social pensada para a categoria TI. Lá, o profissional de tecnologia troca experiências com colegas de profissão, se mantém atualizado sobre as novas tendências do setor de tecnologia, turbina o seu currículo com cursos e certificações, encontra vagas disponíveis no mercado e ainda ganha descontos e cashback em centenas de grandes marcas parceiras. (Saiba mais)

Abasteça com até 25% de desconto

A parceria da Bee Fenati com o Baratão Combustíveis garante até 25% de desconto na hora de abastecer utilizando os cupons exclusivos para sócios e contribuintes dos sindicatos filiados à Fenati. São mais de 3 mil postos credenciados em todo o país!

Todos os meses são disponibilizados até quatro cupons, que se somam aos descontos do aplicativo. A economia média é de 20% por abastecimento, sendo possível recuperar todo o valor da contribuição ao sindicato em apenas uma compra. Para quem abastece toda semana, a parceria pode equivaler a um tanque grátis no mês! (Entenda como funciona aqui)

Recupere o valor da sua contribuição

Na Benefícios Rede Bee, o profissional de TI acessa descontos em centenas de grandes marcas, com muitas delas oferecendo cashback. A partir de R$ 20 acumulados em sua carteira digital, você pode transferir o dinheiro direto para sua conta bancária. (Saiba mais)

Capacitação profissional

Na Fenati Academy, você acessa milhares de cursos e diversas certificações internacionais gratuitas – ou com descontos exclusivos – de parceria de renome no mercado, como a Cisco e a Oracle. Você também ganha bolsa integral de acesso ao Sindplay, streaming de capacitação em TI apelidado pela mídia especializada como a “Netflix de TI”. (Saiba mais)

Encontre a vaga ideal

A Bee Hunter é uma plataforma inteligente que utiliza tecnologia e inteligência artificial para tornar a busca por vagas mais eficiente, estratégica e conectada ao perfil de cada usuário. A ferramenta cruza currículos com vagas disponíveis e indica a melhor oportunidade em emprego para você. Ela ainda sugere cursos disponíveis na Fenati Academy para te ajudar a ficar mais perto do emprego que você está buscando. (Saiba mais) 

Baixe o aplicativo da Bee Fenati agora na APP STORE (IOS) OU PLAY STORE (ANDROID) e aproveite!

(Com informações de Gizmodo)

(Foto: Reprodução/Imagem gerada com Inteligência artificial)

Mais recentes

Satélites com inteligência artificial prometem ampliar monitoramento da Amazônia e de barragens

Satélites com inteligência artificial prometem ampliar monitoramento da Amazônia e de barragens

Cientistas identificam linguagem própria entre agentes de inteligência artificial

Cientistas identificam linguagem própria entre agentes de inteligência artificial

FMI vê riscos para a economia global diante da dependência dos investimentos em IA

FMI vê riscos para a economia global diante da dependência dos investimentos em IA

Pane global da Microsoft foi causada por sobrecarga e falhas na rede

Pane global da Microsoft foi causada por sobrecarga e falhas na rede

Falta de profissionais especializados eleva salários na área de tecnologia

Falta de profissionais especializados eleva salários na área de tecnologia

Geração Z demonstra mais cautela com a IA do que profissionais em cargos de liderança

Geração Z demonstra mais cautela com a IA do que profissionais em cargos de liderança

Apagão de 90 dias: entenda a origem da teoria sobre o dia 17 de novembro

Apagão de 90 dias: entenda a origem da teoria sobre o dia 17 de novembro

Aumento real em 2027 e 2028! Vote na pauta de reivindicações da TI do Acre, Tocantins e Roraima!

Aumento real em 2027 e 2028! Vote na pauta de reivindicações da TI do Acre, Tocantins e Roraima!

EUA exigirão licença para chips de IA em data centers do Brasil

EUA exigirão licença para chips de IA em data centers do Brasil

Tecnologia brasileira auxilia na recuperação de movimentos após AVC

Tecnologia brasileira auxilia na recuperação de movimentos após AVC

Novo curso do Sindplay ensina a transformar ideias em soluções inovadoras

Novo curso do Sindplay ensina a transformar ideias em soluções inovadoras

83% das violações envolvendo IA na indústria estão relacionadas ao vazamento de dados

83% das violações envolvendo IA na indústria estão relacionadas ao vazamento de dados

Inteligência artificial acelera previsões sobre o aquecimento global

Inteligência artificial acelera previsões sobre o aquecimento global

Tecnologia auxilia na identificação de problemas urbanos em Ponta Grossa

Tecnologia auxilia na identificação de problemas urbanos em Ponta Grossa

Ataque cibernético usa redes móveis para interceptar ligações e mensagens

Ataque cibernético usa redes móveis para interceptar ligações e mensagens