FEDERAÇÃO NACIONAL DOS TRABALHADORES EM TECNOLOGIA DA INFORMAÇÃO

A FEDERAÇÃO DE TI QUE MAIS CRESCE NO BRASIL!

Técnica inspirada no cérebro humano faz IA admitir o que não sabe

Pesquisa introduz etapa de “aquecimento” baseada no desenvolvimento neurobiológico para alinhar o nível de confiança das redes neurais à precisão de suas respostas
Técnica inspirada no cérebro humano faz IA admitir o que não sabe
Técnica inspirada no cérebro humano faz IA admitir o que não sabe

IA – Pesquisadores do Instituto Avançado de Ciência e Tecnologia da Coreia (KAIST) desenvolveram um método de treinamento capaz de reduzir a superconfiança de sistemas de inteligência artificial (IA). O estudo foi publicado na revista científica Nature Machine Intelligence e aponta que a inicialização aleatória padrão das redes neurais está diretamente ligada à geração de respostas imprecisas ou fabricadas.

A equipe liderada pelo professor Se-Bum Paik criou uma estratégia de “aquecimento” inspirada no desenvolvimento neurobiológico. A técnica ajusta o nível de incerteza do modelo antes do treinamento com dados reais, permitindo que a confiança do sistema fique mais alinhada à sua precisão.

LEIA: Brasileiros usam emaranhamento quântico para revolucionar baterias

No método proposto, as redes neurais passam inicialmente por um treinamento curto com ruído e rótulos aleatórios antes de terem contato com informações reais. Segundo os pesquisadores, essa etapa reproduz a atividade neural espontânea observada no cérebro humano, que forma circuitos neurais antes do nascimento mesmo sem estímulos externos.

O objetivo é ensinar a IA a reconhecer o estado de “não saber nada” antes do aprendizado efetivo, calibrando melhor suas previsões futuras. De acordo com o estudo, modelos convencionais já apresentam alta confiança em respostas incorretas desde a fase inicial de treinamento, o que contribui para a propagação de erros ao longo do processo.

Os pesquisadores afirmam que essa característica está relacionada às chamadas “alucinações” em sistemas de IA generativa, quando informações falsas são produzidas de maneira aparentemente convincente. Com a nova abordagem, o nível de confiança inicial permanece baixo, próximo ao acaso, principalmente diante de conteúdos desconhecidos.

“Este estudo demonstra que, ao incorporar princípios fundamentais do desenvolvimento cerebral, a IA pode reconhecer seu próprio estado de conhecimento de uma forma mais semelhante à dos humanos”, afirmou o professor Se-Bum Paik, em comunicado.

Os testes mostraram ainda que a técnica melhora a capacidade das redes neurais de detectar informações estranhas ou dados que não fazem parte do que o sistema aprendeu anteriormente. Segundo os autores, isso torna a solução mais confiável para aplicações práticas.

A pesquisa destaca que o método pode ser aplicado em áreas como carros autônomos, suporte a diagnósticos médicos e sistemas de IA generativa voltados à criação de conteúdo.

O trabalho foi conduzido por Jeonghwan Cheon, estudante de mestrado no Departamento de Ciências Cognitivas e do Cérebro do KAIST. O estudo recebeu apoio da Fundação Nacional de Pesquisa da Coreia e do Programa de Pesquisa de Professores Singulares do KAIST.

(Com informações de Olhar Digital)
(Foto: Reprodução/Magnific/DC Studio)

Mais recentes

Mais de 35 mil aplicativos criados com IA da SpaceXSI ficam vulneráveis

Mais de 35 mil aplicativos criados com IA da SpaceXSI ficam vulneráveis

Proclamação da República: quem trabalha no feriado tem direito a pagamento em dobro?

Proclamação da República: quem trabalha no feriado tem direito a pagamento em dobro?

Automação financeira exige equilíbrio entre inteligência artificial, regras e controle humano

Automação financeira exige equilíbrio entre inteligência artificial, regras e controle humano

Fraudes digitais ameaçam empresas e órgãos públicos na América Latina

Fraudes digitais ameaçam empresas e órgãos públicos na América Latina

IA generativa avança na indústria de games em meio a demissões e críticas

IA generativa avança na indústria de games em meio a demissões e críticas

Ataques hackers na Europa acendem alerta sobre o futuro da segurança digital

Ataques hackers na Europa acendem alerta sobre o futuro da segurança digital

Outlook, Teams e Copilot enfrentam falhas em interrupção global da Microsoft

Outlook, Teams e Copilot enfrentam falhas em interrupção global da Microsoft

Ataque cibernético à Caixa expõe nomes, CPFs, telefones e endereços

Ataque cibernético à Caixa expõe nomes, CPFs, telefones e endereços

Aumento real! Conheça a pauta para a TI do Acre, Roraima e Tocantins; participe da assembleia!

Aumento real! Conheça a pauta para a TI do Acre, Roraima e Tocantins; participe da assembleia!

Empresas apostam em IA, mas ainda não medem ganhos econômicos

Empresas apostam em IA, mas ainda não medem ganhos econômicos

Nova lei europeia mira design viciante, compras por impulso e práticas enganosas na internet

Nova lei europeia mira design viciante, compras por impulso e práticas enganosas na internet

Ranking global aponta desafios do Brasil para avançar na adoção da IA

Ranking global aponta desafios do Brasil para avançar na adoção da IA

Sinttec e Fenati convocam empresas para negociação diante de intransigência do setor patronal

Sinttec e Fenati convocam empresas para negociação diante de intransigência do setor patronal

Empresa dá dia de folga para seus 7 mil funcionários jogarem GTA 6

Empresa dá dia de folga para seus 7 mil funcionários jogarem GTA 6

Ataque a sistema nacional da Dinamarca expõe informações de 8,8 milhões de pessoas

Ataque a sistema nacional da Dinamarca expõe informações de 8,8 milhões de pessoas