Uso de IA em decisões complexas exige cautela, alerta especialista

Uso de IA – O avanço da inteligência artificial tem ampliado a discussão sobre os limites do uso de algoritmos para tratar de temas sensíveis, especialmente quando decisões envolvem valores, direitos e impactos sociais. Para o neurofisiologista alemão Wolf Singer, diretor emérito do Instituto Max Planck, os modelos atuais de IA ainda funcionam de maneira muito diferente do cérebro humano e, por isso, não devem ser tratados como substitutos seguros para julgamentos complexos.

Segundo Singer, embora sistemas de inteligência artificial sejam capazes de simular determinadas funções presentes em organismos naturais, eles não reproduzem a dinâmica própria do cérebro. A diferença central está na arquitetura: computadores processam informações em etapas, enquanto o cérebro opera por meio de redes de neurônios em comunicação contínua, com oscilações e adaptações constantes.

LEIA: Saiba por que 27% dos brasileiros pretendem mudar de emprego

Essa distinção, de acordo com o pesquisador, torna problemático o uso de modelos de IA para decisões que envolvem valores, interpretações sociais ou dilemas éticos. Para ele, perguntas mais sofisticadas, ligadas à filosofia, à responsabilidade e ao julgamento humano, exigem conhecimento especializado e análise crítica.

Sobre o uso crescente de algoritmos por empresas e governos em áreas como crédito, sistema de justiça criminal e até conflitos militares, Singer observa que os modelos de linguagem podem oferecer respostas úteis, hipóteses e sugestões, especialmente quando usados por especialistas. O problema surge quando essas ferramentas são tratadas como autoridades definitivas, sem que o usuário compreenda seus limites e riscos.

“Nas mãos de especialistas são muito úteis porque apresentam sugestões, hipóteses que você talvez não tenha considerado. Eles têm um acesso enorme a dados que você não consegue manter no seu próprio cérebro. Mas quando você começa a fazer perguntas mais sofisticadas, perguntas que são discutidas por filósofos, perguntas que dizem respeito a valores, fica problemático. Você precisa ter conhecimento especializado para usá-los de forma responsável. E se você não sabe como esses sistemas funcionam e quais são as armadilhas, o perigo é que você fique preso em um ciclo de retroalimentação.”, afirma.

O neurofisiologista destaca que os modelos de IA podem errar, mas não conseguem indicar com precisão o grau de confiabilidade de suas respostas. Já o cérebro humano, mesmo sujeito a falhas, possui mecanismos próprios de validação e avaliação das soluções encontradas. Essa diferença reforça a necessidade de supervisão humana em decisões que possam afetar vidas, direitos e relações sociais.

Para o mundo do trabalho, o debate se mostra relevante. À medida que tecnologias digitais passam a apoiar processos de gestão, avaliação e seleção, cresce a importância de discutir transparência, responsabilidade e participação social.

Singer chama atenção para os impactos da delegação constante de tarefas às máquinas. Assim como calculadoras reduziram a necessidade de fazer contas mentalmente e sistemas de GPS diminuíram o hábito de leitura de mapas, a IA pode alterar a forma como o cérebro humano treina certas habilidades. Para ele, a tecnologia pode economizar tempo e ampliar a precisão em algumas atividades, mas também exige cuidado para que capacidades humanas importantes não deixem de ser exercitadas.

“Quando você usa o celular para fazer cálculos, não precisa mais calcular de cabeça. Você delega. Economiza tempo, é mais preciso —e por que não? Mas isso reduz o treinamento dessas capacidades no seu próprio cérebro. Você não precisa mais armazenar detalhes de conhecimento porque leva um segundo para encontrá-los. É preciso ter cuidado”, declara.

Apesar das críticas aos modelos atuais, o pesquisador não descarta avanços futuros. Segundo ele, há estudos buscando aproximar sistemas artificiais do funcionamento cerebral, com redes mais dinâmicas, adaptativas e eficientes em energia. Essa mudança, ainda em desenvolvimento, poderia representar uma nova etapa na relação entre inteligência artificial e neurociência.

(Com informações de Folha de S.Paulo)
(Foto: Reprodução/Magnific/DC Studio)