FEDERAÇÃO NACIONAL DOS TRABALHADORES EM TECNOLOGIA DA INFORMAÇÃO

A FEDERAÇÃO DE TI QUE MAIS CRESCE NO BRASIL!

Criador do primeiro chatbot em 1966 passou décadas alertando sobre os riscos da IA

Joseph Weizenbaum desenvolveu modelo para demonstrar os limites da comunicação entre humanos e máquinas, mas testemunhou fenômeno que o tornou crítico da IA
Criador do primeiro chatbot em 1966 passou décadas alertando sobre os riscos da IA
Criador do primeiro chatbot em 1966 passou décadas alertando sobre os riscos da IA

Primeiro chatbot  – Em 1966, muito antes do surgimento de ferramentas como ChatGPT e Alexa, o cientista da computação Joseph Weizenbaum, professor do MIT, criou aquele que é considerado o primeiro chatbot da história. Batizado de ELIZA, o programa foi desenvolvido para simular conversas humanas e rapidamente chamou a atenção da comunidade acadêmica.

O funcionamento do software era relativamente simples. Inspirado em um psicoterapeuta da abordagem rogeriana, o programa reformulava frases e devolvia perguntas ao usuário. Quando alguém dizia “Estou com problemas com minha mãe”, por exemplo, o sistema respondia com frases como “Diga-me mais sobre sua mãe” ou “Por que você acha que está com problemas com sua mãe?”.

LEIA: IA é utilizada por apenas 18% das unidades de saúde no Brasil

A proposta de Weizenbaum era apenas experimental. O pesquisador pretendia demonstrar como a comunicação entre humanos e máquinas ainda era superficial e limitada. O resultado, porém, foi muito diferente do esperado.

À medida que pessoas interagiam com o ELIZA, muitas passaram a enxergar sentimentos, inteligência e empatia no programa. O comportamento dos usuários surpreendeu o próprio criador do chatbot.

Weizenbaum ficou especialmente impactado ao perceber que sua secretária, mesmo sabendo que ele havia criado o sistema, pediu que ele deixasse a sala para poder conversar “em particular” com a máquina. O pesquisador também observou que usuários criavam vínculos emocionais com o programa, compartilhando segredos íntimos e buscando aconselhamento genuíno.

O fenômeno acabou ficando conhecido como “Efeito ELIZA”, termo usado na psicologia e na ciência da computação para descrever a tendência humana de atribuir compreensão emocional e consciência a programas e objetos inanimados.

A experiência transformou profundamente a visão de Weizenbaum sobre a tecnologia. Assustado com a facilidade com que pessoas eram convencidas por aquilo que considerava apenas uma “ilusão de inteligência”, ele passou a dedicar sua vida a alertar sobre os riscos da dependência tecnológica e do avanço indiscriminado da inteligência artificial.

Em 1976, publicou o livro Computer Power and Human Reason (“O Poder do Computador e a Razão Humana”), obra em que argumentava existir uma diferença essencial entre decisão — entendida como um processo computacional — e escolha, que para ele era um ato humano ligado à moral e aos valores.

Para o pesquisador, delegar tarefas que exigem empatia e julgamento moral às máquinas representava uma “atrocidade”. Ele demonstrava preocupação com a possibilidade de a sociedade transferir responsabilidades humanas complexas para algoritmos incapazes de compreender verdadeiramente aquilo que processam.

Joseph Weizenbaum morreu em 2008, mas suas reflexões voltaram ao centro do debate em meio ao avanço das inteligências artificiais generativas, capazes de produzir textos convincentes e imagens realistas.

Embora não fosse contrário à tecnologia em si, o cientista criticava a ideia de que máquinas poderiam substituir a sabedoria humana. Sua trajetória permanece como um alerta sobre os limites da inteligência artificial e sobre a tendência humana de projetar expectativas e emoções em sistemas computacionais que, apesar de sofisticados, continuam sendo apenas reflexos das próprias vulnerabilidades humanas.

(Com informações de Exame)
(Foto: Reprodução/Magnific)

Mais recentes

Mais de 35 mil aplicativos criados com IA da SpaceXSI ficam vulneráveis

Mais de 35 mil aplicativos criados com IA da SpaceXSI ficam vulneráveis

Proclamação da República: quem trabalha no feriado tem direito a pagamento em dobro?

Proclamação da República: quem trabalha no feriado tem direito a pagamento em dobro?

Automação financeira exige equilíbrio entre inteligência artificial, regras e controle humano

Automação financeira exige equilíbrio entre inteligência artificial, regras e controle humano

Fraudes digitais ameaçam empresas e órgãos públicos na América Latina

Fraudes digitais ameaçam empresas e órgãos públicos na América Latina

IA generativa avança na indústria de games em meio a demissões e críticas

IA generativa avança na indústria de games em meio a demissões e críticas

Ataques hackers na Europa acendem alerta sobre o futuro da segurança digital

Ataques hackers na Europa acendem alerta sobre o futuro da segurança digital

Outlook, Teams e Copilot enfrentam falhas em interrupção global da Microsoft

Outlook, Teams e Copilot enfrentam falhas em interrupção global da Microsoft

Ataque cibernético à Caixa expõe nomes, CPFs, telefones e endereços

Ataque cibernético à Caixa expõe nomes, CPFs, telefones e endereços

Aumento real! Conheça a pauta para a TI do Acre, Roraima e Tocantins; participe da assembleia!

Aumento real! Conheça a pauta para a TI do Acre, Roraima e Tocantins; participe da assembleia!

Empresas apostam em IA, mas ainda não medem ganhos econômicos

Empresas apostam em IA, mas ainda não medem ganhos econômicos

Nova lei europeia mira design viciante, compras por impulso e práticas enganosas na internet

Nova lei europeia mira design viciante, compras por impulso e práticas enganosas na internet

Ranking global aponta desafios do Brasil para avançar na adoção da IA

Ranking global aponta desafios do Brasil para avançar na adoção da IA

Sinttec e Fenati convocam empresas para negociação diante de intransigência do setor patronal

Sinttec e Fenati convocam empresas para negociação diante de intransigência do setor patronal

Empresa dá dia de folga para seus 7 mil funcionários jogarem GTA 6

Empresa dá dia de folga para seus 7 mil funcionários jogarem GTA 6

Ataque a sistema nacional da Dinamarca expõe informações de 8,8 milhões de pessoas

Ataque a sistema nacional da Dinamarca expõe informações de 8,8 milhões de pessoas