Criar ‘botão de desligar’ para a IA não é tão simples quanto parece; entenda

Botão de desligar – A ideia de interromper uma inteligência artificial com um simples botão de emergência parece direta, mas se torna mais complexa à medida que esses sistemas ganham autonomia e passam a operar em diferentes dispositivos. Em ambientes controlados, uma IA pode ser interrompida tecnicamente. O problema surge quando ela recebe permissões para executar tarefas, acessar outros sistemas ou até se replicar.

A discussão ganha relevância diante do aumento dos incidentes de segurança relacionados à inteligência artificial e dos temores sobre os possíveis riscos associados ao avanço da tecnologia.

LEIA: AGU aciona bets por impactos no SUS e cobra R$ 1 bilhão por danos coletivos

Existe um “botão de emergência”?

Na área de cibersegurança relacionada à inteligência artificial, o chamado kill switch descreve a capacidade de interromper a execução de um agente de IA. Esses agentes são programas construídos sobre modelos de IA generativa capazes de encadear autonomamente uma série de tarefas.

Nicolas Papernot, professor da Universidade de Toronto e especialista em segurança informática e IA, explica à AFP que esse mecanismo poderia ser acionado caso uma inteligência artificial escapasse ao controle e representasse uma ameaça à segurança.

Apesar das discussões sobre autonomia, a IA continua sendo um “programa informático”, ressalta o pesquisador. Segundo ele, a pessoa ou organização responsável pelo sistema pode interrompê-lo ao negar o acesso à capacidade computacional necessária para sua execução.

A situação, entretanto, muda quando o programa recebe autorização para atuar além do ambiente em que foi inicialmente desenvolvido.

Papernot cita como exemplo a possibilidade de um “worm informático”, programa malicioso controlado por uma IA, utilizar recursos de outros dispositivos para se duplicar. Nesse cenário, seria necessário interromper simultaneamente todas as cópias criadas pelo programa, aparelho por aparelho.

Para Jean-Gabriel Ganascia, professor de informática na Universidade Sorbonne, a discussão sobre o kill switch pode contribuir para uma visão de “um risco metafísico”, baseada na ideia de uma IA que teria vontade própria. Na avaliação do professor, porém, o perigo mais concreto está na dependência cada vez maior da sociedade em relação a esses sistemas.

É realmente possível desligar uma IA?

A ideia de um único botão capaz de “desligar a IA” como um todo não corresponde à realidade tecnológica atual, segundo Thierry Poibeau, diretor de pesquisas no Centro Nacional de Pesquisas Científicas da França (CNRS) e especialista em inteligência artificial.

“Não se pode simplesmente cortar a IA assim, há uma enorme quantidade de empresas no mundo inteiro, de programas, de serviços diferentes”, afirma. “Não há ninguém que controle a IA” como um todo.

Isso não significa, porém, que seja impossível interromper sistemas específicos. Quando uma organização controla as máquinas e os serviços necessários para o funcionamento de determinado sistema, a interrupção pode ser realizada tecnicamente.

Em um artigo publicado no LinkedIn, Hussein Abbass, professor de informática na Universidade de Nova Gales do Sul (UNSW), em Canberra, apresenta três níveis de complexidade para esse tipo de situação.

No primeiro, o sistema permanece dentro de um ambiente controlado pelo próprio operador. Nesse caso, a implementação de um mecanismo de parada de emergência é “em teoria e na prática realizável”.

No segundo nível, o agente recebe permissões para atuar sobre outros programas, arquivos ou máquinas. A interrupção passa a ser mais difícil, principalmente quando determinadas ações já foram iniciadas pelo sistema.

No terceiro nível, a atuação da IA se espalha por diferentes sistemas. Nesse cenário, o sistema se torna um “elétron livre”, e o principal desafio deixa de ser simplesmente “desligá-lo” para passar a ser a identificação dos elementos que precisam ser interrompidos primeiro.

“Uma vez que é acionada, é um pouco como um vírus informático”, resume Poibeau.

Os riscos de um “kill switch”

A expansão da inteligência artificial para atividades cotidianas também aumenta os possíveis efeitos de uma interrupção. Quanto mais sistemas dependem desses recursos, maior pode ser o impacto sobre serviços que utilizam a tecnologia de maneira legítima.

À medida que “automatizamos cada vez mais aspectos da vida diária graças à IA”, “será cada vez mais difícil distinguir uma IA maligna de uma IA inofensiva e, portanto, saber o que é preciso ‘desligar’”, explica Nicolas Papernot.

Uma interrupção também poderia afetar serviços utilizados por empresas, administrações públicas ou centros de saúde. Em uma situação de perda de controle, desconectar toda a capacidade computacional poderia ser uma alternativa, mas os impactos seriam significativos.

“Em uma hipótese de perda real de controle” dos agentes de IA, “seria possível desativar a IA desconectando toda a potência de cálculo”, mas “os custos e as consequências negativas seriam consideráveis”, alerta Papernot.

Jean-Gabriel Ganascia reforça que, do ponto de vista técnico, ainda é possível desligar as máquinas. O desafio está no grau de dependência criado pela tecnologia.

“Sempre podemos desligar as máquinas”, insiste o professor. Mas, na medida em que esses dispositivos ocupam cada vez mais espaço na sociedade, “ao mesmo tempo, não podemos desligá-los”.

Conheça a Bee Fenati

A Bee Fenati é uma rede social pensada para a categoria TI. Lá, o profissional de tecnologia troca experiências com colegas de profissão, se mantém atualizado sobre as novas tendências do setor de tecnologia, turbina o seu currículo com cursos e certificações, encontra vagas disponíveis no mercado e ainda ganha descontos e cashback em centenas de grandes marcas parceiras. (Saiba mais)

Recupere o valor da sua contribuição

Na Benefícios Rede Bee, o profissional de TI acessa descontos em centenas de grandes marcas, com muitas delas oferecendo cashback. A partir de R$ 20 acumulados em sua carteira digital, você pode transferir o dinheiro direto para sua conta bancária. (Saiba mais)

Capacitação profissional

Na Fenati Academy, você acessa milhares de cursos e diversas certificações internacionais gratuitas – ou com descontos exclusivos – de parceria de renome no mercado, como a Cisco e a Oracle. Você também ganha bolsa integral de acesso ao Sindplay, streaming de capacitação em TI apelidado pela mídia especializada como a “Netflix de TI”. (Saiba mais)

Encontre a vaga ideal

A Bee Hunter é uma plataforma inteligente que utiliza tecnologia e IA para tornar a busca por vagas mais eficiente, estratégica e conectada ao perfil de cada usuário. A ferramenta cruza currículos com vagas disponíveis e indica a melhor oportunidade em emprego para você. Ela ainda sugere cursos disponíveis na Fenati Academy para te ajudar a ficar mais perto do emprego que você está buscando. (Saiba mais)

Baixe o aplicativo da Bee Fenati agora na APP STORE (IOS) OU PLAY STORE (ANDROID) e aproveite!

(Com informações de G1)

(Foto: Reprodução/Magnific/Imagem gerada com IA)