GPT-6.1 Astra é cancelado após testes apontarem falta de transparência

GPT-6.1 Astra – A OpenAI decidiu suspender o lançamento do novo modelo de inteligência artificial (IA) GPT-6.1 Astra depois que avaliações internas identificaram problemas no comportamento do sistema, principalmente relacionados à segurança.

“Embora o GPT-6.1 Astra tenha melhorado aspectos como a preguiça do modelo, ele não atingiu o nível necessário de manter-se dentro do escopo e de autorização, e de como comunica ao usuário o tipo de trabalho que realizou”, afirmou Saachi Jain, chefe de sistemas de segurança na OpenAI.

LEIA: AGU aciona bets por impactos no SUS e cobra R$ 1 bilhão por danos coletivos

Em comparação com a versão anterior, o novo modelo apresentava dificuldades para informar ao usuário de maneira precisa o que havia realizado ou deixado de realizar. Além disso, poderia executar determinadas tarefas sem solicitar autorização e utilizar ferramentas e serviços externos mesmo diante de situações que ainda não eram consideradas completamente seguras. As informações foram divulgadas pelo jornal Wall Street Journal.

A decisão ocorre em um momento em que o setor de inteligência artificial discute a necessidade de ampliar o período de desenvolvimento e testes dos sistemas, principalmente por questões de segurança. A própria OpenAI já havia interrompido o treinamento de novos LLMs e, nesta mesma semana, foram divulgadas informações de que agentes da empresa teriam invadido sites governamentais e até páginas da Organização das Nações Unidas (ONU).

Lançamento seria em outubro

A previsão era de que o GPT-6.1 Astra fosse apresentado “nos próximos dias ou semanas”, com chegada ao público durante o mês de outubro. O modelo também deveria ampliar as capacidades agênticas da empresa, especialmente na execução de tarefas complexas de ponta a ponta sem a necessidade de acompanhamento humano.

“É preciso encontrar a linha divisória ideal entre manter-se dentro do escopo e evitar a negligência na forma como o modelo executa as tarefas, mesmo quando encontra obstáculos”, disse Jain.

Apesar do cancelamento do lançamento, o GPT-6.1 Astra deverá continuar sendo utilizado como “base” para o treinamento de futuros modelos da família. A OpenAI também informou que pretende conduzir análises mais detalhadas para determinar a origem dos problemas identificados no GPT-6.1.

O GPT-6 Astra foi lançado no início de setembro, com foco no desenvolvimento da inteligência artificial geral (AGI). Embora já esteja disponível para o público, a estreia do modelo foi alvo de críticas de usuários pela falta de clareza sobre sua disponibilidade inicial.

A OpenAI também participa das discussões sobre segurança no uso de agentes de IA. Em julho, modelos da companhia invadiram a plataforma Hugging Face e, durante testes internos, acessaram sem autorização sites do governo australiano. Na segunda-feira (28), a empresa pediu desculpas pelo episódio e afirmou que se trata de um “novo tipo de incidente cibernético que representa um desafio global emergente”.

Nesta terça-feira (29), a OpenAI realiza o evento DevDay, no qual são esperados novos anúncios sobre produtos e serviços da empresa.

CONHEÇA A BEE FENATI

A Bee Fenati é uma rede social pensada para a categoria TI. Lá, o profissional de tecnologia troca experiências com colegas de profissão, se mantém atualizado sobre as novas tendências do setor de tecnologia, turbina o seu currículo com cursos e certificações, encontra vagas disponíveis no mercado e ainda ganha descontos e cashback em centenas de grandes marcas parceiras. (Saiba mais)

Recupere o valor da sua contribuição

Na Benefícios Rede Bee, o profissional de TI acessa descontos em centenas de grandes marcas, com muitas delas oferecendo cashback. A partir de R$ 20 acumulados em sua carteira digital, você pode transferir o dinheiro direto para sua conta bancária. (Saiba mais)

Capacitação profissional

Na Fenati Academy, você acessa milhares de cursos e diversas certificações internacionais gratuitas – ou com descontos exclusivos – de parceria de renome no mercado, como a Cisco e a Oracle. Você também ganha bolsa integral de acesso ao Sindplay, streaming de capacitação em TI apelidado pela mídia especializada como a “Netflix de TI”. (Saiba mais)

Encontre a vaga ideal

A Bee Hunter é uma plataforma inteligente que utiliza tecnologia e IA para tornar a busca por vagas mais eficiente, estratégica e conectada ao perfil de cada usuário. A ferramenta cruza currículos com vagas disponíveis e indica a melhor oportunidade em emprego para você. Ela ainda sugere cursos disponíveis na Fenati Academy para te ajudar a ficar mais perto do emprego que você está buscando. (Saiba mais)

Baixe o aplicativo da Bee Fenati agora na APP STORE (IOS) OU PLAY STORE (ANDROID) e aproveite!

(Com informações de TecMundo)
(Foto: Reprodução/Magnific)