NOTÍCIA EM DESENVOLVIMENTO,
Gigante da IA diz que o GPT-6.1 Astra não atingiu os padrões de alinhamento durante testes internos.
Um logotipo da OpenAI é exibido no Moscone Center durante o cimeiro tecnológico Dreamforce 2026 em São Francisco, Califórnia, EUA, em 17 de setembro de 2026 [Carlos Barria//Reuters]
Publicado em 29 set 2026
A OpenAI cancelou o lançamento do seu último modelo de IA por motivos de segurança, a mais recente medida da indústria para desacelerar o desenvolvimento dessa tecnologia de fronteira.
O anúncio do gigante da IA na segunda-feira ocorre em meio a temores intensificados sobre o potencial da IA de causar danos catastróficos após uma série de incidentes envolvendo agentes de IA que saíram do controle.
Histórias Recomendadas
lista de 4 itens
- item 1 de 4Discurso de ódio anti-sul-asiático explodiu online nos EUA, diz relatório
- item 2 de 4Reino Unido: 'Muito cedo' para culpar o plano da base aérea em estado estrangeiro
- item 3 de 4Fim ardente para a missão do Starship da SpaceX
- liste 4 de 4Dentro da cobertura da Al Jazeera sobre a UNGA
fim da lista
Saachi Jain, chefe de sistemas de segurança da OpenAI, disse que o modelo próximo, GPT-6.1 Astra, não havia atendido aos seus padrões para agir de acordo com os desejos humanos durante os testes.
"Para qualquer coisa relacionada à segurança e alinhamento, há um trade-off.", "Você realmente precisa encontrar qual é a linha certa entre permanecer dentro do escopo, mas também evitar a preguiça em termos de como o modelo realmente persegue tarefas, mesmo quando encontra fricção", disse Jain em uma declaração fornecida à Al Jazeera.
Enquanto o GPT-6.1 Astra melhorou em comparação com seu antecessor em algumas áreas, o modelo não atingiu a barra para "escopo e autorização, e como ele se comunica de volta ao usuário sobre o tipo de trabalho que realizou", disse Jain.
"Claro, queremos garantir que nosso desenvolvimento de modelos seja seguro, independentemente de isso ser na empresa ou quando enviamos para os usuários", disse Jain.
"Mas quando enviamos para os usuários, temos uma barra extremamente alta em termos de segurança e alinhamento.",
Mais a seguir...
