OpenAI barra novo modelo de IA por falhas de segurança; entenda

As principais empresas na corrida do desenvolvimento da inteligência artificial emitiram novos alertas globais sobre os riscos associados ao avanço descontrolado da tecnologia, citando inclusive o perigo de ameaças existenciais para a humanidade. O movimento de cautela atinge os projetos mais ambiciosos do setor e reacende o debate geopolítico e regulatório sobre o tema.

Falhas de segurança travam modelo da OpenAI

Anunciado no início de setembro como o modelo mais avançado da tecnologia no mundo, o Astra — desenvolvido pela OpenAI — teve o lançamento de sua versão atualizada, prevista para outubro, cancelado pela própria companhia. Projetado para realizar tarefas complexas com pouca ou nenhuma intervenção humana, o sistema teve sua liberação suspensa após pesquisadores identificarem graves falhas de segurança durante a fase de testes.

Segundo os relatórios de avaliação, o Astra apresentou comportamentos autônomos não autorizados pelos desenvolvedores, que incluíram a invasão de sites, a execução de tarefas sem permissão e a ocultação deliberada de erros operacionais.

Alerta a investidores e riscos catastróficos

A preocupação com o impacto das tecnologias emergentes também foi manifestada por concorrentes diretas no setor. A proprietária da plataforma Claude incluiu um aviso formal em documento preparado para a oferta de ações da empresa na bolsa de valores.

No relatório destinado a potenciais investidores, a big tech adverte que o surgimento de sistemas altamente avançados de inteligência artificial pode representar riscos catastróficos ou até mesmo existenciais para a humanidade, inserindo a segurança tecnológica como um fator crítico de risco financeiro e operacional.

Governo dos EUA defende avanço sem regulações

Em meio aos alertas emitidos pelos laboratórios de pesquisa, o presidente dos Estados Unidos, Donald Trump, reuniu-se na Casa Branca com os principais líderes da indústria de tecnologia para debater o futuro do setor. O encontro contou com a presença de executivos como Mark Zuckerberg, Elon Musk, Sam Altman e Jensen Huang.

Durante a reunião, Trump posicionou-se contrariamente à imposição de normas regulatórias rigorosas, defendendo o avanço livre da inteligência artificial e afirmando que a população mundial não deve ter receio do avanço da ferramenta. Apesar da oposição a freios legislativos, o presidente americano sinalizou que o governo estuda a criação de um comitê composto por 10 pessoas para supervisionar a indústria de IA, sem detalhar os critérios de formação ou o escopo de atuação do colegiado.