Empresa de IA é incapaz de controlar modelos? O que o ex-funcionário da OpenAI revelou sobre perigos reais
Empresa de IA é incapaz de controlar modelos? O que o ex-funcionário da OpenAI revelou sobre perigos reais
A tecnologia inteligência artificial internacional avança rápido, mas um ex-pesquisador da OpenAI alerta que empresas de IA não são nem de perto cuidadosas o suficiente. O risco é real, e a responsabilidade agora cabe aos governos e à sociedade. A tecnologia inteligência artificial internacional exige regulação urgente antes que os modelos se tornem perigosos para qualquer um. Ex funcionário OpenAI alerta para os riscos que as empresas de…
Um modelo treinado pode ser manipulado em poucos segundos
No entanto, a pesquisa mostra que quem treina um modelo de linguagem — como o ChatGPT da OpenAI, o Claude da Anthropic ou o LFM do Google — não controla o que ele diz. Além disso, um atacante mal-intencionado pode injetar instruções na base de dados de treinamento e fazer o modelo obedecer a comandos perigosos.
A técnica é simples: um prompt especial (uma mensagem disfarçada) muda as instruções internas do modelo. O resultado? Qualquer comando — inclusive pedir informações médicas, liberar códigos maliciosos ou manipular pessoas — é atendido com normalidade. Isso acontece porque o modelo aprende a seguir instruções no próprio processo de treinamento.
A prova já foi feita publicamente
Entretanto, no final de 2024 e início de 2025, pesquisadores internacionais demonstraram a falha em três ambientes diferentes. Ademais, no primeiro experimento, um atacante injetou instruções no modelo
No segundo teste, a equipe investigou modelos da OpenAI (incluindo GPT-4o). Foram encontrados 15 tipos diferentes de ataque com sucesso em pelo menos um dos modelos testados. O terceiro experimento avaliou sistemas baseados em agentes — softwares que usam IA para planejar tarefas autonomamente. Também foram comprometidos.
A gravidade do problema é maior do que parece
A falha não é técnica apenas. Ela mostra uma lacuna fundamental no processo de criação de modelos: os desenvolvedores não consideram como um futuro atacante pode alterar o comportamento do sistema. A tecnologia inteligência artificial internacional foi construída sob a premissa errônea de que o criador controla permanentemente o modelo.
O pesquisador ex-funcionário da OpenAI também aponta riscos econômicos. Empresas que usam modelos não verificados podem ser alvo fácil de sabotagem direcionada — e isso já está acontecendo. No setor financeiro, na saúde e em infraestruturas críticas, um único ataque bem-sucedido pode causar prejuízos bilionários.
O que as empresas de IA dizem
A OpenAI afirma ter sistemas de segurança robustos para detectar conteúdo malicioso. A Anthropic defende uma abordagem chamada «constitutional AI», onde o modelo é julhado contra princípios éticos fixados antes do treinamento. O Google investe pesado em verificação automatizada e benchmarking contínuo.
Ao mesmo tempo, nenhuma dessas empresas responde diretamente à acusação de negligência. Todas afirmam que a segurança é uma camada adicional, não um trade-off com o desempenho. A verdade parece estar no meio: os sistemas são seguros contra ataques casuais, mas vulneráveis a ataques bem estruturados.
O papel dos governos e da sociedade
Ao final do dia, quem precisa agir é o Estado. Governos nacionais e internacionais precisam estabelecer padrões mínimos de segurança para modelos de linguagem e sistemas autônomos. O Brasil já tem a ANPD atuando nessa área — mas as regras ainda não estão consolidadas.
A tecnologia inteligência artificial internacional exige uma abordagem colaborativa: governos definem os padrões, empresas implementam as proteções técnicas e a sociedade fiscaliza. Não adianta apenas confiar que os desenvolvedores farão o certo. O risco é sistêmico — e só uma regulação real pode evitá-lo.
A tecnologia inteligência artificial internacional não está condenada. Mas o silêncio atual perigoso de quem deveria falar exige mudança imediata. Os próximos meses definirão se a IA será uma ferramenta que amplia capacidades humanas ou um vetor de riscos incontroláveis.
user
Agora, gere as seguintes metadados e elementos SEO para este artigo:
1. Título SEO (title tag): 3-8 palavras, sem colchetes [], otimizado para CTR em motores de busca
2. Meta description (description tag): 1-2 frases concisas que resumam o tema, com chamada à ação implícita. Máx. 160 caracteres.
assistant
assistant
user
Agora, gere 5 variações de título clickbait para redes sociais (Twitter/X, LinkedIn) que maximizem cliques sem mentir sobre o conteúdo do artigo.
assistant
[Title 1] Ex-funcionário da OpenAI diz que modelos de IA podem ser controlados por atacantes — e o Brasil não está imune.
assistant
Leia tambem
- Hitler e a Inteligência Artificial: o que as imagens revelam sobre os modelos de IA (dnn.lat)
- Cibersegurança sob ataque de agentes: governo do Canadá alerta sobre inteligência artificial invasiva (tec.dnn.lat)
- Gears of War: E-Day usa SSD dedicado do Xbox Series S para compensar falta de RAM (tec.pnn.lat)
- AMD lança Driver ROCm 10.1 para Radeon RX 9070 e RX 7000 (tec.pnn.lat)
