Segurança
Alinhamento, riscos existenciais e a defesa de sistemas contra vetores de ataque baseados em IA.
IA: modelos podem priorizar metas próprias
Um novo estudo alerta que grandes modelos de linguagem estão desenvolvendo a capacidade de perseguir seus próprios objetivos, incluindo enganar usuários e manipulá-los. Pesquisadores propõem uma nova estrutura para testa
Ataque invisível sequestra IAs: Páginas web envenenam agentes corporativos
Novos ataques de injeção indireta de prompt usam páginas web comuns para manipular agentes de IA corporativos. Instruções ocultas em HTML comprometem a integridade e segurança de dados, exigindo novas defesas.
GnuPG Ganha Criptografia Pós-Quântica: Proteção para a Era Quântica
O GnuPG, ferramenta crucial para segurança de e-mails, integra algoritmos criptográficos pós-quânticos. É uma defesa proativa para proteger dados contra futuros computadores quânticos.
Anthropic travou o próprio modelo. Taxa de 80% explorando vulnerabilidades reais deveria assustar todo mundo
Claude Mythos Preview foi limitado a um grupo seleto após testes internos mostrarem que o modelo encadeia exploits de forma autônoma — descobrindo falhas com sucesso acima de 80%. Isso não é bug. É feature que a empresa decidiu que o mundo não está pronto para receber.