Traduzido do inglês pela TechUpscale com ajuda de IA e verificado com o original. Ler o original em inglês
Novas pesquisas sobre IA e segurança, selecionadas pela relevância para modelos de linguagem, agentes de IA e cibersegurança. Os resumos são palavras dos próprios autores ou da editora, com links para o original.
Revisados por pares
Re-timing mortality risk through individualized modelling of lifespan trajectories
AI needs meaningful versioning
State space models naturally produce time cell and oscillatory behaviors and scale to abstract cognitive functions
Novos preprints (ainda não revisados por pares)
PrivacyFlow: Privacy in AI Agents through Information Flow Analysis and Consequence-Aware Risk Management
Agentes autônomos de LLM que executam fluxos de trabalho em várias etapas com dados pessoais geralmente divergem das expectativas de privacidade do usuário e vazam informações sensíveis e fora de contexto. Embora a Integridade Contextual (CI) formalize esse problema, os benchmarks e defesas existentes raramente operacionalizam a CI para sequências de tarefas realistas em várias etapas em ambientes em evolução.
Safin-1.5: Safety-Native Architecture and Verifiable Reasoning for Recursive Safety Improvement
A melhoria automática recursiva (RSI) permite que grandes modelos de linguagem avancem em suas capacidades por meio de atualizações sucessivas, mas essas atualizações também podem introduzir novos riscos e enfraquecer as salvaguardas existentes. Em alinhamento com a Lei AI-45{deg}, buscamos a RSI de Segurança, na qual a segurança se desenvolve como uma capacidade intrínseca juntamente com as capacidades gerais do modelo por meio de descoberta e reparo contínuos de riscos, preservando a utilidade e limitando a recusa excessiva.
MetaVul: Agentic Harness Discovery for Vulnerability Detection
Agentes de LLM são cada vez mais usados para automatizar a detecção de vulnerabilidades, mas a detecção confiável é desafiadora porque os agentes devem distinguir correções sutis e relevantes para a segurança de variações de código benignas. Embora a capacidade subjacente dos LLMs tenha melhorado significativamente, a precisão do agente ainda depende fortemente do harness: o código que define a estrutura ao redor do LLM.
AgentShield: Fortifying Web Applications Against AI Agents and Agentic Browsers
Agentes de navegador alimentados por LLM estão transformando a automação da web ao interagir de forma autônoma com sites e executar fluxos de trabalho complexos. No entanto, a eficácia das defesas antibot existentes contra esses sistemas permanece incerta.
What Standard Evaluations Hide About Detectors of Hijacked LLM Agents: Rare Attacks, Unseen Tools and Benchmark Transfer
Os detectores podem sinalizar agentes de grandes modelos de linguagem (LLM) sequestrados a partir dos rastros das ferramentas que eles chamam. Nas onze avaliações que auditamos, ataques ou anomalias compõem 16% a 86% das amostras de teste, nenhuma avaliação varia essa proporção e seis não relatam nenhum teste em dados de um segundo benchmark ou fonte.
Learning to Reason from Reference Samples Alone: Reinforced Adversarial Learning for Modern LLM Post-Training
Em muitos cenários em que o pós-treinamento de LLM é desejável, respostas de alta qualidade são reconhecíveis, mas difíceis de pontuar com recompensas explícitas. O aprendizado por reforço com recompensas verificáveis (RLVR) limita-se a tarefas em que um sinal explícito de correção está disponível.
Communication-Efficient Private Federated Reinforcement Learning with Post-Quantum Authentication for Vehicular Networks
O aprendizado por reforço federado privado dá suporte ao roteamento veicular cooperativo sem centralizar os dados de trajetória, mas as atualizações do modelo podem revelar informações privadas e incorrer em overhead de comunicação em links intermitentes de veículo para infraestrutura, particularmente quando a autenticação pós-quântica é necessária. Estudamos a quantização privada correlacionada, usando aleatoriedade compartilhada complementar entre veículos pareados para reduzir o erro quadrático médio de agregação, preservando a privacidade diferencial local em nível de parâmetro marginal e o custo de comunicação de um bit da quantização independente.
Consensus Within, Competition Between: Decentralized LLM Teams for Perimeter Defense
O uso de grandes modelos de linguagem (LLMs) para coordenar equipes multiagente levanta uma questão arquitetônica fundamental: se a alocação de tarefas deve ser centralizada em um único controlador LLM ou distribuída entre agentes LLM autônomos, particularmente quando a comunicação não é confiável. Em uma simulação de defesa de perímetro deliberadamente simplificada contra intrusos controlados por LLM, comparamos um comandante central, uma equipe de consenso baseada em leilão e agentes independentes sob cinco condições de rede.