Wednesday, November 18, 2026
Translate
PrivacySubmit newsShare your story Newsletter Advertise
Breaking
Research news

Radar de Pesquisa, 16 de novembro de 2026: 9 novos artigos sobre IA e segurança para conhecer

As pesquisas mais relevantes sobre IA e segurança, novas, da Nature e arXiv, com os próprios resumos dos autores e links para os artigos.

9 papers, Nature & arXiv

Traduzido do inglês pela TechUpscale com ajuda de IA e verificado com o original. Ler o original em inglês

Novas pesquisas sobre IA e segurança, selecionadas por sua relevância para modelos de linguagem, agentes de IA e cibersegurança. Os resumos são as próprias palavras dos autores ou dos editores, vinculados ao original.

Revisão por pares

Melhorando a predição de propriedades moleculares com modelos de difusão baseados em pontuação

Nature

Novos pré-prints (ainda não revisados por pares)

PrivacyPR: Um Conjunto de Dados de Correções de Privacidade do Mundo Real para Avaliação de Revisão de Código Consciente de Privacidade

arXiv · Hua Yang, Aditya Bhardwaj, Shidong Pan, Bowen Xu

The TechUpscale Brief. The day's cyber, AI and tech news in one short email, every weekday morning. Free. Unsubscribe anytime.

Agentes de codificação revisam código cada vez mais, mas se eles detectam os defeitos de privacidade que leis como o GDPR exigem que o software evite ainda está amplamente não testado, em parte porque poucos conjuntos de dados conectam defeitos reais de privacidade às suas correções aceitas e ao contexto de revisão. Apresentamos o PrivacyPR, um conjunto de dados com 4,131 pull requests (PRs) mesclados do GitHub de 1,469 repositórios, criado entre junho de 2018 e janeiro de 2024.

De Chats a Mercados: AgenticPay para Negociação Potenciada por LLM em Comércio Multiagente

arXiv · Xianyang Liu, Shangding Gu, Fan Xu, Manxi Wu, Boyi Li, Jun Wang, Costas Spanos, Dawn Song

Espera-se cada vez mais que agentes de grandes modelos de linguagem negociem e transacionem autonomamente, porém os benchmarks existentes raramente combinam fundamentação de produto multimodal, negociação de múltiplas questões e mercados competitivos multiagente. Introduzimos o AgenticPay, um benchmark unificado para avaliar a capacidade de agentes multimodais de alcançar acordos multidimensionais de alto bem‑estar em mercados realistas.

A Maldição do Alinhamento: Alinhamento de Modalidade Potencializa Ataques de Áudio via Transferência de Texto

arXiv · Yupeng Chen, Junchi Yu, Aoxi Liu, Baoyuan Wu, Philip Torr, Adel Bibi

Avanços recentes em omni‑modelos treinados de ponta a ponta melhoraram substancialmente as capacidades de áudio ao reforçar o alinhamento de modalidade texto‑áudio. No entanto, ainda não se sabe se esse alinhamento facilita inadvertidamente a transferência de vulnerabilidades de segurança entre modalidades.

LLMs podem escrever backdoors? Um Estudo Empírico de Segurança sobre Programação em Espaço de Pesos

arXiv · Zhaojia Wang, Jiucui Lu, Zheng Li

Avanços recentes em programação em espaço de pesos (WSP) demonstraram que grandes modelos de linguagem (LLMs) podem inspecionar e modificar diretamente os pesos de redes neurais sem treinamento convencional baseado em gradiente. Embora essa capacidade abra novas possibilidades de aprimoramento de modelos, também levanta uma importante questão de segurança: LLMs podem explorar a programação em espaço de pesos para injetar backdoors em redes neurais?

Treinando Agentes de Modelo de Linguagem para Encontrar Vulnerabilidades com CTF-Dojo

arXiv · Terry Yue Zhuo, Dingmin Wang, Hantian Ding, Varun Kumar, Zijian Wang

Grandes modelos de linguagem (LLMs) demonstraram capacidades excepcionais quando treinados em ambientes de tempo de execução executáveis, destacando‑se particularmente em tarefas de engenharia de software por meio de ciclos de feedback verificados. No entanto, ambientes fundamentados em execução, escaláveis e generalizáveis, ainda são escassos, limitando o progresso no treinamento de agentes de ML mais capazes.

REFORGE: Um Método para Avaliar as Capacidades de Engenharia Reversa de LLMs na Nomeação de Funções Binárias Descompiladas

arXiv · Nicolas Koller, Andreas U. Schmidt

Grandes modelos de linguagem (LLMs) são cada vez mais aplicados a tarefas de engenharia reversa, e relatos recentes de inteligência de ameaças mostram seu uso em fluxos de trabalho de segurança ofensiva ao vivo. Contudo, as alegações sobre sua capacidade superam nossa habilidade de medi‑la.

HackWorld: Avaliando Agentes de Uso de Computador na Exploração de Vulnerabilidades de Aplicações Web

arXiv · Xiaoxue Ren, Penghao Jiang, Kaixin Li, Zhiyong Huang, Xiaoning Du, Jiaojiao Jiang, Zhenchang Xing, Jiamou Sun, Terry Yue Zhuo

Aplicações web são alvos principais de ciberataques como portas de entrada para serviços críticos e dados sensíveis. Testes de penetração tradicionais são caros e exigem alta especialização, dificultando a escalabilidade diante do crescente ecossistema web.

LLMs são vulneráveis a solicitações maliciosas com intenção indistinguível

arXiv · Wenzhuo Xu, Zonghao Ying, Deyue Zhang, Dongdong Yang, Xiangzheng Zhang, Quanchen Zou

Ataques de jailbreak podem contornar os mecanismos de segurança de Grandes Modelos de Linguagem (LLMs) e levar à geração de conteúdo nocivo ou que viole políticas. Primeiro, examinamos oito métodos de jailbreak contra um filtro baseado em LLM e observamos que solicitações semelhantes a consultas normais de usuários tendem a ter taxas de aprovação de filtro mais altas do que aquelas contendo padrões anômalos óbvios.

Add TechUpscale as a preferred source on Google

The TechUpscale Brief

The day's cyber, AI and tech news in one short email, every weekday morning. Free. Unsubscribe anytime.

I'm most interested in

Join the conversation

Comments are moderated. Be civil and stay on the story: no personal attacks, hate, spam or ads, and no one else's private details. Your email is never shown. Privacy policy.

More Research