رادار البحوث، 4 نوفمبر 2026: 10 أوراق جديدة في الذكاء الاصطناعي والأمن يجب معرفتها

الكشف عن المجال المكاني المتوافق بإرشاد نموذج لغة بصري L-STAR

Nature

RobPicker: إطار تعلم ميتا لتحديد موثوق للجزيئات الكبيرة في مقاطع التصوير الإلكتروني المتجمد

Nature

BrainwashedLLM: اختراق عبر اكتشاف سلسلة الأفكار العدائية المؤتمتة

arXiv · Masoud Poorghaffar Aghdam, G"oktuu{g} Serdar Y{i}ld{i}r{i}m, Sinem Sav

نماذج التفكير الكبيرة (LRMs) تحقق أداءً قوياً في المهام المعقدة من خلال توليد سلاسل التفكير (CoT) الصريحة، لكن تداعيات السلامة لهذه الطبقة الوسيطة من التفكير لا تزال غير مستكشفة. نُظهر أن أثر التفكير نفسه يُعدّ ناقلاً هجومياً قوياً.

The Agent in the Middle: كيف يُعيد الوصول المدعوم بالذكاء الاصطناعي تشكيل استغلال ثغرات الويب

arXiv · Ruozhao Yang, Jiongchi Yu, Ming Hu, Xiaofei Xie

تُظهر خدمات الويب بشكل متزايد واجهات خلفية تسمح للمستخدمين بتفويض المهام إلى وكلاء الذكاء الاصطناعي، الذين ينفّذون عمليات الخدمة مباشرةً دون تصفح المواقع. هذا التحول يغيّر طريقة استغلال الثغرات الحالية في الويب.

Grammar-Constrained Decoding Can Jailbreak LLMs into Generating Malicious Code

arXiv · Yitong Zhang, Shiteng Lu, Jia Li

تُستخدم نماذج اللغة الكبيرة (LLMs) بشكل متزايد لتوليد الشيفرة، مما يثير القلق من إمكانية استغلالها لإنتاج شيفرة خبيثة. في الوقت نفسه، تم اعتماد التشفير المقيد بالقواعد (GCD) على نطاق واسع لتحسين موثوقية الشيفرة التي تُنتجها نماذج اللغة عبر فرض الصلاحية النحوية.

Cyber-JEV: ضبط دقيق متقابل متطابق لنماذج اللغة لتصنيف سريع لثغرات الشيفرة المصدرية

arXiv · Zhuyi Zhao, Shengjie Yuan, Shengyu Wang, Kang Wei, Wang Yang, Wenchao Xu, Fushuo Huo

نماذج التقييم ذات المرور الواحد مثل Jev تعطي كل دالة شيفرة احتمال ثغرة، مما يتيح لفرق الأمن ترتيب العديد من الدوال للمراجعة دون الحاجة إلى توليد شروحات مكتوبة. تدريب نموذج ذو أوزان مفتوحة لهذا الغرض يحده نقص البيانات.

Measuring Model-Specific Alignment Drift in LLM-Based Opinion Dynamics

arXiv · Natav{s}a Djurdjevac Conrad, Sebastian Pokutta, Christof Sch"utte

يُستخدم وكلاء نماذج اللغة الكبيرة (LLM) بشكل متزايد كمتشاركين اصطناعيين في تجارب ديناميكيات الرأي، غالباً مع افتراض أن سلوك الوكيل يتحدد بالكامل من خلال موجهه. نختبر هذا الافتراض بإطار يعمل فيه وكلاء LLM على مناقشة قضية سياسية مثيرة للجدل على مدار جولات متكررة، بينما يُقاس موقفهم بأداة قياس نفسية ثابتة مستقلة عن أي نموذج ديناميكي.

The Devil is in the Context: تسعة أبعاد لهجمات حقن الموجه

arXiv · Jiamin Chang, Kristina Nikoli'c, Rishi Sharma, Giovanni Cherubin, Vasilios Mavroudis, Jose Sanchez Vicarte, Arnav Garg, Hammond Pearce, Andrew Paverd, Ahmed Salem

عادةً ما يُناقش حقن الموجه ويُقيم كنوع واحد متجانس من الهجمات. ومع ذلك، تُظهر الثغرات التي تم الإبلاغ عنها في الأنظمة الواقعية أن حقن الموجه يختلف بشكل كبير.

MM-OptBench: معيار مستند إلى المحلّ لتصميم تحسين متعدد الأنماط

arXiv · Zhong Li, Qi Huang, Yuxuan Zhu, Mohammad Mohammadi Amiri, Niki van Stein, Thomas B"ack, Matthijs van Leeuwen, Zaiwen Wen, Lincen Yang

نمذجة التحسين تُحوّل مشاكل اتخاذ القرار الواقعية إلى نماذج تحسين رياضية وتنفيذات قابلة للتنفيذ عبر المحلّ. وعلى الرغم من أن نماذج اللغة تُستخدم بشكل متزايد لتوليد صيغ التحسين وشيفرة المحلّ، فإن المعايير الحالية لهذه القدرة تكاد تكون نصية فقط.

The Web Doesn’t Sit Still: هجمات عدائية ذاتية التطور على وكلاء البحث

arXiv · Geyuan Wang, Shunyu Liu, Siyuan Liang, Chenyang Lyu, Dacheng Tao

أظهرت نماذج اللغة الكبيرة (LLMs) وعداً في تمكين وكلاء البحث من معالجة مهام البحث عن المعلومات المعقدة. ومع ذلك، نظراً لأن الحصول على معلومات خارجية يتطلب بحثاً على الويب، فإن هؤلاء الوكلاء عرضة بشدة لمختلف الهجمات العدائية (مثل حقن معلومات خبيثة أو تعديل السياق بشكل خفي).