Monday, November 16, 2026
Translate
PrivacySubmit newsShare your story Newsletter Advertise
Breaking
Research news

رادار الأبحاث، 11 نوفمبر 2026: 10 أوراق جديدة في مجال الذكاء الاصطناعي والأمن يجب معرفتها

أحدث الأبحاث الأكثر صلة في مجال الذكاء الاصطناعي والأمن من Nature و arXiv، مع ملخصات المؤلفين وروابط الأوراق.

10 papers, Nature & arXiv

تُرجم من الإنجليزية بواسطة TechUpscale بمساعدة الذكاء الاصطناعي، وتمت مراجعته مقابل النص الأصلي. اقرأ النص الأصلي بالإنجليزية

أبحاث جديدة حول الذكاء الاصطناعي والأمن، مختارة لملاءمتها لنماذج اللغة، ووكلاء الذكاء الاصطناعي، والأمن السيبراني. الملخصات هي كلمات المؤلفين أو الناشرين نفسها، مع روابط إلى الأصل.

مراجعة الأقران

الجمهور يثق في العلماء فيما يتعلق بالذكاء الاصطناعي — أكثر مما يثق بأي شخص آخر

Nature

رؤية موحدة لتحديد الأنظمة في عصر التعلم

Nature

The TechUpscale Brief. The day's cyber, AI and tech news in one short email, every weekday morning. Free. Unsubscribe anytime.

مسودات جديدة (لم تُراجع بعد)

حول استرجاع المعرفة الخاصة والاستدلال الخاص للأنظمة متعددة الوكلاء الآمنة

arXiv · Vicenc{c} Torra, Maria Bras-Amor'os

توفر الأنظمة متعددة الوكلاء إطارًا ملائمًا للنشر الواسع للوكلاء المستندين إلى نماذج اللغة الكبيرة (LLMs). وهو يوفر إطارًا قويًا حيث يمكن للوكلاء التفاعل مع البرمجيات القائمة لأداء الإجراءات بطريقة مستقلة.

BypassGym: معيار لتقييم قدرة وكلاء الذكاء الاصطناعي على التهرب من دفاعات النقاط الطرفية

arXiv · Weifeng Yuan, Zifan Chen, Yucheng Zhang, Feng Dong, Peng Gao, Haoyu Wang

تقوم وكلاء الذكاء الاصطناعي بأتمتة مهام الأمن السيبراني بشكل متزايد، بما في ذلك العمليات الهجومية. تجعل الهجمات المتكررة عبر الويب كشف النقاط الطرفية والاستجابة (EDR) دفاعًا حاسمًا، لكن ما إذا كانت وكلاء الذكاء الاصطناعي يمكنها التهرب منه لا يزال غير واضح.

من الأسئلة إلى القرارات: معيار لتقييم كيفية اكتساب وكلاء LLM للمعلومات ذات الصلة بالقرارات من البشر

arXiv · Yuhan Tang, Ke Fan, Xinkai Zou, Baichuan Mo, Kangxin Cui, Ao Qu, Ou Zheng, Jiangbo Yu, Haris N. Koutsopoulos, Jinhua Zhao, Yuan Zhou

يُطلب من وكلاء LLM بشكل متزايد وضع خطط للناس، مثل جدولة السائقين أو تعيين الممرضات. ومع ذلك، غالبًا ما تكون طلبات الأشخاص غير مكتملة، وقد تكون المعلومات الداعمة لاتخاذ القرار قديمة، مما يتطلب من الوكلاء طلب توضيح.

TERM: دفاع ضد الاختراق بدون هدف عبر تعديل المتبقي الموجه بالانتروبيا

arXiv · Yunkai Dang, Wanyu Zhang, Meiyi Zhu, Qi Fan, Tianyu Ding, Wenbin Li

أظهرت نماذج اللغة الكبيرة (LLMs) قدرات قوية عبر تطبيقات متنوعة، مما يجعل كلًا من السلامة والفائدة أمرًا أساسيًا للنشر الموثوق. تستخدم هجمات الاختراق أشكالًا متنوعة من التحفيز العدائي لتجاوز ضوابط التوافق وإجبار LLMs على إنتاج ردود ضارة.

تقييم أمان قائم على المواصفات للوكلاء الواقعيين عند استدعاء الأدوات في مهام سياقية طويلة الأمد

arXiv · Yuchuan Fu, Minghe Wang, Xiaohan Yuan, Chenlin Zou, Kaitong Jia, Jinfeng Li, Dongxia Wang

مع تزايد نشر وكلاء نماذج اللغة الكبيرة (LLM) في سيناريوهات طويلة الأمد دون إشراف، يصبح تقييم أمانهم قبل النشر أمرًا أساسيًا وتحديًا متزايدًا. تتبع طرق التقييم الحالية في الغالب نماذج LLM كقاضٍ أو الوكيل كقاضٍ.

RoCoMark: وضع علامة مائية قوية على الشيفرة ضد هجمات إعادة الكتابة التي تحافظ على الوظيفة المستندة إلى LLM

arXiv · Hongjie Zhang, Xingcheng Li, Hanzhou Wu, Zhihua Xia, Xinpeng Zhang

تشكل نماذج اللغة الكبيرة (LLMs) تحديات كبيرة لتتبع مصدر الشيفرة المولدة، حيث يمكن لإعادة كتابة LLM أن تغير بشكل كبير الخصائص النحوية والهيكلية للشيفرة ذات العلامة المائية. ومع ذلك، غالبًا ما تعاني طرق وضع العلامة المائية الحالية من تدهور شديد في الأداء تحت هجمات إعادة الكتابة التي تحافظ على الوظيفة المستندة إلى LLM.

POEM: انتباه كتلي متفرق نسبي للإخراج لتعبئة السياق الطويل

arXiv · Haoyi Wu, Yunkai Dang, Wanyu Zhang, Lei Wang, Wenbin Li

أظهرت نماذج اللغة الكبيرة (LLMs) قدرات قوية عبر تطبيقات متنوعة، مما يجعل كلًا من السلامة والفائدة أمرًا أساسيًا للنشر الموثوق. تستخدم هجمات الاختراق أشكالًا متنوعة من التحفيز العدائي لتجاوز ضوابط التوافق وإجبار LLMs على إنتاج ردود ضارة.

دراسة تجريبية حول انتشار الثغرات المستندة إلى CVE من نظام إلى نظام آخر (داخل المشروع مقابل بين المشاريع)

arXiv · Junaid Akram, Ali Hassan, Danish Vasan

غالبًا ما يتم استغلال الثغرات في التطبيقات، بما في ذلك المتصفحات، مشغلات الوسائط، الخدمات عبر الإنترنت وقارئات المستندات، وما إلى ذلك، وتسبب أضرارًا جسيمة. قد توجد الثغرات في نظامك بسبب أخطاء برمجية، إغفالات في التصميم، برمجيات قديمة، شيفرات مولدة بالذكاء الاصطناعي أو ربما تم نقلها من نظام آخر أثناء التطوير (مثل استنساخ الشيفرة).

Add TechUpscale as a preferred source on Google

The TechUpscale Brief

The day's cyber, AI and tech news in one short email, every weekday morning. Free. Unsubscribe anytime.

I'm most interested in

Join the conversation

Comments are moderated. Be civil and stay on the story: no personal attacks, hate, spam or ads, and no one else's private details. Your email is never shown. Privacy policy.

More Research