Wednesday, November 18, 2026
Translate
PrivacySubmit newsShare your story Newsletter Advertise
Breaking
Research news

رادار الأبحاث، 18 نوفمبر 2026: 10 أوراق بحثية جديدة في الذكاء الاصطناعي والأمن

أبرز أبحاث الذكاء الاصطناعي والأمن الجديدة من Nature و arXiv، مع ملخصات المؤلفين أنفسهم وروابط للأوراق البحثية.

10 papers, Nature & arXiv

تُرجم من الإنجليزية بواسطة TechUpscale بمساعدة الذكاء الاصطناعي، وتمت مراجعته مقابل النص الأصلي. اقرأ النص الأصلي بالإنجليزية

أبحاث جديدة حول الذكاء الاصطناعي والأمن، تم اختيارها لصلتها بنماذج اللغات، ووكلاء الذكاء الاصطناعي، والأمن السيبراني. الملخصات هي كلمات المؤلفين أو الناشر نفسها، مع روابط للأصل.

مراجعة النظراء

هل أنت محقق علمي ناشئ؟ شارك في اختبار الانتحال الخاص بنا لاختبار مهاراتك

Nature

تحويل تحليلات التطور الجزيئي باستخدام نماذج الأساس البروتينية

Nature

The TechUpscale Brief. The day's cyber, AI and tech news in one short email, every weekday morning. Free. Unsubscribe anytime.

النسخ الأولية الجديدة (لم تخضع لمراجعة النظراء بعد)

مرتدين عباءة السلطة: الاختراق العملي للصناديق السوداء لنماذج اللغات الكبيرة متعددة الوسائط (MLLMs) عبر التحيز والثقة البصرية

arXiv · Weihang Liu, Qianqian Xu, Yangbangyan Jiang, Zitai Wang, Zhipeng Yu, Qingming Huang

تتقدم نماذج اللغات الكبيرة متعددة الوسائط (MLLMs) بسرعة، ومع ذلك يظل أمانها مصدر قلق بالغ، لا سيما في ظل محاولات كسر الحماية (Jailbreak). تعمل عمليات كسر الحماية الحالية لـ MLLMs إما على حقن اضطرابات خصمية هشّة في صور غير صلة أو اصطناع إشارات بصریة سامة لتحقيق نوايا هجوم مدفوعة بالنص.

تحويل الكود الطبيعي يربك الوكلاء في تحليل الثغرات الأمنية

arXiv · Jie Zhu, Ronik Bhaskar, Heather Zheng, Ben Y. Zhao, Kexin Pei

بعد أن أثبت وكلاء الذكاء الاصطناعي إمكانات قوية لأتمتة اكتشاف الثغرات الأمنية، يمكن استخدامهم أيضاً لمهاجمة أنظمة البرمجيات على نطاق واسع. تحتاج أنظمة البرمجيات اليوم إلى آليات لتكافؤ الفرص من خلال إبطاء الهجمات المحتملة، مما يمنحها وقتاً لتصحيح الثغرات وتعزيز البرمجيات.

SEAM: وكلاء استخدام الكمبيوتر يعرفون الضرر بين الشاشات، ويرتكبونه على أي حال

arXiv · Yuxuan Zhou, Chen Xiong, Haitong Liu, Kuofeng Gao, Yang Bai, Zhiyuan He, Tao Dai, Shu-Tao Xia

تضع معايير الأمان لوكلاء استخدام الكمبيوتر (CUAs) الضرر إما في هدف المهمة أو على شاشة واحدة: تعليمات خبيثة، أو أمر محقون، أو صفحة التصيد الاحتيالي. يمكن للوكيل الذي يفحص المهمة وكل شاشة بمعزل عن الأخرى اجتيازها، لذا فهي لا تختبر ما إذا كان يدمج الحقائق التي شوهدت على شاشات مختلفة.

GapLeak: متى يصبح وكلاء الويب القائمون على نماذج اللغات الكبيرة (LLM) والحفاظ على الخصوصية خطراً على الخصوصية

arXiv · Chaklam Cheong, Tiancong Cao, Qi Li, Zelin Zhang, Jianbing Ni, Rongxing Lu, Mohammad Zulkernine

يعتمد وكلاء الويب القائمون على نموذج اللغة الكبير (LLM) على تقليل البيانات وأقل الامتيازات لحماية خصوصية المستخدم. نحن نُظهر أن هذه المبادئ ضرورية ولكنها غير كافية: فهي تقيد المصادر المصرح بها، ولكن ليس المصادر ذات الحساسية العالية التي تظل قابلة للوصول.

الرؤية معك: التطور المشترك للإدراك والتفكير من أجل الاستدلال متعدد الوسائط

arXiv · Ziqi Miao, Haonan Jia, Lijun Li, Chen Qian, Yuan Xiong, Wenting Yan, Yongyao Wang, Zaoying Huang, Ken Deng, Jing Shao

عزز التعلم المعزز بمكافآت قابلة للتحقق (RLVR) بشكل كبير قدرات الاستدلال لنماذج اللغات الكبيرة متعددة الوسائط (MLLMs). ومع ذلك، عادة ما تعتمد نهج RLVR الحالية على التحسين المدفوع بالنتائج والذي يقوم بتحديث كل من الإدراك والاستدلال باستخدام مكافأة مشتركة تعتمد فقط على الإجابة النهائية.

WebAgents: فصل إنشاء الوكلاء واستضافتهم وتنفيذهم من أجل شبكة أصلية للوكلاء

arXiv · Dario Fenoglio, Martin Gjoreski, Marc Langheinrich, Pradyumna Chari, Ramesh Raskar

تنتقل نماذج اللغات الكبيرة من مساعدين معزولين نحو وكلاء أقطاب مستقلين يمكنهم التخطيط، واستخدام الأدوات، والتنسيق مع الآخرين، مما يحفز شبكة وكلاء ناشئة من الوكلاء والخدمات المتطورة بشكل مستقل. يتطلب تحقيق هذه الرؤية انتقال سلوك الوكيل عبر المبدعين والمستضيفين وبيئات التشغيل دون ربط النشر بيئة تنفيذ معينة أو نقل السلطة على موارد المستخدم.

ما الذي يحتاجه الوكيل؟ تكوين موارد الوكيل المدرك للحزم

arXiv · Yunxiao Shi (Australian National University), Tingwei Chen (University of Technology Sydney), Dannong Xu (Australian National University), Ahad N. Zehmakan (Australian National University), Jialie Shen (City St George’s, University of London), Zhendong Chu (Squirrel Ai Learning), Qingsong Wen (Squirrel Ai Learning)

تعتمد قيمة مورد الوكيل على مورده الأساسي والمصاحب ولا تُعرف إلا بعد التنفيذ. تظل المولدات المستندة إلى الرموز مرتبطة بكتالوج التدريب الخاص بها، بينما يفتقر تسجيل الموارد المستقل إلى التكاملات وتستهدف الحزم المعاد استخدامها مهام أخرى.

من بحث الإستراتيجية إلى تعلم السياسات: التطور المشترك المعادي الموجه بواسطة MCTS لمحاذاة أمان نماذج اللغات الكبيرة

arXiv · Xurui Li, Kaisong Song

تقود نماذج اللغات الكبيرة (LLMs) بشكل متزايد التطبيقات المواجهة للويب، بما في ذلك مساعدي المحادثة وخدمات المحتوى، حيث تعرضهم تفاعلات المستخدم المفتوحة لتهديدات أمنية متنوعة وهجمات تككيفية. على وجه الخصوص، يعيد مهاجمو كسر الحماية صياغة الطلبات الضارة بشكل متكرر لتجاوز محاذاة الأمان.

Add TechUpscale as a preferred source on Google

The TechUpscale Brief

The day's cyber, AI and tech news in one short email, every weekday morning. Free. Unsubscribe anytime.

I'm most interested in

Join the conversation

Comments are moderated. Be civil and stay on the story: no personal attacks, hate, spam or ads, and no one else's private details. Your email is never shown. Privacy policy.

More Research