Monday, November 16, 2026
Translate
PrivacySubmit newsShare your story Newsletter Advertise
Breaking
Research news

رادار الأبحاث، 10 نوفمبر 2026: 9 أبحاث جديدة في الذكاء الاصطناعي والأمن

الأبحاث الأكثر صلة بالذكاء الاصطناعي والأمن من Nature و arXiv، مع ملخصات المؤلفين وروابط للأبحاث.

9 papers, Nature & arXiv

تُرجم من الإنجليزية بواسطة TechUpscale بمساعدة الذكاء الاصطناعي، وتمت مراجعته مقابل النص الأصلي. اقرأ النص الأصلي بالإنجليزية

أبحاث جديدة في الذكاء الاصطناعي والأمن، تم اختيارها لمدى صلتها بالنماذج اللغوية، ووكلات الذكاء الاصطناعي، والأمن السيبراني. الملخصات مصاغة بكلمات المؤلفين أو الناشر، مع وجود روابط للأصل.

مراجعة الأقران

التصميم العكسي الموجه بالذكاء الاصطناعي والذي يضم عنصراً بشرياً لهياكل هندسية عالية الأداء

Nature

المسودات الأولية الجديدة (التي لم تُراجع من الأقران بعد)

META-IR: التفكير الاستباقي الفوقي لمواءمة السلامة التكيفية في النماذج اللغوية الكبيرة

arXiv · Mahabubur Rahman Miraj, Hongyu Huang, Nankun Mu, Chao Chen, Shanqin Yi

The TechUpscale Brief. The day's cyber, AI and tech news in one short email, every weekday morning. Free. Unsubscribe anytime.

تظل النماذج اللغوية الكبيرة (LLMs) عرضة لهجمات كسر الحماية والموجهات ذات المحتوى الضار، لا سيما في ظل تحولات التوزيع الخصومي حيث تفشل خطوط أنابيب المواءمة الثابتة في التعميم. على الرغم من أن الطرق الاستباقية مثل STAIR تعزز اتساق الرفض، إلا أنها تعتمد على سياسات تقييم ذاتي ثابتة لا يمكنها التكيف بسرعة مع استراتيجيات التلاعب المتطورة.

فهم تقديم النماذج اللغوية الكبيرة بكفاءة: دراسة تجريبية للأطر، وخوارزميات التحسين، والتبني في العالم الحقيقي

arXiv · Forough Majidi, Mohammad Mehdi Morovati, Foutse Khomh, Heng Li

يتم دمج النماذج اللغوية الكبيرة (LLMs) في أنظمة البرمجيات وخدمات الذكاء الاصطناعي، مما يجعل تقديم هذه النماذج بكفاءة مصدر قلق لهندسة البرمجيات. يعد تقديم النماذج اللغوية الكبيرة أمراً يكتنفه التحدي نظراً لأن الاستدلال يتطلب حوسبة، وذاكرة، وموارد وحدة معالجة رسومية، وتنفيذاً مع الحفاظ على زمن الوصول وإنتاجية العمل.

MetaPI: بناء معايير حقن الموجهات من معايير وكلاء النماذج اللغوية الكبيرة

arXiv · Peiran Wang, Chong Xiang, Wenjie Qu, Ying Li, Jiaheng Zhang, G. Edward Suh, Yuan Tian

تؤدي وكلاء النماذج اللغوية الكبيرة (LLM) بشكل متزايد مهام معقدة باستخدام أدوات ذات امتيازات عالية، مما يجعل حقن الموجهات غير المباشر (IPI) مخاطرة أمنية حرجة. ومع ذلك، تتخلف معايير حقن الموجهات غير المباشر عن نظيراتها سريعة التطور، حيث لا توفر سوى تغطية محدودة للمهام والبيئة وتعتمد على سيناريوهات هجوم ضيقة وثابتة.

التقييم الخصومي للنماذج اللغوية الكبيرة لتلخيص تقارير الأشعة الصديقة للمرضى

arXiv · Magdalini Paschali, Asad Aali, Arogya Koirala, Andrew Johnston, Katherine McNamara, Richard Gaus, Roxana Daneshjou, David B. Larson, Akshay S. Chaudhari

الغرض: تطوير والتحقق من صحة إطار عمل تقييم خصومي قابل للتطوير لتقييم متانة النماذج اللغوية الكبيرة (LLMs) التي تولد ملخصات صديقة للمرضى لتقارير الأشعة. الطرق: قدمنا إطار عمل خصومياً مستنداً إلى السريرية يستخدم استبدالات المصطلحات الخاضعة للرقابة وإزالة الانطباعات عبر مستويات الشدة.

اكتشاف الذكاء الاصطناعي الخفي: وكلاء النماذج اللغوية الكبيرة غير المصرح بها على نقاط النهاية للمؤسسات: تصنيف، ومكتشف مفتوح، وتقييم خاضع للرقابة

arXiv · Jeremy Canale, Fabien Soulis

تعتبر تكنولوجيا المعلومات الخفية، وهي استخدام تكنولوجيا لم توافق عليها منظمة تكنولوجيا المعلومات، مشكلة حوكمة طويلة الأمد. نحن نجادل بأن وكلاء الذكاء الاصطناعي المستقلين يمكنهم جعلها تنمو بشكل أسرع بكثير: فالوكلاء يجعلون بناء الأدوات مجانياً تقريبا، ويعملون بامتيازات مستخدميهم، ويتركون وراءهم نصوصاً برمجية، وأتمتة، وخوادم بروتوكول سياق النموذج (MCP) غير المصرح بها.

محول اتجاه الأمان: تصحيح أمان لاحق خالٍ من التدريب للنماذج اللغوية الكبيرة ذات الأوزان المفتوحة والمضبوطة دقيقاً

arXiv · Chansu Han, Takeshi Takahashi

يتم ضبط النماذج اللغوية الكبيرة ذات الأوزان المفتوحة دقيقاً بشكل روتيني من المستودعات العامة، ومع ذلك فإن التكيف الخاص بالمهمة يمكن أن يؤدي إلى تآكل صامت لمواءمة السلامة الموروثة من القواعد المعدة للتعليمات. يمثل هذا مخاطر في سلسلة التوريد عندما تشحن المؤسسات نقاط تحقق طرف ثالث دون إعادة مواءمة كاملة.

CyberBinGym: هل يمكن لوكلاء الذكاء الاصطناعي تحويل التصحيحات الثنائية إلى استغلالات حقيقية؟

arXiv · Lambang Akbar Wijayadi, Zhaoqi Xiao, Zhun Wang, Hongwei Li, Wenbo Guo, Heng Yin, Zhenkai Liang, Dawn Song

عادة ما تصل الإصلاحات الأمنية إلى المستخدمين في شكل تحديثات مجمعة، ولكن تأخيرات النشر تترك الأنظمة غير المصححة مكشوفة. خلال هذه النافذة، يمكن مقارنة الثنائيات المصححة وغير المصححة لكشف كيفية استغلال ثغرة أمنية، مما يحول التحديث الدفاعي إلى معلومات قابلة للتنفيذ للمهاجمين.

فرض الاتساق الديموغرافي: إطار عمل مدرك للأضرار للتفكير في إصدار البيانات الخاصة

arXiv · Mark Bun, Marco Carmosino, Palak Jain, Gabriel Kaptchuk, Satchit Sivakumar

تتكون الأدبيات التقنية حول خصوصية البيانات إلى حد كبير من نهجين متكاملين: تعريفات رسمية للشروط الكافية للحفاظ على الخصوصية، والهجمات التي توضح خرق الخصوصية. الخصوصية التفاضلية هي معيار مقبول في المجال الأول.

Add TechUpscale as a preferred source on Google

The TechUpscale Brief

The day's cyber, AI and tech news in one short email, every weekday morning. Free. Unsubscribe anytime.

I'm most interested in

Join the conversation

Comments are moderated. Be civil and stay on the story: no personal attacks, hate, spam or ads, and no one else's private details. Your email is never shown. Privacy policy.

More Research