تُرجم من الإنجليزية بواسطة TechUpscale بمساعدة الذكاء الاصطناعي، وتمت مراجعته مقابل النص الأصلي. اقرأ النص الأصلي بالإنجليزية
بحوث جديدة في مجالي الذكاء الاصطناعي والأمن، تم اختيارها لمدى صلتها بنماذج اللغات، ووكلاء الذكاء الاصطناعي، والأمن السيبراني. الملخصات هي بكلمات المؤلفين أنفسهم أو الناشر، مع وجود روابط للأصل.
مُحكّمة من النظراء
إرشادات لتقييم الطرق القائمة على البنية لتوقع ارتباط البروتينات بالروابط
هل يمكن للرياضيات أن تنجو من الذكاء الاصطناعي؟ الحائز على ميدالية فيلدز تيرينس تاو يدعو إلى عالم “رياضيات 2.0”
مسودات أولية جديدة (لم يتم تحكيمها بعد)
AgentPhishing: A Benchmark of LLM Email Agents Under Adaptive Attack
تعمل وكلاء استخدام الحواسيب بشكل متزايد على معالجة المعلومات الخاصة والتصرف نيابة عن المستخدمين عبر تطبيقات سطح المكتب والويب، بما في ذلك البريد الإلكتروني. وعليه، فإن التصيد الاحتيالي يفرض مخاطر تتعلق بالخصوصية والأمان لا تعتمد فقط على ما إذا كانت الوكلاء تتعرف على الرسائل الضارة، بل أيضاً على كيفية استجابتها لها.
Secure Agentic AI and Multimodal Intelligence in 6G Communication Systems
من المتوقع أن تدعم أنظمة الاتصالات من الجيل السادس (6G) خدمات غامرة وموجهة بالنيات ومرتبطة بزمن استجابة حرج من خلال التكامل الوثيق بين الذكاء متعدد الوسائط، والحوسبة الطرفية، والتحكم الذاتي في الشبكات. وفي هذه البيئة، يمكن لأنظمة الذكاء الاصطناعي الوكيلية الاستدلال على المدخلات غير المتجانسة، واستخدام الأدوات وظائف الشبكة، والتنسيق عبر الكيانات الموزعة، والتكيف مع البيئات الديناميكية.
Mirage: Targeted Jailbreaks Against Post-Generation Safety Checkers in Multimodal Diffusion Models
تُستخدم فוחصات الأمان بعد التوليد على نطاق واسع في خطوط أنابيب نماذج الانتشار لمنع المحتوى المولّد غير الآمن من الوصول إلى المستخدمين. في هذه الورقة، نوضح أن فוחصات الأمان هذه لا تزال قابلة للاختراق من خلال هجوم كسر الحماية متعدد الوسائط الذي نقترحه، Mirage.
PhishGen: Understanding LLM Capabilities in Automated Phishing Website Generation
يعتمد التصيد الاحتيالي على الخداع البصري، وهو يتطلب تقليدياً مارات في تطوير الويب أو مجموعات أدوات مجهزة مسبقاً. تعمل نماذج اللغات الكبيرة على تقويض هذه العقبة من خلال توليد مواقع ويب وظيفية من مطالبات اللغة الطبيعية، ومع ذلك فإن العمل السابق لا يجيب على مدى وصول التوليد المدفوع بنماذج اللغات الكبيرة في الواقع: يتم تقييم الوظائف بالفحص بدلاً من التنفيذ؛ ويتم تسجيل الدقة البصرية بمقاييس آلية أو عدد قليل من المبرمجين الداخليين بدلاً من البشر الذين تهدف هذه الصفحات إلى خداعهم؛ ويقتصر التقييم على النماذج التجارية؛ ولا توجد دراسة تقارن الصفحات المولدة بمجموعات أدوات التصيد الاحتيالي المنتشرة في البرية.
MPIDetector: Detecting Multi-modal Prompt Injection via LLM-based Reasoning
مع التكامل السريع لنماذج اللغات الكبيرة متعددة الوسائط (MLLMs) في تطبيقات العالم الحقيقي، برز حقن المطالبات (PI) تهديداً أمنياً بالغ الأهمية. ويمكن للمهاجمين إخفاء تعليمات ضارة داخل السرد النصي أو المدخلات البصرية لتجاوز مواءمة الأمان.
SecLog-Bench: A Scalable Benchmark for Cybersecurity Log Reasoning with Scaffolded Evidence
أظهرت نماذج اللغات الكبيرة (LLMs) إمكانات قوية للأمن السيبراني، مما أدى إلى تزايد الاهتمام بتحليل سجلات الأمن السيبراني الآلي القائم على نماذج اللغات الكبيرة. ومع ذلك، فإن مجموعات البيانات الحالية (1) محدودة من حيث النطاق؛ (2) تعتمد بشكل أساسي على أدلة من مصدر واحد؛ و(3) تحتوي فقط على تصنيفات هجوم ثنائية أو متعددة الفئات، بدون تعليقات توضيحية كثيفة لعملية الاستدلال.
PLE: Physical-Engineering’s Last Exam
تسجل نماذج اللغات الرائدة الآن أكثر من 90% في معايير المعرفة الشائعة ويتم نشرها بشكل متزايد كوكلاء يقومون بأعمال مهنية تستغرق عدة ساعات. ومع ذلك، لا يوجد معيار حالي يختبر ما إذا كان بإمكانهم أداء العمل الحقيقي ذو القيمة الاقتصادية لمهندس فيزيائي محترف، مثل نمذجة الفيزياء ومتطلبات القوانين القانونية عبر مجموعة مشاريع متعددة التنسيقات، وتحسين تكاليف المواد والتركيب، وإصدار حزم التصميم الهندسي ثنائي وثلاثي الأبعاد التي يوافق عليها مراجع مرخص.
Disclosure Begets Disclosure: A Self-Reinforcing Privacy Loop in LLM Agents with Persistent Memory
تستخدم وكلاء نماذج اللغات الكبيرة (LLMs) بشكل متزايد ذاكرة مستمرة لتخصيص الاستجابات، وتشكل السمات الشخصية في هذه الذاكرة خطراً على الخصوصية في حال الكشف عنها. نحن نتساءل كيف يؤدي استشارة الذاكرة أثناء الحوار إلى تغيير ما يقوله المستخدمون لاحقاً، وبالتالي ما تكشف عنه الذاكرة في النهاية.