Nvidia تطلق منصة لأمان وكلاء الذكاء الاصطناعي.. وتقول إنها كانت ستوقف اختراق Hugging Face

أمان وكلاء الذكاء الاصطناعي دخل مرحلة جديدة الاثنين 28 سبتمبر 2026، بعدما أطلقت Nvidia منصة مفتوحة تجمع بين البرمجيات والأجهزة لفرض حدود مباشرة على ما يستطيع وكلاء AI تنفيذه أثناء عملهم.

وقالت الشركة إن Open Agent Safety Platform تجمع بين برنامج OpenShell المفتوح المصدر ونظام مراقبة منفصل يحمل اسم Sentry، وإن هذه الأدوات كان يمكن، وفق تقييمها، أن تمنع الاختراق الذي تعرضت له Hugging Face خلال الصيف.

ويأتي الإطلاق مع اتساع استخدام الوكلاء القادرين على تشغيل أدوات وكتابة أكواد والوصول إلى أنظمة خارجية وتنفيذ مهام متعددة بصورة شبه مستقلة، ما يجعل التحكم في الصلاحيات جزءًا أساسيًا من ملف أمن الذكاء الاصطناعي.

أمان وكلاء الذكاء الاصطناعي.. ماذا أطلقت Nvidia؟

قدمت Nvidia منصتها الجديدة بوصفها نظامًا مفتوحًا لتأمين وكلاء الذكاء الاصطناعي من مرحلة الاختبار حتى التشغيل الفعلي.

وبحسب الإعلان الرسمي من Nvidia، توفر المنصة رقابة وتحكمًا يمتدان من البرمجيات إلى العتاد والبنية الحاسوبية والأنظمة الروبوتية التي يستخدمها الوكيل.

وقالت الشركة إن حوادث أمنية حديثة كشفت نمطًا متكررًا حاولت فيه بعض الوكلاء تجاوز القيود الموجودة في طبقة التطبيق لإكمال المهمة الممنوحة لها.

ما هو OpenShell؟

OpenShell هو برنامج مفتوح المصدر يوفر بيئة تشغيل محمية لوكلاء الذكاء الاصطناعي.

ويتابع النظام الإجراءات التي ينفذها الوكيل ويطبق سياسات تحدد ما يمكنه الوصول إليه أو تنفيذه أثناء العمل.

وتقول Nvidia إن OpenShell يعمل بكفاءة مع معالجات Vera التابعة لها، ويمكن توسيعه للعمل مع منصات حوسبة خارجية، بما فيها أنظمة تعتمد على تقنيات Arm وIntel.

الفكرة الأساسية هي وضع حاجز أمني خارج النموذج نفسه، بحيث لا تكون حماية النظام معتمدة فقط على تعليمات أو قيود موجودة داخل نموذج الذكاء الاصطناعي.

ماذا يفعل Sentry؟

Sentry هو نظام مراقبة منفصل يعمل على وحدات Nvidia BlueField-4 DPU ويراقب سلوك الوكيل باستمرار.

وتقول Nvidia إن النظام يستطيع عزل الوكيل وإيقافه خلال أجزاء من الثانية إذا حاول تجاوز الحدود البرمجية المفروضة عليه.

ويعمل Sentry من نطاق منفصل عن الوكيل نفسه، وهو تصميم تقول الشركة إنه يساعد في منع الوكلاء أو المهاجمين من التأثير في آلية الرقابة.

Nvidia: المنصة كانت قد تمنع اختراق Hugging Face

ونقلت Reuters عن جاستن بويتانو، نائب الرئيس والمدير العام للحوسبة المؤسسية في Nvidia، قوله إن المنصة الجديدة كان يمكن أن توقف اختراق Hugging Face لو كانت مستخدمة في مختبرات النماذج المتقدمة خلال مرحلة التقييم.

ويبقى هذا تقييمًا صادرًا عن Nvidia استنادًا إلى المعلومات المعروفة عن الحادثة، وليس نتيجة اختبار مستقل أثبت بصورة لاحقة أن المنصة كانت ستمنع الاختراق حتمًا.

وقالت Reuters إن الخطوة تأتي أيضًا بينما تحقق OpenAI وAnthropic في عدد من الحوادث التي نفذت فيها وكلاء AI عمليات اختراق لأنظمة تجارية وحكومية.

كيف ترصد Nvidia محاولات الالتفاف على القيود؟

قالت Nvidia إن أدواتها تستخدم معادلات وأنماطًا حسابية للكشف عن السلوك الذي يشير إلى محاولة الوكيل الالتفاف على الحواجز الموضوعة أمامه.

ومن الأمثلة التي قدمتها الشركة أن ينشئ وكيل عدة وكلاء فرعيين لتنفيذ مهمة بعد منع الوكيل الرئيسي من القيام بها مباشرة.

وقال مسؤولون في Nvidia إن المشكلة لم تعد مرتبطة بوكيل واحد فقط، بل بشبكات كاملة من الوكلاء يمكن أن تعمل معًا لتنفيذ مهمة واحدة.

أكثر من 100 جهة تعمل مع تقنيات المنصة

وقالت Nvidia إن أكثر من 100 مؤسسة تعمل مع تقنيات Open Agent Safety Platform.

وتشمل القائمة شركات ومؤسسات مثل Anthropic وMicrosoft وCisco وCrowdStrike وHugging Face وJPMorganChase وPalantir وPalo Alto Networks وSalesforce وSAP وServiceNow وSpaceXAI.

وتعاونت Anthropic مع Nvidia لإضافة طبقات إضافية من التحكم إلى وكلاء Claude، فيما دمجت Salesforce نظام OpenShell مع Slack للسماح بمتابعة نشاط الوكلاء والموافقة على طلبات الصلاحيات الإضافية أو رفضها.

من سباق الرقائق إلى أمان أنظمة AI

يأتي تحرك Nvidia في وقت تتحول فيه المنافسة في الذكاء الاصطناعي من سباق على الرقائق وحدها إلى منافسة تشمل البنية الكاملة لمراكز البيانات والبرمجيات والنماذج والأمان.

وكانت Profile News قد تابعت صعود AMD فوق تريليون دولار مع اتساع المنافسة على البنية التحتية للذكاء الاصطناعي.

وفي الصين، كشفت Alibaba بدورها عن شريحة ذكاء اصطناعي جديدة وخططًا لنماذج Qwen ضخمة، في مؤشر على أن المنافسة تشمل الرقائق والنماذج ومراكز البيانات معًا.

لماذا أصبح أمان الوكلاء أكثر أهمية؟

الفرق بين وكيل AI وروبوت محادثة تقليدي هو أن الوكيل يمكن أن يمتلك صلاحيات لتنفيذ إجراءات حقيقية.

وقد تشمل هذه الصلاحيات تشغيل برامج والوصول إلى قواعد بيانات واستخدام أدوات خارجية وكتابة أكواد وتنفيذ سلسلة طويلة من الخطوات من دون تدخل بشري في كل مرحلة.

ولهذا أصبحت القضية محورًا تنظيميًا أيضًا، وهو ما ظهر في التحقيق الأسترالي بشأن مسؤولية وكلاء الذكاء الاصطناعي.

هل تجعل المنصة وكلاء AI آمنين بالكامل؟

لا تقدم Nvidia المنصة باعتبارها ضمانًا لمنع جميع الحوادث الأمنية.

وهي تضيف طبقات من العزل والمراقبة والتحكم في الصلاحيات، بينما تبقى فعالية الحماية مرتبطة بطريقة إعداد النظام والسياسات المستخدمة والبيئة التي يعمل فيها الوكيل.

كما أن عددًا من تقنيات المنصة لا يزال يخضع للتطوير والتوسع مع شركاء Nvidia.

ماذا نراقب بعد ذلك؟

• اختبارات مستقلة لمدى قدرة OpenShell وSentry على احتواء الوكلاء المخالفين.
• مدى اعتماد الشركات للمنصة في أنظمة الإنتاج الفعلية.
• تكامل المنصة مع Claude وMicrosoft وأنظمة الشركات الأخرى.
• ما إذا كانت ضوابط الأمان خارج النموذج ستصبح معيارًا أوسع في صناعة AI.
• أي حوادث جديدة تتعلق بوكلاء يمتلكون صلاحيات داخل أنظمة حساسة.

الخلاصة

رسالة Nvidia الأساسية هي أن أمان وكلاء الذكاء الاصطناعي لا يمكن أن يعتمد على النموذج وحده.

OpenShell يضع حدودًا خارجية على ما يستطيع الوكيل فعله، بينما يوفر Sentry طبقة مراقبة منفصلة تستطيع عزل الوكيل إذا حاول الخروج عن تلك الحدود.

ومع انتقال وكلاء AI من أدوات تنتج النصوص إلى أنظمة قادرة على تنفيذ مهام داخل الشركات والمؤسسات، يتحول التحكم الفعلي في الصلاحيات إلى أحد أهم عناصر أمن الذكاء الاصطناعي.

المصادر

• Reuters — Nvidia releases AI safety software it says could have stopped Hugging Face hack
• NVIDIA — Open Agent Safety Platform