أطلقت Nvidia نظام أمان ذكاء اصطناعي مزدوج الطبقات لمنع تجاوز وصول الوكلاء الذكيين.

أطلقت NVIDIA (NVDA.US) مجموعة جديدة من أنظمة الأمان المزدوجة للذكاء الاصطناعي. وذكرت الشركة أن هذا النظام يمكن أن يمنع حوادث الثغرات الأمنية البارزة الأخيرة المتعلقة بنموذج الذكاء الاصطناعي من OpenAI على منصة Hugging Face. تقوم NVIDIA بإطلاق أداتين مفتوحتَي المصدر للأمان البرمجي يمكن تشغيلهما على أجهزتها، وتهدفان إلى التحكم في الوقت الحقيقي في المحتوى الذي يمكن لعوامل الذكاء الاصطناعي الوصول إليه، وإيقافها عند انتهاك القواعد. وقال Justin Boitano، نائب رئيس قسم الذكاء الاصطناعي المؤسسي في NVIDIA يوم الإثنين، إنه إذا كانت مختبرات الذكاء الاصطناعي الرائدة قد اعتمدت هذه التقنية مبكرًا عند تقييم نماذج الذكاء الاصطناعي، لربما كان بالإمكان تجنب هجوم Hugging Face. وأضاف: "وفقًا للمعلومات المتوفرة لدينا حاليًا، كان من الممكن أن تمنع منصة الأمان الجديدة هذه حادثة الثغرة الأمنية المذكورة."