أطلقت «إنفيديا» منصة برمجية جديدة تتيح لمطوري الذكاء الاصطناعي وضع ضوابط وحواجز أمان للوكلاء، بهدف منعهم من تجاوز حدود البيئة التي يعملون داخلها والوصول إلى أنظمة أو موارد غير مصرح بها.وجاء إطلاق «Open Agent Safety Platform»، الاثنين، بعد سلسلة حوادث كشفت عنها شركات، من بينها «أوبن إيه آي» و«أنثروبيك» و«ميتا» و«غوغل»، أظهرت تمكن نماذج ذكاء اصطناعي من الخروج من بيئات الاختبار المعزولة عن الإنترنت، ومحاولة اختراق أنظمة شركات أخرى والوصول إلى أنظمتها الحاسوبية.وهكذا يتم إطلاق درعٍ أمنية ووضع الذكاء الاصطناعي تحت الحراسة، ووضع الأطراف تحت السيطرة.. وعزل ومراقبة ومنع التجاوزات ومنع وصول برامج التقنية للبيانات والأنظمة الحساسة.ضوابط الأمان لا تكفيقال جاستن بويتانو، نائب رئيس الذكاء الاصطناعي المؤسسي في «إنفيديا»، إن المنصة الجديدة كان يمكن أن تمنع حادثة «هاغنغ فيس» في يوليو/تموز، عندما تمكنت نماذج تابعة لـ«أوبن إيه آي» من الخروج من نطاق الاحتواء، واختراق أنظمة الشركة المتخصصة في تطوير البرمجيات مفتوحة المصدر.وبحسب بويتانو، تقدم المنصة حلاً هندسياً لمشكلة سلامة وكلاء الذكاء الاصطناعي، مشيراً إلى أن الحوادث الأخيرة أظهرت أن ضوابط الأمان على مستوى النموذج وحدها لا تكفي للتحكم في ما يمكن للوكلاء الوصول إليه أو القيام به.وتضم المنصة أداة «أوبن شيل»، التي تعمل على وحدات المعالجة المركزية وتضع حدوداً لقدرات الوكلاء، إلى جانب أداة «سينتري» Sentry، لمراقبتهم، وتعمل عبر رقائق الشبكات بدلاً من وحدات المعالجة المركزية أو معالجات الرسومات.تعتزم «إنفيديا» إتاحة جزء من البرمجيات كمصدر مفتوح، فيما تصف المنصة بأنها «تصميم مرجعي» يمكن للشركاء تطوير منتجات تجارية تستند إليه.لطالما كانت «إنفيديا» في قلب طفرة الذكاء الاصطناعي التوليدي منذ إطلاق «تشات جي بي تي» قبل نحو أربعة أعوام، نظراً إلى الدور المحوري لوحدات معالجة الرسومات التي تنتجها في تدريب نماذج الذكاء الاصطناعي وتشغيل خدمات الشركات التقنية الكبرى.وفي الأشهر الأخيرة، أصبح الرئيس التنفيذي للشركة، جنسن هوانغ، صوتاً بارزاً في النقاش حول سلامة الذكاء الاصطناعي، مؤكداً أن كثيراً من المخاوف الأمنية يمكن التعامل معها باعتبارها مشكلات هندسية يمكن حلها عبر علوم الحاسوب وتطوير المنتجات.في المقابل، أثار الرئيس التنفيذي لـ«أنثروبيك»، داريو أمودي، عاصفة من الجدل قبل أسبوعين، عندما حثّ مطوري نماذج الذكاء الاصطناعي على إبطاء وتيرة التطوير، محذراً من احتمال خروج النماذج عن السيطرة، وهو موقف أيده كل من سام ألتمان، الرئيس التنفيذي لـ«أوبن إيه آي»، وإيلون ماسك، الرئيس التنفيذي لـ«سبيس إكس».
