تعمل شركة أنثروبيك Anthropic، على تطوير نظام مفتوح المصدر يحمل اسم FlashProve، يهدف إلى التحقق من هوية نموذج الذكاء الاصطناعي الذي أنتج إجابة معينة، من خلال استخدام تقنيات التشفير لتقديم إثبات رياضي يؤكد مصدر المخرجات، في خطوة قد تساعد على الحد من التلاعب بهوية النماذج المستخدمة وتضليل المستخدمين بشأن قدراتها.
ووفقا لما كشفته الشركة في منشور بحثي، يستهدف النظام توفير ما يعرف باسم الاستدلال القابل للإثبات Provable Inference، إذ يتيح للمستخدم التأكد من أن الإجابة التي حصل عليها صدرت بالفعل عن نموذج الذكاء الاصطناعي الذي يعتقد أنه يستخدمه، وليس عن نموذج آخر جرى استبداله دون علمه.
يعتمد نظام FlashProve على فكرة مشابهة للتوقيعات الرقمية المستخدمة في رسائل البريد الإلكتروني، والتي تسمح للمستلم بالتحقق من أن الرسالة جاءت بالفعل من الجهة التي تدعي إرسالها.
لكن النظام الجديد يستهدف معالجة مشكلة أكثر تعقيدا، تتمثل في إمكانية انتحال هوية نماذج الذكاء الاصطناعي، إذ صمم ليجعل من الصعب تقديم مخرجات نموذج معين على أنها صادرة عن نموذج آخر، حتى إذا كانت الجهة التي تحاول تنفيذ هذا التلاعب هي الشركة المطورة للنموذج نفسه.
ومن أبرز الاستخدامات المحتملة للنظام منع شركات الذكاء الاصطناعي من استبدال نموذج متقدم بآخر أقل تكلفة دون إبلاغ المستخدمين، بهدف تقليل نفقات التشغيل، أو استخدام نموذج أكثر تكلفة عند إجراء الاختبارات لإظهار نتائج أداء أفضل مما يقدمه النظام فعليا للمستخدمين.
لا يقتصر دور FlashProve على التحقق من هوية النماذج داخل منصات الذكاء الاصطناعي، بل يمكن استخدامه أيضا لمراجعة الادعاءات التي تقدمها جهات خارجية بشأن الاستعانة بنموذج محدد لتنفيذ مهام معينة.
وضرب الباحثون أمثلة على ذلك، من بينها شركة تطوير برمجيات تدعي أنها استعانت بنموذج متقدم متخصص في الأمن السيبراني لفحص مكتبتها البرمجية بحثا عن الثغرات الأمنية، أو شركة تؤكد أنها عرضت خطة أعمالها على نموذج ذكاء اصطناعي متقدم وحصلت على موافقته.
ويسمح النظام، من الناحية النظرية، بالتحقق من أن المهمة نفذت بالفعل باستخدام النموذج المعلن عنه، بدلا من الاكتفاء بتصريحات الشركة أو الجهة التي تقدم الخدمة.
يتطلب تشغيل النظام من شركات الذكاء الاصطناعي نشر ما يعرف باسم البصمة الرقمية Fingerprint لكل نموذج تطلقه، بحيث يمكن مطابقة هذه البصمة لاحقا مع المخرجات الصادرة عن النموذج والتحقق منها باستخدام وسائل التشفير.
وتتمثل إحدى أهم مزايا هذه الآلية في أنها لا تكشف الأوزان الداخلية للنموذج (Model Weights)، وهي القيم الرقمية التي تحدد طريقة عمله وسلوكه، والتي تحرص الشركات المطورة للنماذج المغلقة، مثل أنثروبيك وOpenAI، على إبقائها سرية باعتبارها من أهم أصولها التقنية والتجارية.
وبالتالي، يمكن للشركات نشر البصمات اللازمة للتحقق من هوية نماذجها دون الكشف عن بنيتها الداخلية أو التخلي عن ملكيتها التقنية، وهو ما يتيح إمكانية استخدام النظام مع نماذج الذكاء الاصطناعي التجارية والمغلقة، وليس النماذج مفتوحة المصدر فقط.
كما صمم FlashProve ليكون خفيفا من الناحية التقنية، بما يسمح بإجراء عمليات التحقق مباشرة على الأجهزة المحلية للمستخدمين، دون الحاجة بالضرورة إلى الاعتماد على أنظمة حوسبة ضخمة.
