تتجاوز نقاشات علمية بين الشرق والغرب حول الذكاء الاصطناعي حدود الشغف التقني المجرّد؛ إذ لم يعد الهدف مقتصرًا على قدرة الآلة على إتقان اللغة وتحليل البيانات وتوليد النصوص، بل امتد إلى لحظة أكثر حساسية في مسار تطورها: وهي انتقالتها النوعية من مجرد «مستشار» يقدّم الإجابات والاقتراحات، إلى «فاعل» ينفّذ المهام ويتخذ خطوات عملية استنادًا إلى الصلاحيات الممنوحة له. وهنا يتغير جوهر السؤال من الحديث عمَّا تستطيع الآلة قوله، إلى البحث عمَّا يمكن أن تفعله، وما حدود السلطة التي ينبغي أن تُمنح لها، ومن يتحمَّل مسؤولية نتائج أفعالها.
وفي هذا، تصاعدت التحذيرات الصادرة من قلب قطاع الذكاء الاصطناعي في نيويورك هذا العام بشأن المخاطر المحتملة للأنظمة المتقدمة، وصولًا إلى طرح صورة قاتمة تتحدث عن فقدان السيطرة عليها وتهديد المستقبل البشري تحت عنوان «الانقراض البشري». ومهما يكن وزن هذه التحذيرات الصادرة عن باحثين وخبراء داخل أكبر مختبرات شركات التقنية، فإن التعامل الرشيد معها يقتضي التمييز الدقيق بين الوقائع المثبتة والفرضيات المستقبلية؛ فاحتمال وقوع كارثة يظل في حكم الغيب وليس حقيقة حتمية، ولكن في المقابل، فإن عدم تحققها حتى الآن لا يبرر تجاهل المخاطر أو التراخي في الاستعداد لها. ومن هنا، تبرز القيمة لهذه التحذيرات في كونها حافزًا للتفكير المبكر في العواقب واستباق الاحتمالات.
تتطلب هذه المعطيات مقاربة توازن بدقة بين ضرورات الابتكار ومتطلبات السلامة؛ فبينما يرى دعاة التنظيم الصارم أن الإنذار المبكر ضرورة حتمية للحد من التطوير غير المسؤول، يخشى أنصار الابتكار أن تؤدي المبالغة في تصور الكارثة إلى فرض قيود صلبة تعطل البحث العلمي وتحدّ من الاستفادة من الإمكانات الاقتصادية والمعرفية الهائلة للتقنية. بيد أن الخيار بين إطلاق الذكاء الاصطناعي بلا ضوابط أو تقييده بصورة تشل تطوره ليس خيارًا حتميًا؛ إذ تقتضي الحكمة التمييز بين المخاطر القريبة والملموسة -مثل الاحتيال الرقمي، وانتهاك الخصوصية، والتحيز في اتخاذ القرارات- والمخاطر الأوسع والأبعد مدى التي لا تزال موضع بحث واختلاف نَظَريّ. فلكل مستوى من هذه المخاطر أدواته المناسبة في التقييم والوقاية والمساءلة.
ويتمثل التحول الأبرز في هذا المسار في ظهور ما يُعرف بالذكاء الاصطناعي الوكيلي (Agentic AI)؛ وهو الجيل الذي لا يكتفي بتقديم المعلومات، بل يمتلك القدرة على التخطيط لسلسلة من الخطوات، واستخدام الأدوات الرقمية، والتفاعل مع الأنظمة الخارجية لتنفيذ مهام متعددة تحقيقًا لهدف محدد. فبدلاً من أن يشرح النظام للمستخدم كيفية إدارة أمواله، بات بإمكانه -إذا مُنح الصلاحية- أن ينفّذ تحويلًا ماليًا، أو يعدّل سجلات رسمية، أو يدير عمليات مؤسسية كاملة. وبذلك تنتقل قدرات الآلة من نطاق «إنتاج المعلومة» إلى نطاق «التأثير المباشر في الواقع»، لتتقلص المسافة تمامًا بين الخطأ النظرِي والضرر الفعلي.
ولا يعني هذا التحول أن الآلة قد اكتسبت وعيًا أو إرادة بشرية، أو أصبحت مسؤولة بالمعنى الأخلاقي والقانوني الذي ينطبق على الإنسان؛ بل يعني أنها أضحت قادرة على تنفيذ إجراءات متتابعة بذكاء واستقلالية تشغيلية عالية وفقًا لأهداف وتعليمات محددة. وتكمن المعضلة الحقيقية عندما يُصاغ الهدف بصورة غامضة، أو يُساء تفسير التعليمات، أو تنجح جهات خبيثة في اختراق النظام، أو تتجاوز صلاحيات الآلة ما كان متوقعًا منها.
وهنا تبرز ظاهرة نقدية يمكن وصفها بـ «وهم الإشراف البشري»؛ إذ قد يبدو النظام خاضعًا للرقابة لمجرد وجود إنسان ضمن سلسلة اتخاذ القرار، بينما تكون هذه الرقابة شكلية لا تتيح فهمًا عميقًا لما يحدث أو تدخلًا فعالًا في الوقت المناسب. فلا قيمة حقيقية لموافقة بشرية تُمنح بصورة آلية أو سريعة لا تسمح بتقييم القرار، أو عندما تكون سرعة التنفيذ التقني أسرع من قدرة الإنسان على التدخل قبل وقوع الضرر. ولذا، فإن الإشراف الفعال لا يتحقق بمجرد التواجد الصوري للإنسان في نهاية العملية، بل يتطلب وضوح الصلاحيات، وإمكانية تتبع مسار القرارات، وتوافر البيانات الشفافة، وتطوير آليات عملية للإيقاف والمراجعة تعمل بفاعلية على مدار الساعة.
إن الحل لا يكمن في تعطيل تقنيات الذكاء الاصطناعي أو حظر الأنظمة المستقلة بصورة مطلقة، كما لا يكمن في إطلاق يدها دون قيود، بل يتجسد في بناء «نموذج متوازن لتفويض المهام». يحدد هذا النموذج درجة استقلالية النظام بناءً على حساسية القرار، وحجم الضرر المحتمل، وإمكانية التراجع عن النتائج؛ فالمهام البسيطة والمتكررة والقابلة للتصحيح يمكن إسنادها للأنظمة الذكية لرفع الكفاءة التشغيلية وتوفير الوقت، أما القرارات ذات الآثار المصيرية أو التي تمس الحقوق الأساسية وتصعب معالجة نتائجها -كالقرارات المالية الكبرى، والتصرفات الطبية الحساسة، وإدارة الخدمات الحيوية- فيجب أن تخضع لمراجعة بشرية واعية وموافقة صريحة تتناسب مع خطورتها.
ويقتضي هذا النهج أن تُطبق مبادئ «الحد الأدنى من الصلاحيات»، فلا يُمنح النظام سلطة تتجاوز حدود مهمته، مع الفصل التام بين قدرته على تقديم التوصيات وقدرته على التنفيذ المباشر. كما يتطلب ذلك توثيق الإجراءات الحساسة، وإخضاعها لمراجعات مستقلة، وتزويد الأنظمة بـ «مفاتيح أمان» لتعليق التنفيذ فورًا عند حدوث خلل. والأهم من ذلك هو اختبار هذه التقنيات في ظروف محاكاة معقدة تشمل الأخطاء والهجمات وسوء الفهم، وليس في البيئات المثالية فحسب؛ فالتقنية الآمنة ليست تلك التي تنجح عندما تسير الأمور كما خُطط لها، بل تلك التي تملك القدرة على احتواء الأضرار عندما تتعرض للفشل أو تتصرف على نحو غير متوقع.وتتسق هذه المقاربة مع التوجهات الدولية الداعية إلى تعزيز الرقابة والمساءلة؛ حيث أكدت منظمة التعاون الاقتصادي والتنمية (OECD) بشأن الذكاء الاصطناعي على ضرورة احترام حقوق الإنسان وقيم العدالة، وتعزيز الشفافية. ورغم أن العديد من الشركات والجهات المختصة تدرك هذه المخاطر وتعمل على ابتكار خطط وأساليب للحد منها، إلا أن المنافسة الحقيقية في عصر الذكاء الاصطناعي لن تُقاس بعد اليوم بسرعة التطوير أو حجم الاستثمارات فحسب، بل بمدى «الثقة» التي تستطيع المؤسسات بناءها. فالابتكار المجرد من المسؤولية قد يحقق مكاسب سريعة، لكنه يهدد بخسائر مجتمعية تقوِّض الثقة بالتقنية برمتها، بينما التنظيم المستنير القائم على فهم المخاطر والتدرج في معالجتها كفيل بحماية الإنسان دون حرمان المجتمع من فرص التقدم.
