يدرك الجميع أنه إضافة للفوائد العظيمة للذكاء الاصطناعي ثمة احتمال لتداعيات سلبية وقد تكون كارثية على البشرية، إنما قلما يتم الانتباه لجوانب أخرى قد تفوقها خطورة، وهي ما بدأ يسميه الباحثون «الذكاء المتفاوت» (jagged intelligence)؛ أو يمكن تسميته على سبيل المزاح بـ «الغباء الاصطناعي».
في حياتنا اليومية، نتعامل مع مواقف تبدو بسيطة بديهياً، لكن هذا الذكاء، الذي يُفترض أنه يفوق القدرات البشرية، قد يفشل في مهام يمكن لأي إنسان إنجازها بسهولة. فعلى سبيل المثال، معالجة الصوت للنصوص أو الإعلانات التجارية أو الأغاني، قد يسيء الذكاء الاصطناعي فهم بُنية الكلمات، ومن ثم لا يُؤديها بنبرتها السليمة.
ومن الأمثلة التي مرَّت علي: تفكيك كلمة واحدة إلى جزأين بلا دلالة، مثلاً «إلهام» ينطقها «إلى هام»؛ أو العكس، يدمج كلمتين منفصلتين «أين أنت؟» بكلمة واحدة «أينت» لا معنى لها. والأكثر شيوعاً هو الخطأ في نطق الكلمات نتيجة ضبط خاطئ للحركات (التشكيل)، مما يغير معناها تماماً؛ كأن يُبدل النظام كلمة «فَرْق» (اختلاف) إلى كلمة «فِرَق» (مجموعات) لا تتفق إطلاقاً مع السياق.
تلك أخطاء بسيطة لا تدعو للقلق بل ربما للابتسامة، إنما الخطورة حين تظهر في مجالاتٍ بالغة الحساسية كالأنظمة الأمنية والعسكرية؛ فمثلاً الشهر الماضي، ظهرت تقارير تفيد بأن نظاماً للذكاء الاصطناعي أظهر مما يُعرف بـ «الهلوسة» (أي توليد معلومات وهمية) ساهم في إعداد تقرير استخباراتي كاد أن يدفع الجيش الأمريكي إلى صعود متن سفينة صينية، مما كان من شأنه أن يشعل فتيل مواجهة محتملة بين قوتين عظميين تمتلكان أسلحة نووية (جوشوا كيتينغ، فورين بوليسي).
«الذكاء المتفاوت» لنماذج الذكاء الاصطناعي؛ مصطلح صاغه أندريه كارباثي الباحث في مجال الذكاء الاصطناعي، وله عدة خصائص من أبرزها أنه قد يتعثر في أبسط المهام اليومية التي يتقنها الأطفال (مثل عد الحروف في كلمة معينة، أو حل لغز منطقي بسيط)، رغم حله لمسائل رياضية معقدة أو كتابة برمجيات متقدمة تفوق قدرات البشر.
يطرح كارباثي العديد من الأمثلة، ذاكراً واقعة حدثت له بسؤال: أي الرقمين أكبر، 9.11 أم 9.9؟ كانت الإجابة خاطئة. ومثال شائع آخر، وهو العجز عن العد؛ فعند السؤال عن عدد مرات تكرار حرف «r» في كلمة «barrier»، كانت إجابته أنها مرتان فقط.
وينطبق الأمر نفسه على أنماط أخرى؛ إذ يمكن لهذه النماذج المتطورة التعرف بدقة على آلاف الأنواع من الكلاب أو الزهور، لكنها قد تعجز، على سبيل المثال، عن تحديد ما إذا كانت دائرتان تتداخلان أم لا، وفقاً لكارباثي.
لماذا يحدث هذا؟ لأن تلك النماذج تعتمد على دمج كميات ضخمة من البيانات الرقمية والنصية موزعة بشكل عشوائي وغير بديهي، وليس من خلال وعي أو فهم إدراكي عام يراعي السياق، بينما عند البشر ترتبط المهارات ببعضها من خلال إدراك وتتطور بشكل متسق نسبياً؛ يرتبط لما يعرف بالحس المنطقي العام (common sense).
الخطورة هنا تكمن ببساطة في الثقة المفرطة بهذا الذكاء، وهو ما يسميه الباحثون «الانحياز للأتمتة» (automation bias)، أي ميل البشر إلى الثقة المطلقة في مخرجات واقتراحات الأنظمة الآلية أو الذكاء الاصطناعي، وتجاهل المعلومات المخالفة التي تأتي من مصادر بشرية أو أدلة أخرى حتى لو كانت صحيحة؛ بحجة أن هذه الأنظمة أكثر تطوراً من الذكاء البشري.
إنما هذه الأنظمة الذكية لا يزال ترتكب الأخطاء، مما يتطلب التفكير النقدي والمراجعة البشرية لمخرجات هذا الذكاء بالتدقيق والتحقق، وعدم الركون الكامل لنتائجه، خاصة في المجالات الحساسة كالأمني والعسكري والطب والقانون والشؤون المالية، لتجنب احتمالية وقوع الكوارث بسبب أخطاء بدائية لم تخطر على بال أحد.
يدرك الجميع أنه إضافة للفوائد العظيمة للذكاء الاصطناعي ثمة احتمال لتداعيات سلبية وقد تكون كارثية على البشرية، إنما قلما يتم الانتباه لجوانب أخرى قد تفوقها خطورة، وهي ما بدأ يسميه الباحثون «الذكاء المتفاوت» (jagged intelligence)؛ أو يمكن تسميته على سبيل المزاح بـ «الغباء الاصطناعي».
في حياتنا اليومية، نتعامل مع مواقف تبدو بسيطة بديهياً، لكن هذا الذكاء، الذي يُفترض أنه يفوق القدرات البشرية، قد يفشل في مهام يمكن لأي إنسان إنجازها بسهولة. فعلى سبيل المثال، معالجة الصوت للنصوص أو الإعلانات التجارية أو الأغاني، قد يسيء الذكاء الاصطناعي فهم بُنية الكلمات، ومن ثم لا يُؤديها بنبرتها السليمة.
ومن الأمثلة التي مرَّت علي: تفكيك كلمة واحدة إلى جزأين بلا دلالة، مثلاً «إلهام» ينطقها «إلى هام»؛ أو العكس، يدمج كلمتين منفصلتين «أين أنت؟» بكلمة واحدة «أينت» لا معنى لها. والأكثر شيوعاً هو الخطأ في نطق الكلمات نتيجة ضبط خاطئ للحركات (التشكيل)، مما يغير معناها تماماً؛ كأن يُبدل النظام كلمة «فَرْق» (اختلاف) إلى كلمة «فِرَق» (مجموعات) لا تتفق إطلاقاً مع السياق.
تلك أخطاء بسيطة لا تدعو للقلق بل ربما للابتسامة، إنما الخطورة حين تظهر في مجالاتٍ بالغة الحساسية كالأنظمة الأمنية والعسكرية؛ فمثلاً الشهر الماضي، ظهرت تقارير تفيد بأن نظاماً للذكاء الاصطناعي أظهر مما يُعرف بـ «الهلوسة» (أي توليد معلومات وهمية) ساهم في إعداد تقرير استخباراتي كاد أن يدفع الجيش الأمريكي إلى صعود متن سفينة صينية، مما كان من شأنه أن يشعل فتيل مواجهة محتملة بين قوتين عظميين تمتلكان أسلحة نووية (جوشوا كيتينغ، فورين بوليسي).
«الذكاء المتفاوت» لنماذج الذكاء الاصطناعي؛ مصطلح صاغه أندريه كارباثي الباحث في مجال الذكاء الاصطناعي، وله عدة خصائص من أبرزها أنه قد يتعثر في أبسط المهام اليومية التي يتقنها الأطفال (مثل عد الحروف في كلمة معينة، أو حل لغز منطقي بسيط)، رغم حله لمسائل رياضية معقدة أو كتابة برمجيات متقدمة تفوق قدرات البشر.
يطرح كارباثي العديد من الأمثلة، ذاكراً واقعة حدثت له بسؤال: أي الرقمين أكبر، 9.11 أم 9.9؟ كانت الإجابة خاطئة. ومثال شائع آخر، وهو العجز عن العد؛ فعند السؤال عن عدد مرات تكرار حرف «r» في كلمة «barrier»، كانت إجابته أنها مرتان فقط.
وينطبق الأمر نفسه على أنماط أخرى؛ إذ يمكن لهذه النماذج المتطورة التعرف بدقة على آلاف الأنواع من الكلاب أو الزهور، لكنها قد تعجز، على سبيل المثال، عن تحديد ما إذا كانت دائرتان تتداخلان أم لا، وفقاً لكارباثي.
لماذا يحدث هذا؟ لأن تلك النماذج تعتمد على دمج كميات ضخمة من البيانات الرقمية والنصية موزعة بشكل عشوائي وغير بديهي، وليس من خلال وعي أو فهم إدراكي عام يراعي السياق، بينما عند البشر ترتبط المهارات ببعضها من خلال إدراك وتتطور بشكل متسق نسبياً؛ يرتبط لما يعرف بالحس المنطقي العام (common sense).
الخطورة هنا تكمن ببساطة في الثقة المفرطة بهذا الذكاء، وهو ما يسميه الباحثون «الانحياز للأتمتة» (automation bias)، أي ميل البشر إلى الثقة المطلقة في مخرجات واقتراحات الأنظمة الآلية أو الذكاء الاصطناعي، وتجاهل المعلومات المخالفة التي تأتي من مصادر بشرية أو أدلة أخرى حتى لو كانت صحيحة؛ بحجة أن هذه الأنظمة أكثر تطوراً من الذكاء البشري.
