كيف يمكن أن يؤدي الاستخدام الخاطئ للذكاء الاصطناعي الى موت البشر ؟

شوكت قنبر
٢٨-١٠-٢٠٢٤[



في ظل الانتشار السريع للذكاء الاصطناعي في مختلف القطاعات، تتزايد المخاوف بشأن العواقب الوخيمة التي يمكن أن تنجم عن استخدامه الخاطئ. الأخطاء في التطبيقات الطبية، مثل التشخيص الخاطئ الذي يعتمد على الخوارزميات، قد تؤدي إلى وفيات نتيجة تأخر العلاج أو اتخاذ قرارات طبية غير مناسبة. كذلك، في مجال القيادة الذاتية، يُظهر حادث سيارة أوبر ذاتية القيادة عام 2018 خطورة الاعتماد الكلي على الذكاء الاصطناعي، حيث فشل النظام في التعرف على امرأة كانت على الطريق ودهسها. بالإضافة إلى ذلك، استخدام الذكاء الاصطناعي في المجال العسكري قد يؤدي إلى عواقب خطيرة نظراً لظروف الصراعات المتغيرة التي لم يتم تدريب الأنظمة عليها، هذه المخاطر توضّح الحاجة الماسة إلى وضع معايير تنظيمية وضوابط لمراقبة وضمان سلامة الأنظمة المدعومة بالذكاء الاصطناعي ومنع وقوع خسائر في الأرواح نتيجة استخدامها الخاطئ.

شهد العالم في السنوات الأخيرة ثورة تكنولوجية غير مسبوقة يقودها الذكاء الاصطناعي، حيث أصبحت تطبيقاته منتشرة في مختلف القطاعات مثل الرعاية الصحية والصناعة والزراعة والتعليم والدفاع. هذه الابتكارات تترافق مع إمكانات هائلة لتحسين حياة البشر وزيادة الكفاءة، لكنها تأتي أيضاً مع مخاطر جمّة؛ إذ يمكن أن يؤدي سوء استخدام الذكاء الاصطناعي إلى عواقب وخيمة تصل إلى تهديد حياة البشر. ففي القطاع الصحي، يؤدي الاعتماد على خوارزميات غير دقيقة في التشخيص أو التوصية بالعلاج إلى أخطاء طبية قاتلة. على سبيل المثال، وجد باحثون من معهد إم آي تي (MIT) الأميركي، أن الروبوتات الجراحية كانت مسؤولة عن وفاة 144 مريضاً وإصابة 1391 مريضاً.
ما هو الاستخدام الخاطئ للذكاء الاصطناعي؟
الاستخدام الخاطئ للذكاء الاصطناعي يعني تطبيق هذه التكنولوجيا بطريقة غير مدروسة أو غير مسؤولة، سواء كان ذلك بسبب عدم فهم القيود، أو الاعتماد المفرط عليها دون إشراف ومراقبة بشرية مناسبة.

تتجلى مخاطر هذا الاستخدام في عدة جوانب. على سبيل المثال، في الرعاية الصحية، إذا تم الاعتماد على نماذج الذكاء الاصطناعي في تشخيص الحالات الطبية دون تدخل الأطباء، فإن أي خطأ في البرمجة أو تدريب الخوارزمية على بيانات غير دقيقة يمكن أن يؤدي إلى قرارات طبية قاتلة.
وفي أنظمة القيادة الذاتية، قد يؤدي الاعتماد الكلي على الذكاء الاصطناعي دون اختبار دقة نظام القيادة إلى حوادث مميتة. إضافةً إلى ذلك، في المجال العسكري، يمكن أن تؤدي القرارات الآلية التي تتخذها أنظمة الذكاء الاصطناعي إلى أخطاء استراتيجية أو عملياتية تؤدي إلى خسائر كبيرة في الأرواح.
هذا النوع من الاستخدام الخاطئ ناجم في الغالب عن عدم فهم البشر كيفية عمل الذكاء الاصطناعي، أو الفشل في وضع معايير دقيقة لتنظيم عمل واستخدام هذه التكنولوجيا والإشراف عليها.

فيما يلي بعض الأمثلة التي تسبب فيها الاستخدام الخاطئ لأنظمة الذكاء الاصطناعي في موت البشر:*
حادث القيادة الذاتية لشركة أوبر
في شهر مارس 2018، اصطدمت سيارة ذاتية القيادة تابعة لشركة أوبر (Uber) بامرأة في ولاية أريزونا الأميركية، ما أدّى إلى وفاتها. وأظهرت التحقيقات أن نظام الذكاء الاصطناعي المسؤول عن القيادة لم يتعرف على المرأة ولم يتوقف في الوقت المناسب.
على الرغم من وجود سائق بشري في السيارة، لكنه اعتمد بالكامل على نظام القيادة الذاتية. هذه الحادثة أبرزت خطورة الاعتماد الكلي على الذكاء الاصطناعي في الأنظمة الحساسة مثل القيادة الذاتية دون وجود آليات مراقبة وإشراف بشري كافٍ .
ما هو الخطأ في هذه الحالة؟
الخطأ في هذه الحالة أن السائق لم يكن ينظر إلى الطريق على الرغم من أن التعليمات تفرض عليه ذلك، وذلك بسبب ثقته بقدرات القيادة الذاتية.

أخطاء تشخيص كوفيد-19
في عامي 2020 و2021، وبسبب الضغط الكبير الذي تعرضت له مؤسسات الرعاية الصحية نتيجة انتشار جائحة كوفيد-19، استخدمت بعض المستشفيات البريطانية نظام ذكاء اصطناعي لتشخيص حالات الإصابة بكوفيد-19 بناءً على صور الأشعة الصدرية. في بعض الحالات، أخطأ النظام في التشخيص وصنّف بعض المرضى على أنهم غير مصابين، كما أوصى بعلاجات غير مناسبة لبعض المرضى. هذه الأخطاء قد تكون السبب في حدوث وفيات نتيجة عدم الحصول على الرعاية الصحية والعلاج الصحيح .
ما هو الخطأ في هذه الحالة؟
الخطأ هو الاعتماد على نظام ذكاء اصطناعي تم تطويره بسرعة بالاعتماد على بيانات غير كافية، واستخدامه لتشخيص حالات مرضية مهددة للحياة.

حوادث الطائرات المسيّرة العسكرية
في عام 2020، وثّق تقرير للأمم المتحدة حادثة شنت فيها طائرة مسيّرة مدعومة بالذكاء الاصطناعي هجوماً ذاتياً على هدف بشري خلال الصراع العسكري في ليبيا، دون أوامر مباشرة من مشغليها.