من هو الأكثر ثقة لديك؟ طبيبك أم الآلة؟ هذا السؤال يرتبط بما يُعرف بـ«انحياز الأتمتة»، وهو انحياز معرفي يجعل الإنسان يميل إلى الثقة بقرارات أو توصيات الأنظمة الآلية أكثر مما ينبغي، حتى عندما تتعارض مع معلومات أخرى أو مع حكمه الشخصي. ويحذر الباحثون من الإفراط في الاعتماد على البرمجيات والذكاء الاصطناعي في اتخاذ القرارات، لأن الإنسان قد يفترض أن قرار الآلة أكثر دقة لمجرد أنه صادر عن نظام آلي.

وتشير الدراسات إلى أن الاعتماد المفرط على الذكاء الاصطناعي قد يعيق بعض المبتدئين عن تطوير مهاراتهم، كما يثير مخاوف من تراجع بعض مهارات الخبراء مع الاستخدام المستمر. وفي دراسات شملت أطباء ومختصين في مجالات مختلفة، ظهر خطر قبول توصيات الأنظمة الآلية الخاطئة بدلًا من الاعتماد على التقييم المستقل، وإن كانت درجة التأثر بهذا الانحياز تختلف باختلاف الخبرة والسياق. أما في ساحة المعركة، فإن نتائج هذا الميل قد تصبح أكثر خطورة بسبب ضيق الوقت وحساسية القرارات.

تخيل أن يحدد نظام ذكاء اصطناعي هدفًا، وأمام جندي ثوانٍ فقط لاتخاذ القرار. هل سيقول: «لا، الآلة مخطئة»؟ أم سيقول: «النظام حلل ملايين البيانات، وبالتأكيد يعرف أكثر مني»؟ لذلك فالتحدي اليوم ليس فقط في تعليم المختصين كيفية استخدام الذكاء الاصطناعي، وإنما في تعليمهم متى يثقون به ومتى يقولون له: «أنت مخطئ». وإذا أخطأت الآلة، فمن يتحمل المسؤولية؟ البرمجية التي لا تملك قرارًا مستقلًا، أم الإنسان الذي وثق بها أكثر مما وثق بحكمه؟