في مقالنا السابق تساءلنا : هل تقبل العمل تحت إدارة “مدير آلي” ؟ ربما تخيلت روبوتاً يجلس في مكتب زجاجي يراقبك بعين حمراء لامعة لكن الحقيقة أن المدير الآلي موجود بيننا بالفعل وهو ليس روبوتاً معدنياً بل مجرد أسطر من الأكواد والخوارزميات الصامتة.
هذا المفهوم يعرف اليوم بـ “الإدارة الخوارزمية” وتطبقه بالفعل كبرى الشركات العالمية حيث تقوم الأنظمة الذكية بتتبع أداء الموظفين، توزيع المهام، تقييم الإنتاجية، بل وتصل أحياناً إلى حد إرسال إشعارات بإنهاء الخدمة آلياً دون تدخل بشري. والسؤال المرعب هنا : ماذا لو استيقظت صباحاً لتجد رسالة فصلك من العمل وعندما تسأل الموارد البشرية يجيبونك ببرود : “لا نعرف السبب.. النظام هو من قرر” ؟!
كثيراً ما نقع في فخ الاعتقاد بأن الذكاء الاصطناعي “محايد” لأن الأرقام لا تكذب لكن دعني أصحح لك هذه المعلومة من وجهة نظر تقنية بحتة : الذكاء الاصطناعي ليس قاضياً نزيهاً هبط من السماء بل هو تلميذ يتلقى تعليمه من البشر.
الآلة تتدرب على سجلات تاريخية وبيانات سابقة وإذا كانت هذه البيانات تحمل تحيزات بشرية (مثلا تفضل الشركة تاريخياً ترقية فئة معينة دون أخرى) فإن الخوارزمية ستتعلم هذا التحيز وتطبقه بصرامة مضاعفة في عام 2018 اضطرت إحدى كبرى شركات التقنية العالمية ( امازون ) لإلغاء نظام توظيف ذكي بالكامل بعد أن اكتشفوا أنه يرفض تلقائياً السيرة الذاتية للنساء ببساطة لأن النظام تدرب على بيانات سابقة كان أغلب الموظفين فيها من الرجال!
هنا نصل إلى العقدة الحقيقية في أنظمة الذكاء الاصطناعي المتقدمة التكنولوجيا الحديثة قادرة على اتخاذ قرارات معقدة جداً، لكنها تعمل بطريقة تشبه “الصندوق الأسود“.
بمعنى آخر قد يقرر النظام خصم راتبك أو تقييم أدائك بشكل سلبي لكنه لا يستطيع أن يشرح لك أو للمدير البشري كيف وصل إلى هذا القرار تخيل أن تحرم من الترقية ولا أحد في الشركة يملك القدرة على إعطائك مبرراً منطقيا سوى أن “الخوارزمية رأت ذلك”. هذا الغياب للشفافية يحول بيئة العمل إلى حقل ألغام رقمي.
الخطر الحقيقي في مستقبل العمل ليس أن يصبح الروبوت شريراً يكره البشر بل أن يصبح مديراً يظلمنا بكفاءة عالية وبدون قصد والأخطر.. بدون قدرة على تبرير قراراته…
والآن أعيد عليك السؤال بشكل مختلف : هل أنت مستعد للعمل تحت إدارة نظام لا ينام ولا ينسى زلاتك الرقمية ولا يمكنك حتى أن تشرح له وجهة نظرك ؟
