نشرت مؤسسة الفكر العربى مقالًا للكاتب نديم منصورى، تحدث فيه عن دور التوجهات البشرية فى جعل الذكاء الاصطناعى متحيزًا فى العديد من المجالات أثناء عملية تزويده بالبيانات، مركزًا على العمل الصحفى تحديدًا.. نعرض من المقال ما يلى:
يعتبر الذكاء الاصطناعى صناعة بشرية، وبالتالى من الطبيعى أن تنعكس بيانات التحيز البشرى فى العمل الصحفى فى التحيّز الخوارزمى، الذى سينتج مخرجات متحيّزة ضمن نطاق تطبيقات الذكاء الاصطناعى. مثلًا برنامج التعرف إلى الوجه بتقنية الذكاء الاصطناعى، لا يمكنه اكتشاف الوجوه ذات البشرة الداكنة أو التعرف إلى النساء بدقة!
وهذا ما تشرحه ميريديث بروسارد فى كتابها «Artificial Unintelligence»، أن التعلّم الآلى قد يكون مضللًا إلى حد بعيد، لأن آليات تعلم تطبيقات الذكاء الاصطناعى تختلف بطبيعتها عن التعلم البشرى؛ فالذكاء الاصطناعى يتعلم من بيانات التدريب، ويحلّلها ويستخرج منها نتائج مستقبلية متوقعة، إلا أنه على الرغم من ذلك، يمكن أن يغفل الكثير من الفروقات الدقيقة للذكاء البشرى، مثل عجزه عن فهم الكثير من عبارات السخرية أو الاستعارات المُستخدَمة فى بيئات ثقافية متنوعة.
إلا أن الأمر لا يقف عند هذا الحد، فقد أصبحت غرف الأخبار الكبرى تضيف تكنولوجيا الذكاء الاصطناعى الجديدة إلى عملها، ما يجعل مسألة التحيّز البشرى وانعكاسه على تحيّز الآلة واسع النطاق.
• • •
ماذا نقصد بالتحيز الخوارزمى؟ نقصد به عندما يعمل بشكل تفضيلى، أى عند تفضيل نظام الذكاء الاصطناعى مجموعة ما على مجموعة أخرى. يحصل ذلك عندما تنحرف نتائج خوارزميات التعلم الآلى نحو فرضيات مُتحيزة، قد يكون سببها تحيّز بيانات التدريب التى تغذى نظام الذكاء الاصطناعى. بعبارة أخرى، التحيز الخوارزمى هو انحياز أنظمة الذكاء الاصطناعى لجهة دون أخرى، بسبب تزويدها بالبيانات المتحيزة فى أثناء مرحلة التعلم الآلى.
تكمن خطورة التحيز الخوارزمى فى أنه شريك فى عمليات اتخاذ القرار للكثير من الجهات الإعلامية أو السياسية أو الاقتصادية. هذا ما أنتج مصطلح «الخوارزميات سيئة الأداء»، لكنها فى الواقع مجرد استعارة للإشارة إلى وكلاء الذكاء الاصطناعى التى تؤدى نتائجها إلى تبعات غير منطقية وربما خطيرة.
ناقشت باتيا فريدمان وهيلين نيسنباوم مخاوف التحيّز فى استخدام أنظمة الحاسوب لأداء مهامّ متنوعة، وأشارت مقالتهما النقدية إلى وجود سلوك غير منصف أو متحيز فى هذه الخوارزميات واقترحتا إطارًا منهجيًا للتفكير فى هذه التحيزات.
كما كانت لاتانيا سوينى من الرواد الذين درسوا سوء الأداء فى أنظمة «جوجل»، والذين كشفت أعمالهم عن أمثلة عن التشهير الخوارزمى فى عمليات بحث «جوجل» وإعلاناته.
وكتب سولون باروكاس وأندريه سيلبست مقالًا يتناول السؤال الجوهرى حول ما إذا كان يمكن للبيانات الضخمة أن تثمر عن سلوك عادل أو محايد فى الخوارزميات، وأجاب الباحثان عن هذا السؤال بالنفى القاطع من دون طرح إصلاح لكيفية تصنيف البيانات والخوارزميات المرتبطة بها.
لكن السؤال الذى يطرح نفسه، من أين تأتى التحيّزات الخوارزمية.. ما مصدرها؟ يرجع سبب التحيز الخوارزمى فى الدرجة الأولى إلى التحيز البشرى الذى ينشئ هذه الخوارزميات من خلال أفكاره وتفاعلاته وسلوكه الرقمى. يؤثر التحيز البشرى فى أنظمة الذكاء الاصطناعى بشكل مباشر، حيث إن الآلة تبقى صماء، وهى بحاجة إلى التفاعل البشرى لكى يقودها بالاتجاه الذى يريده، وبالتالى فإن التحيزات البشرية وتضارب مواقفهم ومصالحهم تؤدى حكما إلى تحيز فى الخوارزميات.
ثمة تحيز بشرى فى التعلم الآلى بسبب إنشاء خوارزميات البيانات، وما دام أن التحيز صفة بشرية، سيتعلم الذكاء الاصطناعى هذا الانحياز، لأنه يحاكى الذكاء البشرى عن طريق التعلم من البيانات المزودة من المستخدمين. وإذا ما احتوت هذه البيانات على أفكار عنصرية أو طائفية أو مذهبية.. سيتم تخزين هذه الأفكار وتحليلها وتوليدها.
ونرى أن خطاب الكراهية والعصبية والتشهير وغيره من الممارسات الرقمية، هو ناتج عن سلوك المستخدمين أنفسهم، وبالتالى تصبح مجموعات البيانات مرايا تعكس التحيزات المجتمعية من خلال تحليل المدخلات للحصول على مخرجات متحيزة معبرة عن الواقع.
سبب آخر قد يقود الخوارزميات إلى التحيز هو عبر إطلاق التعميمات، فعندما تتم برمجة الخوارزميات وتتعمم مسألة أن معظم ذوى البشرة السوداء هم أناس خطرون، أو أن أصحاب اللحى هم ذوو فكر إرهابى، فى تلك الحال، سوف تطلق الخوارزميات تحذيرات خاطئة ضد أناس أبرياء. وغالبًا ما وقع الذكاء الاصطناعى بهذه الأخطاء الفادحة التى تتسم بعدم الإنصاف والافتقار إلى العدالة الإنسانية.
يجب ألا يغفل علينا أيضًا أن أحد أبرز أسباب التحيز الخوارزمى قد يكون بدوافع سياسيّة، فشركات الإعلام الاجتماعى الكبرى قد تتّخذ وجهةَ نظرٍ سياسيّة لا تكون بالضرورة منصفة أو خالية من التحيُّز.
هنا يضطلع المراجعون البشريون بدور حيوى فى مراقبة النماذج وتحسينها. ومع ذلك، فإن وجهات نظرهم وتحيزاتهم، لا سيما فى العمل الصحفى، تقدم طبقة أخرى من التعقيد. والسؤال، أين تكمن أخلاقيات المهنة الموازنة بين حرية التعبير والخصوصية والعدالة؟
تتركز المخاوف خلال عملية استخدام الخوارزميات فى الصحافة على الانحيازات المدمجة فى أنظمة الخوارزميات التى يمكن أن تحرف من تصورات الجمهور أو توجّهه فى الاتجاه الخاطئ.
يمكن أيضًا استخدام الخوارزميات لنشر الأكاذيب والمعلومات المضلّلة والتحايل على الانتباه عن المحتوى المهم، وحتى مهاجمة المستخدمين ومضايقتهم، مثل استخدام غرف الصدى Echo Chambers، حيث تؤشّر هذه الغرف إلى ميل المستخدم للبحث عن كل ما يؤكّد ويعزّز وجهة نظره وما يؤمن به من معتقدات وقيم. وبالتالى يمكن القول إن غرف الصدى قد تجعل من آراء الطرف الآخر، هامشية، فتقوم المنصة الرقمية الخاصة بالفرد، باقتراح ثلاثة أشخاص آخرين يؤمنون بالأخبار ذاتها، ويفكرون بالطريقة ذاتها، ويتداولون المعلومات ذاتها، وهذا لا يعود إلى المصادفة الخوازرمية، بل إلى ظاهرة «التعرض الانتقائى» التى تستخدمها تلك المنصات لتقدّم للفرد طريقة تزوده بالمعلومات ووجهات النظر المتقاربة مع تلك التى يعتقد بها، وبذلك تجنبه المعلومات المتناقضة مع رأيه.
كذلك الأمر مع استخدام فقاعات التصفية عندما تخمّن خوارزمية موقع الويب، بشكل انتقائى، المعلومات التى يرغب المستخدم فى رؤيتها، بناء على معلومات حول المستخدم مثل الموقع وسلوك النّقر السابق وسجل البحث. ونتيجة لذلك، ينفصل المستخدمون عن المعلومات التى لا تتفق مع وجهات نظرهم، ما يؤدى إلى عزلهم بشكل فعال فى فقاعاتهم الثقافية أو الأيديولوجية الأخرى. فالخيارات التى تقوم بها هذه الخوارزميات ليست شفافة، حيث تتضمن الأمثلة الرئيسة نتائج البحث المخصص من «جوجل» وتدفق الأخبار المخصّص من «فيسبوك»، وقد يكون لتأثير الفقاعة آثارها السلبية على الخطاب العام.
ولا ننسى الذكاءَ الاصطناعى التوليدى Generative Artificial Intelligence الذى لا يخلو من التحيزات التى قد تكون نمطية جنسانية تشير مثلًا إلى أن التمريض هو وظيفة المرأة، ويعكس ذلك حتمًا الصور النمطية الموجودة على الويب.
أمام هذا المشهد، نستنتج أن التحيز الخوارزمى هو نتاج التفاعلات البشريّة، وبالتالى كلما تمكنت الصحافة من بلورة رأى عام مؤيد لقضايا مجتمعاتها، كلما تمكنت من تخفيف حدة التحيز. وبالتالى يجب تعزيز الوعى لدى الصحفيين والمطورين حول تأثيرات التحيزات، وتمكينهم عبر برامج تدريبية مستمرة من المساعدة على معرفة أساليب التحيزات، والعمل، بالتالى، على التقليل منها.
ولا بد للمؤسسات الإعلامية من أن تعمل على تصميم خوارزميات شفافة وعادلة من طرف الشركات، والمطورين، والعاملين فى المجال الإعلامى، عبر المراجعة الدورية لتأثير الخوارزميات، وإدخال التعديلات اللازمة للحد من التحيزات. وأخيرًا لا بد من وضع تشريعات عربية للذكاء الاصطناعى التى تساعد فى ضبط الاستخدام وعدم الاستفادة منه لغايات غير أخلاقية أو سياسية.