الذكاء الاصطناعي: إنهاء للتمييز أم رقمنته؟

لا زلت أذكر جيدًا ذلك النقاش الذي دار بين اثنين من الخبراء في أحد مؤتمرات الجندر الذي شاركت فيه قبل عدة أعوام، فقد ارتأى حينها أحدهما أن الجهود الرامية إلى تمكين النساء في شتى المجالات خلال الأعوام القادمة ما هي إلا مضيعة للوقت والجهد، إذ إن عصر التكنولوجيا في رأيه لا يُفرّق بين الرجال والنساء، وأن الإنسان لن يكون في المستقبل القريب أكثر من عنوان «آي پي» ”IP Address“  بصرف النظر عن جنسه، بالتالي فإنه يرى أن التكنولوجيا في الأعوام القليلة المقبلة سوف تردم ببداهة تلك الهوة بين الجنسين دون الحاجة إلى كل هذا الحديث عن تمكين النساء والفئات المستضعفة الأخرى.

المتلقي لهذا الكلام من غير المختصين في تكنولوجيا المعلومات قد يجده منطقيًا جدًا، فما حاجتنا إذًا إلى المطالبة بالمساواة وبحقوق الفئات المهمشة —ومنها النساء— إذا كانت تكنولوجيا المستقبل بطبيعة الحال لا تُميّز بين بني البشر من مستخدميها؟ الإجابة عن هذا التساؤل تكمن في التعرف إلى بعض الحقائق حول الذكاء الاصطناعي، العمود الفقري للثورة التكنولوجية القادمة، والتخلي عن التمثلات الاجتماعية المسبقة والأفكار المغلوطة التي بنيت لدينا حول ما نحن بصدده. فما هو الذكاء الاصطناعي؟ كيف يُبنى؟ والأهم، هل هو بالفعل غير منطوٍ على التمييز ضد النساء؟

على الرغم من عدم الاتفاق على تعريف للذكاء الاصطناعي عالميًا، إلا أنه يُعرَّف في أبسط صوره على أنه قدرة الأجهزة على محاكاة ومشابهة أو لنِقُل مماثلة الذكاء البشري مثل القدرة على التعلم والتفكير والتحليل واتخاذ القرار، وذلك اعتمادًا على بيانات مسبقة وخوارزميات يتم تزويد تلك الأجهزة بها لاستخدامها في هذا الصدد⁽¹⁾. ولعل أشهر مثال على هذه المحاكاة لذكاء الإنسان ما حدث عام ١٩٩٧ عندما تمكن جهاز كمبيوتر أطلق عليه اسم «ديپ بلو» من هزيمة الروسي غاري كاسباروف بطل العالم في الشطرنج. حيث انتهج مبرمجو ديپ بلو آنذاك تزويد الجهاز بخوارزميات مَكّنته من التعلم والتحليل والاستنتاج وتقييم ردود الأفعال في كل مباراة شطرنج بشكل أقرب إلى تعلم الإنسان لهذه اللعبة تدريجيًا وممارستها حتى يصبح ضليعًا بها⁽²⁾، وقد ذهلت نتيجة مباراة الشطرنج تلك كاسباروف نفسه والعالم أجمع معه لسنوات عدة.

ربما ابتدأت بذلك المثال نظرًا لِعظَم اللغط الذي دار ولا زال يدور حول مباراة ديپ بلو منذئذ ولغاية يومنا هذا، ولكن دعنا لا نبتعد كثيرًا عن حياتك اليومية، عزيزي القارئ؛ فأنت على سبيل المثال تبدأ نهارك إن صح افتراضي العفوي برفقة كوب من القهوة وفيروز التي ما تلبث أن تشغل إحدى أغانيها —في ساوندكلاود أو يوتيوب أو أيًا كان موقعك المفضل— حتى تجد ذلك الموقع يقدم لك اقتراحات ”فيروزية“ أخرى، ولعلك لاحظت أنه بازدياد معدل استخدامك لذلك الموقع فإن دِقته وقدرته على معرفة ذائقتك في المحتوى تزداد شيئًا فشيئًا وكأنه إنسان يتعلم منك وعنك ويعرف مع مرور الوقت كيف تفكر وما الذي تريده. وقِس على نفس المنوال السواد الأعظم مما نستخدمه من تطبيقات ومواقع وخواص.

فها هو مترجم جوجل يعلم نفسه الترجمة من وإلى أكثر من مئة لغة حتى اللحظة، ويطور من جودة ترجمته مع مرور الوقت اعتمادًا على ملايين البيانات المقارنة (المستندات) التي يتم تزويده بها، وها هي روبوتات المحادثة تتعلم التحدث إلينا وتدرس وتحلل كميات ضخمة من البيانات (المحادثات) كي تطور من قدرتها على اتخاذ القرار الأنسب فيما ينبغي أن ترد به على رسائلنا، وانظر أيضًا إلى برامج التعرف على ملامح الوجه والبيانات البيومترية للبشر وكيف تطورت عبر الأعوام القليلة المنصرمة لتصبح بكل هذه الدقة.

ليست هذه الأمثلة سوى غيض من فيض، وقد لا تتسع بضعة سطور هنا للتحدث بإسهاب في هذا الصدد، إلا أن ما أردتُ الوصولَ إليه عبر طرح هذه الأمثلة من حياتنا اليومية هو أن أوضح كيف تُعد  البيانات عمادًا لتلك الأنظمة والبرمجيات، أو بمعنى آخر، فإن الحواسيب تفهم مدخلاتنا وتستخدمها كما هي، بشكل حرفي، وهو ما يطلق عليه في علم الحاسوب مصطلح «الفورماليزم»⁽³⁾. وهذه الحقيقة تنقلنا إلى زاوية أخرى من الحديث، أقرب ما تكون إلى السوسيولوجيا، فبما أن عماد ذكائنا الاصطناعي هنا هو تلك البيانات التي نزود الأجهزة بها، يمكننا إذًا النظر إلى الذكاء الاصطناعي على أنه انعكاسنا على المرآة، انعكاس فكرنا، وتمثلاتنا الاجتماعية، ومجتمعاتنا وقواعدها وبُناها الثقافية، أو كما يقول الألماني سيباستيان ثرون أستاذ علم الحاسوب في جامعة ستانفورد: ”يكاد يكون الذكاء الاصطناعي فرعًا من العلوم الإنسانية“.

إذاً، فإن المجتمعات البطريركية ستنتج بالضرورة ذكاءً اصطناعيًا بطريركيًا، أنظر إلى المساعد الشخصي في أجهزتنا على سبيل المثال، ستلاحظ أن الصوت المستخدم فيه في الغالب هو صوت أنثى، وعلى النقيض إذا ما نظرت إلى أي مساعد في مجال الاقتصاد أو القانون ستجده في الغالب صوتَ ذكر⁽⁴⁾. أي أننا أوكلنا من جديد  إلى النساء أدوار ”السكرتاريا“ في الوقت الذي أوكلنا فيه الأدوار ”الأكثر أهمية“ إلى الرجل.

خذ أيضًا كمثال على ذلك التحيز ما حدث في «أمازون» قبل وقت ليس بالبعيد، فقد طورت الشركة نظام ذكاء اصطناعي لاختيار الموظفين في محاولة منها للاعتماد على الذكاء الاصطناعي في التوظيف، حيث زوّد مبرمجو أمازون هذا النظام بعشرات الآلاف من الكلمات المفتاحية وما يربو على خمسمائة نموذج لدراسة مؤهلات المتقدمين السابقين وسيرهم الذاتية على امتداد عشرة أعوام سبقت البرمجة. لكن وبعد مرور مدة من الزمن لوحظ بأن نظام أمازون كان يستثني النساء من اختياراته بسبب البيانات ”الذكورية“ التي زُوِّد بها، الأمر الذي اضطر أمازون إلى الإعلان عن إيقاف أداة الذكاء الاصطناعي التي ابتكرتها⁽⁵⁾.

هذا التحيز ليس بغريب إذا ما علم المرء بأن نسب النساء المنخرطات في قطاع تكنولوجيا المعلومات إنما هي نسب خجولة جدًا؛ نسبة حفيدات آدا لوفلايس في ميادين التكنولوجيا لا تتجاوز الـ٢٠ إلى ٢٢ بالمئة وفقًا لأرقام المنتدى الاقتصادي العالمي، بل إن هذه النسب آخذة في التراجع في بعض الحقول حسبما تشير إليه الأرقام في الأعوام الماضية. ويبدو أن نساء العالم اليوم لم يدركن بعد أن عدم مساهمتهن بإنتاج وصناعة ”خطاب“ الذكاء الاصطناعي يعني بالضرورة أنهن سيبقين ”مفعولًا به“ وأدوات في يد الذكاء الاصطناعي على اعتباره ”السلطة الجديدة“ إذا ما أردنا تطبيق رأي الفيلسوف الفرنسي بول ميشيل فوكو القائل بأن ثمة علاقة ترابطية وطيدة بين السلطة والمعرفة حيث تنتج المعرفة السلطة تمامًا كما تنتج السلطة المعرفة⁽⁶⁾.

في نقاش قبل عدة أيام مع الدكتورة ميسون العتوم، أستاذة سوسيولوجيا الجندر ومديرة مركز دراسات المرأة في الجامعة الأردنية، قالت الدكتورة العتوم أننا بحاجة ماسة إلى أبحاث تطرق باب الموضوع بالدراسة العلمية، وأن انخراط المرأة في مجالات تكنولوجيا المعلومات إنما هو سبيلها الوحيد إلى تكنولوجيا خالية من التمييز ضدها، إذ إننا نقف اليوم أمام مفترق طرق، وإذا لم نبذل جهودًا أكبر لدمج النساء في مجال التكنولوجيا فإن المرأة لن تكون في المستقبل ذاتًا فاعلة تحكم نفسها بنفسها ولن تنتج الخطاب والمعرفة بل ستكون أداة في يد الهيمنة وموضوع تنتج حوله الخطابات والمعارف، حيث تعتقد الدكتورة العتوم أن السيناريو الحاصل حاليًا بالنسبة إلى وضع المرأة في التكنولوجيا وغيابها عن الساحة لا يختلف كثيرًا عن سيناريو المرأة والعلوم الطبيعية في القرن التاسع عشر والذي درسته الأنثروبولوجية الأمريكية إيميلي مارتن والتي بيّنت كيف أدت هيمنة الرجال وغياب النساء عن الساحة العلمية آنذاك إلى تصوير رأس المرأة بحجم صغير، على سبيل المثال، على النقيض من رأس الرجل الذي كان يظهر بحجم أكبر في الرسوم التوضيحية العلمية.

أما في وطننا العربي، فمن المؤسف حقًا أن تبوء محاولاتنا بالفشل في إيجاد أبحاث أكاديمية عربية أو حتى أي محتوى عربي على الإنترنت يسلط الضوء على قضية مثل هذه، وهي قضية شغلت دول العالم لعدة سنوات، ولا أعلم ما الذي ننتظره كي نبدأ بدراسة مثل هذه القضايا؟ هل ننتظر استيراد الذكاء الاصطناعي واستهلاكه لسنوات قبل أن نعي التحيّز الذي ينطوي عليه ثم ننتظر من جديد استيراد برمجيات جديدة؟ أم أننا سنأخذ زمام المبادرة لمشاركة العالم في صناعة مستقبل رقمي خالٍ من التحيّز؟

خلاصة القول أن الذكاء الاصطناعي في وطننا العربي كما في سائر دول العالم قد ينطوي في المستقبل القريب على تحيز خطير إذا لم يتم تدارك الأمر في بداياته. دعونا لا ننتظر الآخرين ليصدّروا لنا أدوات الذكاء الاصطناعي خاصتهم، ولنجتهد في بناء الذكاء الاصطناعي العربي النموذجي، لعلنا نكون شركاء فاعلين في المساعي العالمية نحو ردم الهوة بين الجنسين وازدهار حقوق الإنسان.

―

رسم المقالة من تصميم شذى صبري

 

---