تحيّزات ضدّ الشخصيّة العربيّة وصور نمطيّة | رغم الإنجازات الهائلة… جوانب مظلمة لا تعرفونها عن الذكاء الاصطناعي

لقد أصبح الذكاء الاصطناعي ركيزة أساسية في العديد من المجالات، إذ يقود ثورة تكنولوجية تمتد من التعليم والصحة إلى الاقتصاد والصناعة والأمن والرفاهية الاجتماعية، كما يسهم الذكاء الاصطناعي في تحسين قدرات الأفراد والمؤسسات بشكل غير مسبوق. لكن، خلف كلّ ذلك، يحوم شبحٌ يُعبّر عنه السؤال التالي: هل سيحلّ الذكاء الاصطناعي محل العقل البشري؟ وإلى أين سيأخذنا قطار الذكاء الاصطناعي المتسارع؟

كذلك، تثير العديد من التساؤلات الأخرى القلق حول الجوانب المظلمة من الذكاء الاصطناعي، من ضمنها: هل لدييه تحيّزات عنصريّة؟ وهل يُسهم في نشر معلومات مضللة؟

للإجابة عن هذه التساؤلات، التقينا في وصلة مع الدكتورة هامة أبو كشك، مستشارة رئيس الكلية الأكاديمية سابير لشؤون الشراكة والتنوع، ومحاضرة بارزة في قسم الإعلام لمرحلتي البكالوريوس والماجستير، وهي تدير كذلك مختبر الريادة والابتكار في الكلية. تتمحور أبحاثها حول مواضيع متعددة تشمل الفجوات الرقمية، الإعلام الجديد (New Media)، الذكاء الاصطناعي (AI)، الحراك الرقمي، الابتكار، والتعلم الرقمي. إلى جانب عملها الأكاديمي، تشغل الدكتورة هامة أبو كشك منصب عضوة إدارة في اتحاد الإنترنت الإسرائيلي.

مع التوسع الكبير في الاعتماد على الذكاء الاصطناعي، تثار تساؤلات حول إمكانية أن يحل محل العقل البشري أو يسلبه قدراته الإبداعية، خاصة في ظل اعتماد الكثيرين على قدرات الذكاء الاصطناعي بدلاً من قدراتهم الذهنية والإبداعية. فهل سيأخذ الذكاء الاصطناعي مكان العقل البشري؟

في عالمنا المتسارع، يبرز كل من الذكاء البشري (HI) والذكاء الاصطناعي (AI) كقوتين مؤثرتين في تشكيل المستقبل، ولكل منهما خصائصه الفريدة. يتميز الذكاء الاصطناعي بقدرته على تنفيذ المهام بسرعة ودقة متناهية، خاصة في تحليل البيانات الضخمة ومعالجة العمليات المتكررة، ما يجعله أداة فعّالة لتعزيز الكفاءة والإنتاجية. في المقابل، يتفوق الذكاء البشري بقدرته على التفكير النقدي، والإبداع، والابتكار. يستطيع البشر  التكيف مع المواقف غير المتوقعة وابتكار حلول جديدة تنبع من تجاربهم ورؤاهم الشخصية. في الحقيقة، الإبداع البشري هو المصدر الذي يستمد الذكاء الاصطناعي منه تطوره.

لذلك، ليس الذكاء الاصطناعي بديلاً عن العقل البشري، بل هو أداة مصممة لخدمة الإنسان وتمكينه من أداء المهام بكفاءة أعلى. يكمن التحدي الحقيقي في تحقيق توازن متناغم بين الاستفادة من إمكانيات الذكاء الاصطناعي وتطوير المهارات البشرية. إذا اعتمد الإنسان بشكل مفرط على الذكاء الاصطناعي وأهمل تنمية قدراته العقلية والإبداعية، فقد تتضاءل القيمة المضافة التي يقدمها العقل البشري. لذا، يجب أن يكون هدفنا الاستفادة دون أن نفقد البصمة الإنسانية الفريدة التي تجعلنا مبدعين وقادرين على تشكيل مستقبل أفضل.

مقارنة بين الذكاء الاصطناعي (AI) والذكاء البشري (HI)

إذن، ما هي إيجابيات وسلبيات الذكاء الاصطناعي؟

من بين أبرز إيجابيات الذكاء الاصطناعي، الكفاءة العالية في الإنجاز، حيث يتميز بقدرته على تنفيذ المهام المتكررة بسرعة فائقة، ما يتيح للبشر التفرغ للقيام بمهام أكثر إبداعاً واستراتيجية. كما يمتاز الذكاء الاصطناعي بقدرته  على معالجة كميات هائلة من البيانات بسرعة وفعالية، وهو ما يعجز عنه البشر بنفس الكفاءة، الأمر الذي يُسهِم في اتخاذ قرارات دقيقة وسريعة في مجالات متنوعة مثل الطب والاقتصاد والأبحاث العلمية.

بالإضافة إلى ذلك، يُظهر الذكاء الاصطناعي قدرة كبيرة على الإبداع من خلال إنتاج محتوى جديد ومبتكر في مجالات متعددة، مثل إنشاء لوحات فنية أو كتابة نصوص في دقائق معدودة، ما يوفر أفكاراً جديدة للإنسان. علاوة على ذلك، يُعد خفض التكاليف من بين أهم مزايا الذكاء الاصطناعي، كما في مجالات مثل التسويق والإنتاج الإعلامي، حيث يمكن الاعتماد عليه لإنشاء نصوص أو تصاميم بسرعة وبتكلفة منخفضة.

ومع ذلك، لا تخلو هذه التقنية من السلبيات، حيث تتسم جودة نتائج الذكاء الاصطناعي بالتفاوت الكبير، إذ يعتمد أداؤه على جودة البيانات المستخدمة في تدريبه. إذا كانت هذه البيانات غير دقيقة أو متحيزة، فقد يؤدي ذلك إلى إنتاج محتوى غير ملائم أو منخفض الجودة. كما يعاني الذكاء الاصطناعي من مشكلة التحيزات، حيث إن النماذج القائمة عليه قد تعتمد على مجموعات بيانات لا تمثل جميع الفئات بشكل عادل، وقد تكون نتائجها منحازة. فالعديد من الأنظمة القائمة على الذكاء الاصطناعي وتعلم الآلة تحتوي على تحيزات، سواء في أنظمة التعرف على الوجه، أو أنظمة الرعاية الاجتماعية، أو أنظمة التنبؤ بالجريمة.

بالإضافة إلى ذلك، تثير استخدامات الذكاء الاصطناعي مخاوف أخلاقية، خصوصًا في إنشاء المحتوى الذي قد يتضمن نشر معلومات مضللة. من أبرز الأمثلة على ذلك، تقنية التزييف العميق (Deepfake)، التي تُستخدم لتوليد فيديوهات أو أصوات مزيفة تبدو واقعية للغاية. ورغم إمكانية استخدامها لأغراض إبداعية أو تعليمية، فإنها تُثير العديد من المخاوف، مثل نشر الأخبار الكاذبة أو تشويه سمعة شخصيات عامة، إلى جانب انتهاك الخصوصية من خلال استخدام صور أو أصوات دون إذن أصحابها، ما قد يُستخدم لخداع الأنظمة الأمنية أو تزوير الهوية، الأمر الذي يشكل تحدياً أخلاقياً يهدد استقرار المجتمعات وثقة الجمهور في المعلومات.

إضافة إلى ذلك، يواجه الذكاء الاصطناعي تحديات قانونية معقدة، إذ إنّ تحيد حقوق الملكية الفكرية للمحتوى الناتج عن الذكاء الاصطناعي يثير تساؤلات عديدة حول من يمتلك هذا المحتوى: هل هو الذكاء الاصطناعي نفسه، أم المستخدم الذي طلب إنتاج المحتوى؟

هل يجب أن يُصبِحَ الذكاء الاصطناعي جزءًا من التعليم المدرسي والجامعي؟

أصبح الإلمام بالذكاء الاصطناعي (AI Literacy) ضرورة ملحة في جميع مراحل التعليم، حيث يتطلب العصر الرقمي فهمًا عميقًا لتقنيات الذكاء الاصطناعي واستخداماتها بشكل فعال ونقدي. يشمل هذا الإلمام القدرة على تقييم مخرجات الذكاء الاصطناعي بوعي، ما يُمكّن الطلاب من الاندماج بنجاح في سوق العمل المستقبلي والاستفادة من مزايا هذه التكنولوجيا مع الإلمام بتحدياتها وحدودها.

لتبني الذكاء الاصطناعي في التعليم بشكل فعال، يجب اتباع خطوات أساسية تبدأ بتطوير خطة استراتيجية واضحة، تتضمن تحديد الأهداف المرجوة، الموارد اللازمة، وآليات التنفيذ المناسبة لضمان نجاح الدمج. كما ينبغي إعادة تعريف أدوار المعلمين والمحاضرين والطلاب في عصر الذكاء الاصطناعي، مع التركيز على تطوير مهارات متخصصة لكل فئة، تشمل استخدام الأدوات الرقمية بكفاءة لتعزيز العملية التعليمية. بالإضافة إلى ذلك، يُعد القياس والتقييم خطوة حاسمة لتحديد تأثير الذكاء الاصطناعي على الطلاب، من خلال قياس مدى تحسين مستوى التعلم وتحليل التغيرات في التصورات التعليمية الناتجة عن دمج هذه التقنية.

لا شك أن الذكاء الاصطناعي يوفر فرصًا غير مسبوقة للمجتمع، خاصة في نظام التعليم، حيث يحدث تغييرًا جذريًا في طرق التعلم والتفكير والعمل. يجب على أعضاء هيئة التدريس تبني سياسات وطرق تقييم جديدة تعكس التطورات التكنولوجية، إذ إنّ الذكاء الاصطناعي هو أداة تُعزِّز الإنتاجية لكل الأفراد، لذا يتعين على الطلاب تعلم كيفية استخدامه كوسيلة مساعدة.

ومن خلال التخطيط والتنظيم المسؤول، مع الالتزام بالمبادئ الأخلاقية، وتدريب الطلاب والمعلمين على مهارات الذكاء الاصطناعي، يمكن تعظيم فوائد هذه التكنولوجيا وتهيئة الأجيال القادمة لعالم متغير وسريع التقدم .

مؤخرًا عملتِ على أبحاث متعلقة استخدام الذكاء الاصطناعي وما يحتويه من تحيزات استشراقية، حدّثينا بشكل مختصر عن كل بحث…

هذا صحيح، بعض هذه الأبحاث تناول استخدام الذكاء الاصطناعي وتأثيراته الثقافية والاجتماعية، إذ قمتُ بالشراكة مع د. مايك دهان والمهندس عبد الله غرة بإجراء دراستين رئيسيتين كشفنا من خلالهما التحيزات الكامنة في أنظمة الذكاء الاصطناعي، الأولى تحت عنوان “الذكاء الاصطناعي: أاستشراق جديد؟” والثانية دراسة تقارن بين مولدات الذكاء الاصطناعي الغربية ونظيراتها الصينية.

في البحث الأول، تساءلنا عما إذا كانت مولدات الذكاء الاصطناعي، مثل ChatGPT ومولدات الصور بالذكاء الاصطناعي، تعكس قوالب نمطية أو تمثل استشراقًا جديدًا في العالم الرقمي. صمّمنا تجربة شملت إنشاء عشر شخصيات متنوعة من الشرق والغرب، مع اختلافات في النوع الاجتماعي والمجال المهني. زوّدنا هذه الشخصيات بمجموعة من الأسئلة المنظمة التي تغطي مواضيع مثل العرق، والدين، والثقافة، وقضايا اجتماعية أخرى. جمعنا ما يقارب 5000 سؤال وإجابة، ثم قمنا بتحليلها باستخدام نموذج Perspective لقياس مستوى السُمّية (Toxicity) في التفاعلات. لاحظنا تباينًا كبيرًا في مستوى السُمّية، حيث كانت الإجابات التي تتعلق بالشخصيات العربية أكثر سُمّية مقارنة بتلك التي تتعلق بالشخصيات الغربية.

كما أجرينا تحليلًا بصريًا على 100 صورة تم إنشاؤها بواسطة مولدات الصور بالذكاء الاصطناعي بناءً على مطالبات تتعلق بمواضيع غربية وشرقية. أظهرت النتائج وجود عناصر استشراقية واضحة وتحيزات ثقافية في الصور المرتبطة بالثقافة الشرقية، ما يعكس التحيز المضمر في النماذج.

في البحث الثاني، أجرينا مقارنة بين مولدات الذكاء الاصطناعي الغربية والصينية. وجدنا أن النماذج اللغوية الكبيرة (LLMs) تعكس القيم والمفاهيم السائدة في المجتمعات التي طورتها. بينما أظهرت مولدات الصور الصينية تحيزًا أقل في بعض الجوانب مقارنة بنظيراتها الغربية، إلا أنها لم تكن خالية تمامًا من التحيزات الثقافية.

تظهر هذه الأبحاث أن التكنولوجيا ليست محايدة، بل تعكس السياقات الثقافية والاجتماعية التي تُطوَّر فيها. من هنا، تتجلى أهمية إجراء أبحاث نقدية لفهم هذه التحيزات والعمل على تطوير نماذج أكثر شمولًا وإنصافًا تعكس تنوع البشرية والمجتمعات الانسانية بدقة وعدالة.

كيف يمكن أن نصنع تكنولوجيا بدون أي تحيّز عرقي، وديني؟ وما الدول الذي يلعبه التدخل البشري في تشكيل الخوارزميات؟

لصناعة تكنولوجيا خالية من التحيز العرقي أو الديني أو الجندري، يجب اتباع خطوات أساسية تركز على تنويع بيانات التدريب واستخدام بيانات تمثل جميع الفئات الثقافية والاجتماعية بشكل عادل وشامل، ما يضمن أن تكون الخوارزميات قادرة على التعرف على التنوع البشري بدقة. بالإضافة إلى ذلك، يمكن التعاون مع خبراء الثقافة، مثل علماء الأنثروبولوجيا وعلماء الاجتماع، لمراجعة وتوجيه مخرجات الذكاء الاصطناعي لضمان أن تتّسم النتائج بالمراعاة الثقافية وعدم التحيّز. ويجب أيضًا تنظيم المنصات التقنية من خلال وضع قوانين وتشريعات تضمن الشفافية والمساءلة في طريقة عمل الخوارزميات. وأخيرًا، يُعد تطوير خوارزميات متخصصة للكشف عن التحيزات وتصحيحها خطوة حاسمة لتحقيق مزيد من العدالة في الأداء.

في نهاية هذا اللقاء، هل هناك ما ترغبين إلى لفت الانتباه إليه بشكل خاص؟

مع تطور التكنولوجيا وتأثيرها المتزايد في حياتنا اليومية، يتعين علينا أن ننظر إليها من منظور نقدي. فالذكاء الاصطناعي ليس محايدًا بطبيعته، بل يمكن أن يحمل معه تحيزات مجتمعية وثقافية وجندرية، ما يؤدي إلى خلق فجوات اجتماعية أو اقتصادية جديدة أو حتى تعميق الفجوات القائمة التي تعاني منها المجتمعات الانسانية.

أصبح من الواجب أن نبحث بعمق في التداعيات الاجتماعية والأخلاقية والتكنولوجية التي قد تنجم عن استخدام الذكاء الاصطناعي على نطاق واسع. إضافة إلى ذلك، يجب أن نعمل على زيادة الوعي العام حول هذه القضايا وتشجيع النقاش المجتمعي وعقد المؤتمرات الدولية بشأنها. لا يمكن أن يكون تطوير الذكاء الاصطناعي مجرد عملية تقنية تُترك للمهندسين والخبراء التكنولوجيا، بل يجب أن تكون مسألة مجتمعية تشارك فيها جميع الفئات لضمان تطوره بما يخدم المصلحة العامة.

علينا ألا نتردد في أخذ زمام المبادرة وتوجيه تطور الذكاء الاصطناعي نحو مستقبل أكثر عدلاً، حيث يتم تحقيق المساواة وتكافؤ الفرص. إن دورنا كمجتمعات ليس فقط الاستفادة من هذه التكنولوجيا، بل أيضًا التأكد من أنها تعمل لصالح الجميع، دون تحيزات أو تمييز.

مقالات ذات صلة: هل نبالغ في توقعاتنا حول التكنولوجيا؟