الذكاء الاصطناعي في خدمة الخداع: أثر التزييف العميق على النساء في الفضاء الرقمي
الذكاء الاصطناعي في خدمة الخداع: أثر التزييف العميق على النساء في الفضاء الرقمي
21/1/2025
في يناير كانون الثاني 2024 اندلعت موجة من الجدل العالمي بعد انتشار صور إباحية مفبركة باستخدام الذكاء الاصطناعي للنجمة الأمريكية الشهيرة "تايلور سويفت". تلك المقاطع، التي تم تأكيد زيفها لاحقًا اجتاحت وسائل التواصل الاجتماعي وأثارت ردود فعل غاضبة وانتقادات واسعة.
لكن هذه ليست مجرد حالات فردية، بل تعكس أزمة متفاقمة تتعلق بالتمييز الجندري في استهداف النساء بشكل خاص عبر تقنيات الذكاء الاصطناعي، حيث تُستخدم هذه الأدوات الحديثة لتشويه سمعة النساء، لا سيما الشخصيات العامة منهن في العالم العربي في محاولة لإسكاتهن وإضعاف حضورهن في المجالين العام والمهني.
ففي يونيو من عام 2024 شهدنا واقعة مشابهة ولكن هذه المرة في ليبيا حيث أعلنت عائشة القذافي ابنة العقيد الليبي الراحل معمر القذافي، أنها تعرضت لمحاولة ابتزاز بمقاطع فيديو تم التلاعب بها باستخدام تقنيات الذكاء الاصطناعي. تلك المقاطع، التي استخدمت صوراً حديثة لها من حساباتها على وسائل التواصل، تم إنتاجها بغرض ابتزازها بها.
عائشة كشفت في منشور جريء عبر حسابها في إنستغرام أن المبتزين طالبوها بمبلغ 3 ملايين دولار مقابل عدم نشر المقاطع. وفي تحدٍ مباشر لهم، قامت بنشر صور من المقاطع المفبركة، مخاطبة جمهورها ومبتزيها بشكل علني، ما أثار موجة من التعاطف والاهتمام.
مثل هذه الحوادث،، تفتح نقاشًا أعمق حول استخدام التكنولوجيا الحديثة للإساءة إلى سمعة النساء بتنوعاتهن وتنوع سياقاتهن. فمن خلال أدوات متاحة بسهولة مثل تطبيقات الذكاء الاصطناعي و تقنيات التزييف العميق، أصبحت القدرة على التلاعب بالصور والفيديوهات أسهل من أي وقت مضى، ما يثير القلق حول الآثار السلبية لهذه التطورات.
ولكن ما الذي نعنيه بالذكاء الاصطناعي وتحديدا التزييف العميق وكيف يعمل ؟
تقنية التزييف العميق (Deepfake) تعتمد على استخدام الذكاء الاصطناعي لإنشاء صور أو مقاطع فيديو تبدو حقيقية تمامًا في بعض الأحيان ولكنها في الواقع مزيفة.
يتم ذلك من خلال الشبكات العصبية الاصطناعية Artificial Neural Networks - ANNs، التي تقوم بتعلم الأنماط من كميات كبيرة من البيانات المرئية، ثم تُعيد إنتاج هذه الأنماط بطريقة تجعلها تحاكي الواقع بدقة متناهية. على سبيل المثال، يمكن لهذه التقنية أن تجعل شخصًا يظهر وكأنه يتحدث أو يقوم بأفعال لم تحدث في الحقيقة.
تَطورت تقنية التزييف العميق في السنوات الأخيرة لتصبح أكثر دقة وواقعية، ما يجعل من الصعب جدًا اكتشاف ما إذا كان المحتوى قد تم التلاعب به أم لا إلا بواسطة شخص خبير في اكتشاف هذه التقنيات.
وقد استخدمت هذه التقنية في العديد من المجالات، من الأفلام والترفيه إلى الهجمات الرقمية الشخصية ، وهو ما يبرز الحاجة الملحة لرفع الوعي بخطورة استخدام هذه التقنيات ضد النساء.
وعلى الرغم من أن شركات التكنولوجيا الكبرى التي تعمل على تطوير التقنيات والتطبيقات المرتبطة بالتزييف العميق عبرت عن التزامها بمبادئ السلامة من خلال التصميم في يوليو من عام 2024 مؤكدة أنها ستمنع استخدام تقنياتها في إنشاء ونشر مواد الاعتداء الجنسي على الأطفال التي تم إنشاؤها بواسطة الذكاء الاصطناعي (AIG-CSAM) إلا أنها لم تذكر النساء في هذا الالتزام الأخير.
نساء يشاركن تجاربهن مع فبركة صورهن
في مجتمعات محافظة مثل ليبيا والسعودية واليمن والعراق وغيرها من المجتمعات التي تتسم فيها المعايير الاجتماعية المتعلقة بلباس المرأة بالصرامة الحادة، وتعادل بين لباسها المحافظ وبين العفة وشرف وتدين العائلة أو القبيلة أو المجتمع، تجدُ أطيافٌ عديدة من هذه المجتمعات أن أي انحراف عن هذه المعايير، حتى لو كان بسيطاً مثل مشاركة صورة لإمرأة محجبة دون حجاب أو وهي ترتدي فستان مكشوف ضمن دوائر خاصة قد تؤدي لرؤية ذكرٍ ما خارج الأسرة لصورتها، انتهاكاً خطيراً لحُرمات هذه المجتمعات.
إن من يفبركون صور النساء مستخدمين أدوات الذكاء الاصطناعي وغيرها ويهددون بنشرها أو ينشرونها على العلن، يعلمون خطورة الأمر في الثقافات المحلية في المنطقة، ويستغلون هذه الحساسيات الاجتماعية وهيكلة مظالم النساء، مما يُعرض الضحايا من النساء للابتزاز والعنف الأسري والإقصاء الاجتماعي. إن هذه الظاهرة الخطيرة تكشف عن الوجه آخر للتكنولوجيا، وكيف يمكن استغلالها لتعميق التحديات التي تواجه النساء في مجتمعات تضع الأعراف فوق الحقوق والحريات.
في هذا السياق استمع فريق هي تتحقق لشهادات مؤلمة لنساء عانين نتيجة لاستهادفهن بواسطة الصور المعدلة.
شهادة علياء "اسم مستعار" من موريتانيا :
تروي ع.ف تجربتها مع الابتزاز عبر الإنترنت قائلة: "تلقى حسابي على فيسبوك رسالة من شخص مجهول، مرفقة بصورة لي مرتدية البيكيني في وضع غير لائق. كانت الصورة مفاجئة وصادمة، ولم أستطع فهم من هو مرسلها أو كيفية الرد عليها، خاصة أنها أُرسلت دون أي تعليق. قررت تجاهل الرسالة، لكن الأمر تصاعد عندما هددني المرسل بأنه سيرسل الصورة إلى شقيقي، الذي كنت قد أشرت إلى حسابه في منشور عام سابق على حسابي في فيسبوك .
شاركت مع أخي الصورة. كان داعمًا لي وواجه الشخص المبتز برسالة حازمة، أخبره فيها أن تهديداته لن تنجح."
على الرغم من دعم عائلتها، لا تزال ع.ف تشعر بالقلق من احتمال أن يكون المبتز قد أرسل الصورة لأشخاص آخرين أو نشرها عبر مجموعات عامة. الأمر الذي دفعها لاتخاذ قرار استخدام خيار "إغلاق الحساب" على فيسبوك، بعد نصيحة والدتها في الحد من ظهور صورها في المستقبل. تقول ع.ف: "أصبحت أكثر حرصًا في ما أنشره على الإنترنت، وأتجنب التقاط أو نشر صور لي بشكل واضح."
شهادة لمياء "اسم مستعار" من ليبيا :
أما ل.د، فتصف تجربتها بأنها أكثر تعقيدًا وتأثيرًا على حياتها النفسية، إذ تعرضت لمحاولة ابتزاز على منصات التواصل الاجتماعي هي الأخرى من شخص مجهول.
تقول ل.د: "لا أشارك صوري عادةً بسبب القيود التي تفرضها عائلتي. لكن إحدى صديقاتي كانت قد نشرت صورًا تجمعني بها على حسابها في إنستغرام وهو أمر اعتبرته عاديا ولم أمنعها من ذلك وسمحت به. تفاجأت بعد مدة برسالة تهديد من شخص مجهول قام بتعديل هذه الصور وهدد بنشرها في مجموعة طلابية خاصة بالجامعة التي أدرس فيها"
بدأت ل.د بمحاولة الاستجابة للابتزاز قائلة: "توسلت للمبتز حتى لا ينشر الصور، خاصة أن شقيقي لا يعلم بأن لي صورة منشورة على منصات التواصل الاجتماعي من الأساس لكن تهديداته استمرت، وطلب مني المال مقابل عدم نشر الصور وبالفعل بدأت أرسل له رصيدًا هاتفيًا مرارًا وتكرارًا، حتى لم أعد قادرة على الدفع. في النهاية، قررت إغلاق حساباتي وهاتفي تمامًا."
تعبر ل.د عن أثر هذه التجربة عليها: "شعرت بالضعف والانعزال، ولم أستطع البوح لعائلتي بما حدث خوفًا من ردة فعل شقيقي الذي يمنعني من نشر أي صور على وسائل التواصل. رغم أنني كنت أتمنى أن أخبرهم، إلا أنني خشيت أن يتم إلقاء اللوم عليّ"
تختتم ل.د حديثها بتفصيل قرارها بالانسحاب من الجامعة لمدة فصل دراسي كامل، قائلة: "ظننت أن اختفائي سيوقف المبتز عن ملاحقتي. وبعد إغلاق حساباتي، اكتشفت أنه استمر في إرسال الرسائل لبعض الوقت، ثم توقف."
ورغم مرور عام كامل ، لا تزال ل.د تشعر بالخوف من تكرار تجربة الابتزاز، وتقول: "لا أدري إن كنت سأستطيع الصمود إذا تكرر هذا الأمر."
شهادة فائزة "اسم مستعار" الأردن :
تروي ف.غ تجربتها المؤلمة مع التلاعب بصورها، مشيرة إلى أن طليقها استغل الصور السابقة التي كان يحتفظ بها خلال فترة زواجهما وقام بتعديلها.
تقول ف.غ: "قام طليقي بتعديل صور لي دون حجابي وجعلني أبدو أرتدي ملابس خليعة وأرسلها إلى خطيبي، مما تسبب في فسخ خطوبتنا."
توضح ف.غ أن خطيبها السابق أخبرها بتلقي مجموعة من الصور التي تظهرها في أوضاع غير لائقة ودون حجاب من زوجها السابق مما دفعه إلى إنهاء علاقتهما.
تستكمل ف.غ شهادتها عن حجم الأذى الذي تعرضت له، موضحة أن طليقها لم يكتفِ بتعديل صورها، بل قام بتلفيق محادثة وهمية عبر تطبيق واتساب وتوضح: "أنشأ طليقي محادثة وهمية على واتساب، جعلتني أبدو وكأنني أتوسل إليه للعودة لي. ثم أرسل صورا لهذه المحادثة إلى خطيبي السابق مرفقة بنص رسالة تقول: "هي خطيبتك لساتها بتجري وراي "
تضيف ف.غ أن هذه الرسالة كانت السبب الرئيسي وراء غضب خطيبها السابق، الذي اعتبرها خائنة وأنها ما زالت على تواصل مع طليقها.
وتشرح : "فور تلقيه الرسالة، اتصل بي غاضبًا واتهمني بالخيانة، ثم أنهى خطوبتنا بعد عدة أيام."
تقول ف.غ: "كان ذلك بمثابة ضربة قاسية لي، ليس فقط لأنها أضرت بسمعتي، بل لأنها أيضا تسببت في حصول زوجي السابق على مبتغاه وبكل سهولة وهو أن يجعلني وحيدة"
اطلع فريق هي تتحقق الذي عمل على إنتاج هذا التقرير بالشراكة مع وحدة رصد قضايا المرأة في المنطقة العربية على الصور المعدلة التي شاركتها معنا صاحبات الشهادات وكان "من الواضح بالنسبة لنا استخدام تقنية الذكاء الاصطناعي في تعديلها".
لم يتمكن الفريق من تحديد الأداة المستخدمة في تعديل الصور الخاصة بصاحبات الشهادات إلا في صورة واحدة ظهرت في أحدها علامة مائية لأداة ذكاء اصطناعي اسمها Remaker AI أما باقي الصور فبعد فحصها عبر أدوات تعمل على كشف المحتوى المعدل كأداة fotoforensics كان هناك احتمالية كبيرة لخضوع الصور لعمليات تعديل.
إلى جانب ذلك قام فريق هي تتحقق بإجراء تحليل بصري للصور واعتمدنا في التحليل على التدقيق في التفاصيل الدقيقة للكشف عن التعديلات والتشوهات التي تؤكد التلاعب. وخلصنا إلى الملاحظات التالية:
- في البداية تم ملاحظة أن ملامح الوجه والجسم غير متناسقة حيث كانت هناك اختلافات غير طبيعية في ملامح الوجه والجسم.
- من الملاحظ أيضا أن نسيج البشرة غير طبيعي، حيث ظهرت البشرة ملساء بشكل مبالغ فيه مع غياب تفاصيل المسام أو التجاعيد، وهو نمط شائع في الصور المعدلة بالذكاء الاصطناعي.
النساء اللواتي يتعرضن للابتزاز بصور مفبركة عرضة لآثار ما بعد الصدمة
مريم البدري "اخصائية نفسية" - ليبيا
في نفس السياق وتعليقا على الشهادات السابقة توضح الأخصائية النفسية مريم البدري أن استخدام الصور المفبركة في محاولات الابتزاز، التي تستهدف تشويه سمعة النساء وإظهارهن بصورة إباحية ، قسرية يترك آثاراً نفسية عميقة على الضحايا، حيث قد يؤدي إلى إصابتهن باضطراب ما بعد الصدمة.
وتشير البدري إلى أن العديد من النساء اللاتي تواصلت معهن بعد تعرضهن لمثل هذا النوع من الابتزاز عانين من تدهور ملحوظ في قدرتهن على أداء مهامهن اليومية.
وتؤكد البدري أن البنية المجتمعية والثقافية المحافظة في العالم العربي تزيد من حدة هذه المعاناة، حيث تشعر النساء بخوف دائم من العواقب الاجتماعية التي قد تترتب عن هذه الاستهدافات، إذ قد يُنظر إليهن كمذنبات وهن في الحقيقة (ضحايا)، ويتعرضن للوم أو حتى للعنف من محيطهن بسبب هذه التصرفات التي تستهدفهن.
وتضيف البدري أن هذا النوع من الفبركة كان عاملاً مشتركاً في العديد من الحالات التي تعاملت معها في برامج الدعم النفسي، لا سيما بين الناجيات من محاولات الانتحار، حيث كان تأثير الصدمة النفسية حاضراً بقوة في تجاربهن.
توضح البدري أن العديد من النساء لجأن إلى طلب الدعم النفسي بسبب هذه الانتهاكات القاسية، حيث تحدثن عن أعراض مؤلمة من القلق والاكتئاب ومشاعر العجز والألم النفسي
وتؤكد البدري أن هذه المعاناة تسببت في تأثيرات طويلة الأمد على حياتهن الاجتماعية والعملية، مما دفع العديد منهن إلى الانسحاب من محيطهن الاجتماعي والانغماس في العزلة والوحدة.
وتشير البدري أيضا إلى أن هذه المشاعر ليست مؤقتة، بل قد تدفع النساء إلى الدخول في مراحل متعددة من الاضطرابات النفسية، و أن هذه الحوادث لا تؤثر فقط على حالتهن النفسية في الوقت الحاضر، بل تترك آثاراً طويلة المدى قد تعيق قدرتهن على استعادة حياتهن الطبيعية والانخراط في المجتمع بشكل كامل.
التبليغ عن المحتوى المسيء والمفبرك
محمد اليماني "مؤسس مبادرة قاوم" - مصر
إن الاستجابة للتبليغات حول المحتوى المسيء والمفبرك على منصات التواصل الاجتماعي بطيئة للغاية،وبحسب محمد اليماني، مؤسس مبادرة «قاوم» المصرية المناهضة للابتزاز الإلكتروني، تم توثيق آلاف الحالات التي ارتبطت بفبركة صور نساء واستخدامها في ابتزازهن. وأشار اليماني إلى أن معظم هذه الفبركات كانت تُجرى بوسائل تقليدية مثل برامج تحرير الصور كـ"فوتوشوب".
ومع ذلك، في الفترة الأخيرة، تلقت المبادرة بلاغات حول استخدام تقنيات الذكاء الاصطناعي لفبركة صور نساء وابتزازهن، مما يشير إلى "تطور أساليب الابتزاز" وفق اليماني.
وأوضح اليماني أن فريقه رصد بوتًا على تطبيق «تيليغرام» يقوم بتعديل الصور التي تُرسل إليه، حيث يجعل النساء في الصور عاريات بالكامل. هذا البوت يتم تداوله عبر مجموعات على تيليغرام تركز على المحتوى الإباحي لفبركة صور عدة نساء.
ويؤكد اليماني أن "الصور المفبركة تُحذف عادة عند التبليغ عنها على فيسبوك، لكن العملية قد تستغرق بعض الوقت. أما على منصة "تويتر"، فإن عملية التبليغ وحذف المحتوى المسيء تأخذ وقتًا أطول مقارنة بفيسبوك، في حين لم تتلق المبادرة أي استجابة من تيليغرام لأي بلاغ قدموه بخصوص المحتوى المفبرك و المسيء".
ويعتبر اليماني أن سياسات التبليغ والاستجابة على تيليغرام "تعتبر مزعجة" بالمقارنة مع المنصات الأخرى.
وقام فريق "هي تتحقق" بتجربة البوت المعروف باسم (ClothOff) والذي تحدث عنه اليماني لمعرفة قدرته الفعلية، حيث أرسل الفريق صورا تم توليدها باستخدام تقنيات الذكاء الاصطناعي لنساء غير حقيقيات في وضعيات مختلفة. وقد تمكن البوت من إزالة الملابس من الصور وأكد قدرته على توفير نسخة بجودة أعلى (HD) في حال الاشتراك بالخدمة المدفوعة.
في هذا السياق، قام فريقنا بالتواصل مع المكتب الإعلامي لشركة "تيليغرام" للحصول على تعليق رسمي بشأن وجود بوت على منصتهم يُستخدم في ابتزاز النساء. وحتى لحظة إعداد هذا التقرير، لم نتلقَ أي رد من الشركة.
إلا أنه وتحديدا بتاريخ 2 اكتوبر تشرين الأول 2024 عمل تطبيق المحادثة الشهير على حذف الحساب المرتبط بالبوت وبالتالي لم يعد من الممكن استخدام البوت عبر تيليغرام الآن.
الشركات الكبرى مسؤولة عما يحدث في المنصات التابعة لها
تسنيم منير- تقاطعات الجندر والتكنولوجيا- مصر
ترى الخبيرة في الأمن الرقمي والباحثة في الحقوق الرقمية وتقاطعاتها مع الجندر تسنيم منير، أن الشركات الكبرى تتحمل مسؤولية كبيرة في حماية مستخدميها، بما في ذلك النساء، من التهديدات الرقمية المتزايدة وعلى رأسها التزييف العميق.
وتشير منير إلى أن هذه الشركات "مسؤولة بشكل كامل عن تأمين البيانات من التسريبات، وتوفير أدوات حماية فعالة، بالإضافة إلى التدخل السريع في حالات اختراق الحسابات أو انتحال الشخصية، أو الابتزاز وهي مطالب ملحة من قبل الأغلبية."
وتؤكد منير أن على هذه الشركات تطوير إستراتيجيات لحماية النساء والفئات المهمشة التي تواجه أنواعًا مختلفة من العنف الرقمي، مع التشديد على أهمية تعيين موظفين من منطقة الشرق الأوسط وشمال أفريقيا ممن يفهمون السياقات المحلية مثل جرائم قتل النساء وتبعات التشهير، حيث لا تقتصر التهديدات فقط على تسريب مواد إباحية ، وهي عادة مواد لا تسمح سياسات المنصات الأكثر شعبية بتداولها.
منير توضح أيضا أهمية فهم السياق الثقافي والاجتماعي الذي تنتشر فيه الفبركات التي تستهدف النساء، حيث تقول: "في المجتمعات العربية، قد يشكل تسريب أو فبركة صور لنساء بدون حجاب، أو في ملابس كاشفة نسبيًا، أو في أماكن خاصة مع شركاء أو تتضمن مشروبات كحولية، تهديدًا كبيرًا لسلامتهن."
كما تدعو منير المنصات الكبرى مثل تيليغرام وتيك توك إلى تطوير خوارزمياتها لفهم السياق الحقيقي وراء المحتويات التحريضية ضد النساء، بدلاً من الاعتماد على حظر المنشورات أو الحسابات بناءً على كلمات معينة فقط، مع التأكيد على أن معالجة هذه البلاغات يجب أن تكون أولوية ويتم التعامل معها بسرعة من قبل فريق مختص.
وتتفق منير مع ما ذكره اليماني حول تطبيق تيليغرام، مؤكدة أنها شهدت حالات "كان تيليغرام يرفض فيها التعاون مع السلطات في حالة الإبلاغ عن جرائم". كما أشارت إلى أن المنصة تتيح مجموعات مغلقة بأعداد كبيرة من المستخدمين دون إشراف كافٍ، مما يسهل تداول الصور الحميمية للنساء بشكل غير قانوني بالإضافة إلى التحريض على العنف ضدهن.
وتؤكد منير أن هذه الشركات "ما زالت تواجه تحديات في حماية النساء من تهديدات مثل التزييف العميق. لذلك، فإن تطوير استراتيجيات لمكافحة هذه التحديات، والاستثمار في توظيف مختصين يفهمون السياقات المحلية، وتحسين تقنيات التحقق من الفيديوهات التي تُنتج باستخدام الذكاء الاصطناعي، هي خطوات ضرورية للتصدي لهذا الخطر المتزايد".
إشكالية الرقابة والحريات
رهام قنوت رفاعي - نسوية تقاطعية - سوريا
ترى النسوية التقاطعية رهام قنوت رفاعي والمتخصصة في الدراسات الاعلامية أن الرقابة الإعلامية على منصات التواصل الاجتماعي هي أمر إشكالي بالمبدأ، وأنه غالباً ما تتحول سياسات حماية مجتمع منصة ما إلى أدوات لقمع حرية التعبير ومعاقبة الأصوات والخطابات غير المرغوب بها، وتشرح: "نحن نرى اليوم حجم التضييق الإعلامي على المحتوى السياسي الداعم للقضية الفلسطينية على منصات شركة ميتا مثلاً تحت شعار محاربة خطاب الكراهية."
تصنف قنوت الحلول الرقابية كجزء من مقاربة النسوية العقابية التي تركز على النتائج والمحاسبة وآليات حماية جزئية مؤقتة بدل من السعي لحلول جذرية طويلة الأمد، وتشير هنا إلى مقاربة أخرى وهي النسوية الإلغائية وتشرح: "النسوية الإلغائية معنية بإلغاء المُسببات، فالابتزاز الإلكتروني ككافة أنواع العنف التي تتعرض لها النساء والفئات المهمشة، سببه بالدرجة الأولى هو النظام الأبوي وما ينتج عنه من ثقافتي الطُهرانية والاغتصاب، اللتان تُشرعنان استباحة النساء خصوصاً اللاتي لا يمتثلن للمعايير الاجتماعية الأبوية."
بالنسبة لقنوت، لا يكون الحل عن طريق تضييق الحريات الخاصة أو الاعلامية، إنما عن طريق التوعية وتفكيك مفاهيم وممارسات ثقافتي الطُهرانية والاغتصاب، بالإضافة إلى العمل النضالي الرديكالي لمواجهة كافة هياكل القمع.
وتضيف عن التزييف العميق وغيرها من التقنيات، أن أحد أهم وسائل رفع الوعي هي برامج محو الأمية الإعلامية التي أصبحت الآن جزء من المناهج التعليمية للأطفال والطفلات وبرامج تعليم الكبار في عدة دول، والتي تُمَكّن الأفراد من التفكير بشكل نقدي تجاه أي محتوى إعلامي أو إعلاني والسؤال عن المصدر والمصداقية قبل إصدار الأحكام والتقبل الأعمى.
التزييف العميق: سلاح لترهيب النساء وتقويض مشاركتهن العامة
تؤكد تسنيم منير أن تكنولوجيا التزييف العميق تُعد تهديدًا متزايدًا يؤثر بشكل كبير على حياة النساء. موضحة أن هذا النوع من التزييف، الذي يتميز بصعوبة كشفه وشبهه الكبير بالحقيقة، يعمق مشاعر الخوف والعزلة لدى النساء، ويشكل أداة ترهيب خطيرة، خاصة في المجتمعات المحافظة.
وتضرب منير مثالًا بتعرض سياسيات بريطانيات لما وصفته بمقاطع "البورن الانتقامي" المُفبركة بالتزييف العميق، والتي استُخدمت لتشويه سمعتهن وتقليص مشاركتهن السياسية. كما تشير إلى أن أدوات مثل "ClothOff" الذي كان متوفرا على منصة تيليغرام حتى تاريخ 2 أكتوبر2024 "يزيد من حجم التهديد الرقمي على النساء، لا سيما في المجتمعات التي تفرض قيودًا صارمة على سلوكهن ومظهرهن".
وتعتقد منير أن هذا التهديد الرقمي قد يؤدي إلى انسحاب النساء من الحياة العامة والسياسية "خوفًا من استهدافهن بهذه الأساليب العنيفة والمشينة، مما يعمق العنف المجتمعي والنبذ، ويؤثر بشكل مباشر على مشاركتهن ومستقبلهن".
فريق هي تتحقق يرصد استهدافا لمؤثرات بصور ومقاطع جنسية استُخدمت فيها تقنية التزييف العميق
سالمة الكوافي- مدققة معلومات - ليبيا
بحسب سالمة الكوافي، مدققة المعلومات وخبيرة الكشف عن الفبركات المولدة بالذكاء الاصطناعي في منصة "هي تتحقق"، رصدت المنصة زيادة ملحوظة في استخدام تقنيات التزييف العميق على منصات مثل X وTikTok. وأوضحت الكوافي أن جزءًا كبيرًا من المنشورات التي تم رصدها خلال الأشهر الماضية استهدفت مؤثرات محجبات من خلال التلاعب بصورهن، حيث أظهرت الصور المفبركة بعض المؤثرات العربيات المحجبات دون حجابهن. كما تمت إضافة صور لفنانات ومؤثرات على مقاطع فيديو تظهرهن بشكل غير لائق أو ساخر.
وأشارت الكوافي إلى أنه خلال شهر يونيو الماضي، تم تداول مقاطع وصور جنسية مفبركة استهدفت المؤثرة الليبية كريمة الترهوني. وأكدت الكوافي أن الفريق تمكن من التحقق من عدم صحة هذه الصور والمقاطع بعد إجراء بحث عكسي عبر محركات بحث الصور، حيث تم العثور على النسخ الأصلية التي نُشرت في مواقع إباحية، وكانت بوجه مختلف عن الترهوني.
وأوضحت الكوافي أن هذه الصور والمقاطع المفبركة تم الترويج لها علنًا في مجموعات عامة على منصات مثل x وتيليغرام، وأنه على الرغم من التبليغات المتعددة التي قدمها فريق "هي تتحقق"، إلا أن هذه المحتويات لا تزال متاحة عند البحث عنها على محرك جوجل باستخدام كلمات مفتاحية محددة.
وتشدد الكوافي على ضرورة إطلاق حملات توعوية لتعليم الناس كيفية اكتشاف هذه الفبركات، مشيرة إلى أن كشف فيديو أو صورة مفبركة باستخدام تقنيات التزييف العميق ليس صعبًا إذا ما تم التعامل مع المحتوى بشكل غير متحيز وبنظرة فاحصة.
وأضافت الكوافي أن المنصة رصدت أيضًا استخدامًا لأدوات تعتمد تقنية "Faceswap" لتلفيق صور للاعبة الجزائرية إيمان خليف خلال أولمبياد باريس 2024.
ورغم أن الفبركة تمت بدافع دعم خليف من قبل مؤيديها الذين حاولوا إبرازها بشكل أنثوي أكثر، إلا أن الكوافي تحذر من أن هذا النوع من الدعم باستخدام التلاعب الرقمي قد يتسبب في نتائج سلبية أكثر من الإيجابية.
خطوات أولية لضمان استخدام أخلاقي للذكاء الاصطناعي في المنطقة
وعلى صعيد التشريعات والقوانين الدولية المرتبطة بالذكاء الاصطناعي، تتزايد الجهود العالمية لتقييد إساءة استخدام تقنيات مثل التزييف العميق (Deepfake) التي تستغل أحيانًا في فبركة صور النساء بهدف التشهير بهن أو نشر معلومات مضللة.
الاتحاد الأوروبي كان سباقًا في هذا المجال عبر قانون "الذكاء الاصطناعي" الذي يفرض ضوابط صارمة على استخدام هذه التقنيات، مع التأكيد على الشفافية والمساءلة لحماية الخصوصية وحقوق الأفراد.
في الولايات المتحدة، جاءت "وثيقة حقوق الذكاء الاصطناعي" لتقديم إطار لحماية الخصوصية ومنع التمييز في استخدام أنظمة الذكاء الاصطناعي، وخاصة في مجالات مثل التلاعب بالصور والفيديوهات.
أما في العالم العربي، فقد بدأت دول مثل الإمارات ومصر في وضع أسس قانونية واضحة لمواجهة هذه التهديدات الرقمية.
الإمارات، على سبيل المثال، اعتمدت "ميثاق تطوير واستخدام الذكاء الاصطناعي" الذي تسعى من خلاله إلى دمج الذكاء الاصطناعي في مختلف القطاعات، مع ضمان تطوير لوائح تنظيمية لحماية الأفراد من إساءة استخدام هذه التقنيات، بما في ذلك حماية الخصوصية . بالإضافة إلى ذلك، أطلقت الإمارات شراكات دولية تهدف إلى تعزيز قدرات الحوكمة وتنظيم الذكاء الاصطناعي.
أما مصر، فقد تبنت "الميثاق الأخلاقي للذكاء الاصطناعي" الذي يشمل مبادئ الشفافية والمساءلة في استخدام التكنولوجيا، لكنه يواجه تحديات في التنفيذ الفعلي، ورغم وضع الأسس التنظيمية، لا تزال هناك فجوات تحتاج إلى معالجة سريعة لضمان حماية أكبر للنساء اللواتي قد يتعرضن للاعتداء الرقمي أو التشهير من خلال تقنيات مثل التزييف العميق.
وطبعا هذه المبادرات تعكس خطوات أولية لكنها تتطلب مزيدًا من التطوير لمواكبة التهديدات المتزايدة التي تستهدف النساء في العالم الرقمي خاصة تلك المرتبطة بالتزييف العميق.
كيف تحمي النساء أنفسهن من من فبركة الصور؟
يحيى الصبيح - خبير أمن رقمي- الأردن
لازال الطريق طويلاً ومليئاً بالتحديات في سياق البلدان العربية ومحو الأمية التكنولوجية للنساء والفتيات، ولكن هناك بعض الإجراءات التي يمكن اعتبارها بداية جيدة، يشير إليها يحيى الصبيح، الخبير بالأمن الرقمي، حيث أن حماية النساء من فبركة الصور تعد خطوة حيوية في مواجهة العنف الرقمي المتزايد.
ويوضح الصبيح أن النساء يمكنهن اتباع مجموعة من الإجراءات الوقائية لتقليل خطر التعرض للفبركات.
ومن بين الإجراءات التي طرحها الصبيح :
تحديد الخصوصية على وسائل التواصل الاجتماعي: ضرورة تقليل مشاركة الصور الشخصية وحصرها بالأشخاص الموثوق بهم.
استخدام العلامات المائية: حيث أن وضع علامات مائية على الصور الشخصية يجعل من الصعب استخدامها في الفبركات الرقمية.
التحقق من إعدادات الخصوصية: لابد من ضبط إعدادات الخصوصية على المنصات الرقمية لحماية الصور من التنزيل أو المشاركة.
التثقيف بشأن التهديدات الرقمية: وذلك من خلال التوعية بالمخاطر الرقمية وكيفية حماية الهوية الرقمية، مع تجنب إعطاء المعلومات الشخصية أو الصور لأي شخص غير موثوق.
ويضيف الصبيح تعقيبا على نقطة أهمية التوعية الرقمية في مكافحة فبركات الصور غير الأخلاقية قائلا إنه يمكن تحقيق ذلك من خلال: "تشجيع المجتمع على التحقق من صحة المحتوى وتجنب نشر الصور المفبركة".
ويرى الصبيح أن تعليم النساء كيفية استخدام الأدوات التقنية للكشف عن الفبركات والإبلاغ عن الصور المزيفة أصبح ضرورة لمواجهة المبتز، مشددا في الوقت نفسه على ضرورة توفير منصات للدعم النفسي والقانوني للنساء المتضررات من الفبركات.
-----------------------
تم العمل على هذا التقرير في من تاريخ 10 سبتمبر أيلول 2024 إلى 2 اكتوبر تشرين الأول 2024 وأجري آخر تعديل عليه بتاريخ 14 يناير كانون الثاني 2025
