تقرير دولي يحذر من تطبيقات «عري مزيف» داخل متاجر آبل وجوجل

الترند بالعربي – متابعات

حذّر تقرير دولي حديث من أن متاجر التطبيقات التابعة لشركتي آبل و**جوجل** لا تزال تستضيف عشرات التطبيقات المعتمدة على الذكاء الاصطناعي، القادرة على توليد صور عارية أو ذات طابع جنسي مزيف لأشخاص حقيقيين، انطلاقًا من صور عادية لهم، في تطور يثير مخاوف أخلاقية وقانونية متصاعدة حول سلامة الفضاء الرقمي، وحدود مسؤولية المنصات الكبرى عن المحتوى المتداول عبر متاجرها الرسمية.

تحذير صادر عن جهة رقابية تقنية مستقلة
التقرير صدر عن مشروع مشروع شفافية التكنولوجيا، وهو جهة بحثية مستقلة تُعنى بمراقبة تأثيرات التكنولوجيا الكبرى على الخصوصية والمجتمع، وأكد أن متجري «آب ستور» و«جوجل بلاي» يضمان عددًا ملحوظًا من التطبيقات التي تُصنَّف بأنها «غير لائقة»، رغم السياسات المعلنة للمنصتين التي تحظر المحتوى الإباحي أو المسيء.

ذكاء اصطناعي يحوّل الصور العادية إلى محتوى جنسي
بحسب التقرير، تعتمد هذه التطبيقات على تقنيات ذكاء اصطناعي متقدمة قادرة على تحليل الصور الشخصية العادية، ثم إعادة توليدها بصيغ عارية أو شبه عارية، مع محاكاة دقيقة للجسد والملامح، بما يجعل الصور المزيفة تبدو واقعية إلى حد يصعب تمييزه عن الصور الحقيقية.

انتهاك صريح للخصوصية دون موافقة الضحايا
أحد أخطر الجوانب التي أشار إليها التقرير يتمثل في إمكانية استخدام هذه التطبيقات لإنشاء صور دون علم أو موافقة أصحاب الصور الأصليين، وهو ما يفتح الباب أمام انتهاكات جسيمة للخصوصية، وجرائم تشهير وابتزاز رقمي، خاصة بحق النساء والفتيات.

قلق متزايد من سهولة الوصول إلى هذه الأدوات
التقرير أوضح أن استمرار إتاحة هذه التطبيقات عبر المتاجر الرسمية يمنحها غطاءً من «الشرعية التقنية»، ويجعل الوصول إليها سهلًا حتى للمستخدمين غير المتخصصين، ما يزيد من احتمالات إساءة الاستخدام وانتشار الصور المزيفة على نطاق واسع.

أرقام تكشف حجم الظاهرة داخل المتاجر
رصد مشروع شفافية التكنولوجيا وجود 55 تطبيقًا من هذا النوع على متجر «جوجل بلاي»، مقابل 47 تطبيقًا على متجر «آب ستور»، وهي أرقام اعتبرها التقرير صادمة، خاصة في ظل التعهدات المتكررة من الشركتين بتشديد الرقابة على المحتوى الضار.

التحايل على سياسات المتاجر الرقمية
وأشار التقرير إلى أن عددًا من هذه التطبيقات ينجح في التحايل على سياسات الاستخدام عبر تقديم نفسه كأدوات «تحرير صور» أو «تحسين ملامح»، قبل أن يفعّل خصائص توليد المحتوى الجنسي بعد التحميل أو من خلال اشتراكات مدفوعة، ما يصعّب اكتشافها في مراحل المراجعة الأولية.

دور الذكاء الاصطناعي في تضخيم الأزمة
التطور السريع في تقنيات الذكاء الاصطناعي التوليدي جعل إنتاج هذا النوع من الصور أكثر سهولة ودقة، مقارنة بالسنوات السابقة، وهو ما دفع التقرير إلى التحذير من أن المشكلة مرشحة للتفاقم ما لم تُتخذ إجراءات حازمة.

تطبيقات تفتح باب التشهير والابتزاز
الصور الناتجة عن هذه التطبيقات يمكن استخدامها لاحقًا في حملات تشهير، أو ابتزاز مالي، أو إساءة نفسية، خاصة مع سهولة نشرها على منصات التواصل الاجتماعي، وهو ما يضاعف الضرر الواقع على الضحايا.

الإطار القانوني يلاحق التكنولوجيا ببطء
التقرير أشار إلى فجوة واضحة بين سرعة تطور هذه الأدوات، وبطء تحديث القوانين والتشريعات المنظمة لاستخدام الذكاء الاصطناعي، ما يمنح مطوري التطبيقات مساحة واسعة للمناورة القانونية.

انتقادات مباشرة لآبل وجوجل
مشروع شفافية التكنولوجيا وجّه انتقادات مباشرة إلى آبل وجوجل، معتبرًا أن استمرار استضافة هذه التطبيقات يعكس ضعفًا في آليات المراجعة، أو تساهلًا في تطبيق السياسات المعلنة، خاصة عندما تكون التطبيقات مربحة من حيث الاشتراكات والإعلانات.

جروك في قلب الجدل التقني
التقرير لفت أيضًا إلى أن المنصتين لا تزالان تتيحان الوصول إلى أدوات مثل «Grok» التابع لشركة xAI المملوكة لرجل الأعمال إيلون ماسك، والذي يُنظر إليه على نطاق واسع كأحد الأدوات القادرة على توليد صور مزيفة دون موافقة أصحابها، رغم الجدل الأخلاقي المحيط باستخداماته.

المنصات بين حرية الابتكار والمسؤولية الأخلاقية
القضية تضع شركات التكنولوجيا العملاقة أمام معضلة معقدة، تتمثل في الموازنة بين دعم الابتكار التقني، وحماية المستخدمين من الانتهاكات الجسيمة، خاصة حين يتحول الذكاء الاصطناعي من أداة إبداع إلى وسيلة إساءة.

ضحايا بلا حماية رقمية كافية
خبراء حقوقيون حذروا من أن الضحايا غالبًا ما يجدون أنفسهم بلا حماية فعلية، إذ يصعب تتبع مصدر الصور المزيفة أو حذفها بالكامل بعد انتشارها، ما يترك آثارًا نفسية واجتماعية طويلة الأمد.

مقارنة مع قضايا «التزييف العميق»
التقرير قارن بين هذه التطبيقات وظاهرة «الديب فيك»، معتبرًا أن إنتاج الصور العارية المزيفة يمثل أحد أخطر فروع التزييف العميق، لما يحمله من أبعاد جنسية وانتهاك مباشر للكرامة الإنسانية.

دعوات لتشديد الرقابة التقنية
مشروع شفافية التكنولوجيا دعا إلى تشديد آليات الفحص داخل متاجر التطبيقات، واعتماد مراجعات أكثر تعمقًا، تشمل اختبار الوظائف الخفية للتطبيقات بعد التثبيت، وليس الاكتفاء بالوصف الظاهري.

مسؤولية الشركات المطوّرة
كما شدد التقرير على ضرورة محاسبة الشركات المطوّرة لهذه التطبيقات، وفرض عقوبات مالية وتقنية عليها، بما في ذلك الحظر الدائم من متاجر التطبيقات، في حال ثبوت تعمدها التحايل على السياسات.

الخصوصية في عصر الذكاء الاصطناعي
القضية أعادت إلى الواجهة سؤالًا جوهريًا حول مستقبل الخصوصية، في عالم بات فيه الوجه والجسد قابلين للاستنساخ الرقمي بضغطة زر، دون علم أو إذن أصحابها.

مواقف متباينة داخل المجتمع التقني
في حين يرى بعض المطورين أن هذه الأدوات لا تختلف تقنيًا عن برامج تحرير الصور، يؤكد خبراء أخلاقيون أن السياق والاستخدام هو ما يجعلها خطرة، خاصة عندما تُستخدم لإنتاج محتوى جنسي قسري.

ضغط متزايد من منظمات المجتمع المدني
منظمات حقوق رقمية بدأت بالفعل ممارسة ضغوط على آبل وجوجل، مطالبة بإزالة هذه التطبيقات فورًا، وتحديث السياسات بما يتلاءم مع المخاطر الجديدة التي يفرضها الذكاء الاصطناعي التوليدي.

هل تتدخل الجهات التنظيمية؟
التقرير تساءل عما إذا كانت الجهات التنظيمية في الولايات المتحدة وأوروبا ستتدخل لفرض قواعد أكثر صرامة على متاجر التطبيقات، خاصة مع تزايد الشكاوى والبلاغات المرتبطة بهذه الأدوات.

تداعيات محتملة على سمعة المنصات
استمرار الجدل قد ينعكس سلبًا على سمعة آبل وجوجل، اللتين تسوّقان متاجرهما باعتبارها بيئات آمنة نسبيًا للمستخدمين، مقارنة بمنصات تحميل غير رسمية.

المستخدم الحلقة الأضعف
في نهاية المطاف، يبقى المستخدم هو الحلقة الأضعف في هذه المعادلة، خاصة عندما لا يكون على دراية بإمكانات الذكاء الاصطناعي أو المخاطر الكامنة خلف بعض التطبيقات التي تبدو «عادية» في ظاهرها.

هل يكفي الحذف بعد الفضيحة؟
خبراء يرون أن إزالة التطبيقات بعد إثارة الجدل لا تكفي، بل يجب اعتماد نهج وقائي يمنع ظهورها من الأساس، مع تعزيز الشفافية حول كيفية مراجعة التطبيقات واعتمادها.

الذكاء الاصطناعي بين الإبداع والانتهاك
القضية تؤكد أن الذكاء الاصطناعي ليس شرًا في حد ذاته، لكنه يصبح أداة خطرة عندما يُستخدم دون ضوابط أخلاقية وقانونية واضحة، خاصة في ما يتعلق بالصور والهوية الشخصية.

رسالة التقرير إلى العالم الرقمي
تقرير مشروع شفافية التكنولوجيا حمل رسالة واضحة مفادها أن تجاهل هذه الظواهر في بدايتها قد يقود إلى أزمات أعمق، يصعب السيطرة عليها لاحقًا، سواء على المستوى القانوني أو المجتمعي.

خلاصة المشهد التقني
استضافة عشرات تطبيقات الصور غير اللائقة داخل متاجر آبل وجوجل تكشف عن ثغرة خطيرة في منظومة الرقابة الرقمية، وتؤكد أن معركة حماية الخصوصية في عصر الذكاء الاصطناعي لا تزال في بدايتها.

ما الذي حذر منه التقرير الدولي؟
حذّر من استضافة متاجر آبل وجوجل لتطبيقات ذكاء اصطناعي قادرة على توليد صور عارية مزيفة لأشخاص حقيقيين.

كم عدد هذه التطبيقات بحسب التقرير؟
رُصد 55 تطبيقًا على جوجل بلاي و47 تطبيقًا على آب ستور.

ما خطورة هذه التطبيقات؟
تنتهك الخصوصية، وقد تُستخدم في التشهير والابتزاز دون موافقة الضحايا.

هل التحايل على سياسات المتاجر ممكن؟
نعم، بعض التطبيقات تخفي وظائفها الحقيقية أو تفعلها بعد التثبيت.

ما المطلوب من آبل وجوجل؟
تشديد الرقابة، تحديث السياسات، وإزالة التطبيقات المخالفة بشكل فوري.

اقرأ أيضًا: «أوكي جوجل» تحت المساءلة.. 68 مليون دولار تسويةً لاتهامات التجسس الصوتي وانتهاك الخصوصية