ملخص
كشفت البحوث التي أجرتها منظمة العفو الدولية عن أن السلطات الإسرائيلية تستخدم تقنيات التعرف إلى الوجه للمراقبة الشرطية للفلسطينيين والسيطرة عليهم، مقيدة بذلك حريتهم في التنقل وقدرتهم على الحصول على الحقوق الأساسية.
في مطلع أغسطس (آب) الجاري احتفل الاتحاد الأوروبي بدخول أول قانون للذكاء الاصطناعي في العالم حيز التنفيذ رسمياً ليمثل إنجازاً تاريخياً ونقلة تكنولوجية هائلة بالنسبة إلى كثر، من شأنها أن تحمي حقوقهم وتشجعهم على الاستثمار والابتكار في الصناعة الواعدة للذكاء الاصطناعي في الاتحاد المكون من 27 دولة.
غير أن أوساطاً فلسطينية في عالم التكنولوجيا بدت أكثر حذراً وريبة من أولئك الأوروبيين المتحمسين للقانون الذي زعم مشرعوه أنه يحاول المساواة بين الطموح والابتكار من جهة، والأمن والحريات من جهة أخرى، خصوصاً أنه لا يوجد في القوانين والتشريعات الفلسطينية ما هو متخصص بتنظيم وتشريع العمل بالذكاء الاصطناعي، باستثناء بعض القوانين والقرارات والتشريعات التي تدور في فلك هذه التقنية كقانون الجرائم الإلكترونية وقوانين الاتصالات وقانون المعاملات الإلكترونية وأمن المعلومات وغيرها.
عام 2021 تنبهت دول الاتحاد الأوروبي إلى ضرورة اتخاذ خطوات جادة في تنظيم وتشريع تقنيات الذكاء الاصطناعي وتطبيقاته، وأطلقت استراتيجية الذكاء الاصطناعي الأوروبية التي تهدف إلى توجيه وتنظيم استخدام التكنولوجيا والذكاء الاصطناعي في دول الاتحاد، إذ تركزت هذه الاستراتيجية على الأمن والخصوصية والشفافية والمسؤولية، وتعد خطوة مهمة نحو ضمان أن يكون الذكاء الاصطناعي متوافقاً مع قيم دول الاتحاد ومعاييره.
وعملت هذه الاستراتيجية على تصنيف وتنظيم تقنيات الذكاء الاصطناعي وفقاً للأخطار التي قد تسببها للمجتمعات والأفراد، إذ ينقسم هذا التصنيف إلى ثلاثة أصناف هي الممارسات المحظورة والأنظمة العالية الخطورة، وأنظمة الذكاء الاصطناعي الأخرى.
وسبق أن بدأ الاتحاد الأوروبي في أغسطس عام 2023 بتطبيق قانون الخدمات الرقمية للاتحاد الأوروبي بهدف تغير الحياة الإلكترونية في أوروبا، والذي يجبر المنصات الرقمية والشركات التكنولوجية على مراقبة المحتوى الرقمي بصورة أكثر صرامة، وحماية مستخدمي الإنترنت من المعلومات الكاذبة وخطاب الكراهية، وذلك تحت طائلة غرامات باهظة.
موقف فلسطيني
المركز العربي لتطوير الإعلام الاجتماعي (حملة) أثار مخاوف جدية من أن قانون الاتحاد الأوروبي لتنظيم الذكاء الاصطناعي ستكون له آثار جسيمة على الحقوق الرقمية للفلسـطينيين، بدعوى أنه يحوي ثغرات كبيرة قد تزيد من انتهاكات حقوق الإنسان للفلسطينيين من قبل الحكومة الإسرائيلية، فالمركز يرى أن محدودية نطاق القانون وانحساره داخل دول الاتحاد لا يلزم الشركات الأوروبية بالامتثال له عند بيع أنظمة الذكاء الاصطناعي خارجه، بما في ذلك لإسرائيل التي تستخدمها، وفقاً لأبحاث قام بها المركز، "لتعزيز سيطرتها على الأراضي الفلسطينية وتقييد حركة الفلسطينيين ومراقبتهم بصورة عدائية".
كما أكد باحثون متخصصون في تكنولوجيا المعلومات أن قانون الخدمات الرقمية للاتحاد الأوروبي له تداعيات خطرة على الحقوق الرقمية الفلسطينية خارج الحدود الإقليمية للاتحاد، إذ يرى محللون أن التهديد الأكبر يتعلق بافتقار المنصات الاجتماعية إلى المساءلة والشفافية وهو ما يؤدي إلى الإفراط في الإزالة، لا سيما عند التعامل مع المحتوى الفلسطيني أو المحتوى الذي يدافع عن حقوق الفلسطينيين.
اقرأ المزيد
يحتوي هذا القسم على المقلات ذات صلة, الموضوعة في (Related Nodes field)
ووفقاً لدراسة أعدها مركز "حملة" فإن واحدة من أخطر عواقب القانون الأوروبي، في ما يتعلق بالحقوق الرقمية الفلسطينية، هي إمكانية انخفاض الدقة في تحديد المحتوى غير القانوني، إلى جانب زيادة عمليات إزالة المحتوى غير المبررة عبر إلزام المنصات إجراء مراقبة عينية للمحتوى الذي ثبت أنه غير قانوني أو أنه غير قانوني بصورة واضحة، خصوصاً عند اللجوء إلى التعريف العملي لمعاداة السامية وفقاً للتحالف الدولي لإحياء ذكرى الهولوكوست، والاعتماد على الأتمتة (مصطلح مستحدث يطلق على كل شيء يعمل ذاتياً من دون تدخل بشري) في عمليات الإزالة.
وفي حال خطاب الكراهية، ترى الدراسة أن الإفراط في الامتثال من دون أتمتة قد يدفع الشركات إلى الحذر وحذف جزء المحتوى في جميع أنحاء الاتحاد الأوروبي، وحتى على مستوى العالم، كما أن مشرفي المحتوى الموظفين للتعامل مع القانون داخل الاتحاد لا يملكون المعرفة الكافية بتفاصيل المحتوى أو اللغات في سياق ما يواجهه الفلسطينيون.
مكافحة الإرهاب
يتفاقم هذا الوضع سوءاً لدى الفلسطينيين، بسبب حقيقة أن المنصات الاجتماعية تنخرط باستمرار في الإفراط بالإنفاذ التعسفي والخاطئ لسياسات "مكافحة الإرهاب" التي يفرضها قانون الخدمات الرقمية للاتحاد الأوروبي. وأكد المفوض الأوروبي تييري بريتون التأثير العالمي لقانون الخدمات الرقمية، من دون إشارة صريحة إلى الفلسطينيين، في حين كشفت وثيقة سربتها منظمة "ستيتووتش" (Statewatc) في ديسمبر (كانون الأول) 2023، عن خطة صاغتها فرنسا وألمانيا وإيطاليا، تحدد استراتيجيات لمواجهة أنشطة حركة "حماس"، وتتضمن قسماً حول مراقبة وإنفاذ الالتزامات على المنصات الإلكترونية، وهو ما يثير مخاوف فلسطينية من أن الحكومات المختلفة قد تستغل الفضاء الإلكتروني لاتخاذ مزيد من الإجراءات ضد الحقوق الرقمية الفلسطينية.
ووفقاً لناشطين، فإن تنفيذ قانون الخدمات الرقمية الأوروبي بعد أحداث السابع من أكتوبر (تشرين الأول) 2023، يعكس إزالة غير عادلة وغير متناسبة للمحتوى القانوني الذي ينتجه المستخدمون من الاتحاد الأوروبي الذين يدافعون عن حقوق الإنسان للفلسطينيين.
وبين مرصد انتهاكات الحقوق الرقمية (حر) أنه بين السابع من أكتوبر 2023 وأواخر يناير (كانون الثاني) الماضي، تم التبليغ عن 127 حالة انتهاك تنوعت بين إزالة المحتوى القانوني المتعلق بالفلسطينيين، وتعليق الحسابات المتعلقة بالفلسطينيين داخل الاتحاد الأوروبي، فيما رصدت منظمة "هيومن رايتس ووتش" 68 حالة انتهاك على منصات "ميتا" في الاتحاد الأوروبي.
تقنيات خطرة
خطورة قانون الذكاء الاصطناعي للاتحاد الأوروبي على الفلسطينيين دفعت عديداً من المراكز والحملات لإرسال توصيات جدية تدعو الاتحاد الأوروبي إلى اتخاذ خطوات إضافية لتنظيم تصدير أنظمة الذكاء الاصطناعي خارج دول الاتحاد، بخاصة في مناطق النزاع، وتقييم تأثيرها في حقوق الإنسان، وعدم الاستسلام لضغوط القطاع الخاص حول المبادئ التوجيهية لأنظمة الذكاء الاصطناعي عالية الأخطار.
من جانبها قالت منظمة العفو الدولية إنه ينبغي على الاتحاد الأوروبي حظر التكنولوجيات الخطرة التي تعمل بالذكاء الاصطناعي في قانون الذكاء الاصطناعي، مؤكدة أن أنظمة الذكاء الاصطناعي ضخمت المشكلات الاجتماعية بصورة صارخة العنصرية أدامت الأذى الذي يلحق بحقوق الإنسان.
وقال المستشار في شأن لوائح الذكاء الاصطناعي بمنظمة العفو الدولية، مهير هاكوبيان، إن "هذه الأنظمة لا تستخدم لتحسين إمكانية حصول الناس على الرعاية الاجتماعية بل لخفض الكلف". وأضاف "عندما يكون لديكم أصلاً عنصرية وتمييز ممنهجان فإن هذه التكنولوجيات تضخم الأذى الذي يلحق بالمجتمعات المهمشة على نطاق أكبر بكثير وبصورة أسرع بكثير".
وقد دعت المنظمة، ضمن ائتلاف يضم ما يزيد على 155 منظمة، إلى ضمان الحظر التام لأنظمة الذكاء الاصطناعي للتعرف المباشر أو اللاحق إلى الوجه في الأماكن العامة المتاحة للجمهور، التي تتحول إلى أداة تلجأ إليها الحكومات التي تسعى إلى مراقبة الأشخاص على نحو مفرط في المجتمع.
وكشفت البحوث التي أجرتها منظمة العفو الدولية عن أن السلطات الإسرائيلية تستخدم تقنيات التعرف إلى الوجه للمراقبة الشرطية للفلسطينيين والسيطرة عليهم، مقيدة بذلك حريتهم في التنقل وقدرتهم على الحصول على الحقوق الأساسية، كما تستخدم الكاميرات كجزء من جهاز المراقبة في القدس الشرقية.
تعقب واسع
في وقت تنتقد منظمة العفو الدولية إسرائيل توسعها في استخدام تقنيات التعرف إلى الوجه في الضفة الغربية وغزة، كاستخدامها نظام "الذئب الأحمر" (Red Wolf) لتعقب الفلسطينيين وجعل القيود القاسية المفروضة على حرية تنقلهم مؤتمتة باستخدام بيانات بيومترية حصل عليها بصورة غير مشروعة، تفتخر الأخيرة بصناعتها السيبرانية الرائدة وأنظمة تكنولوجيا المراقبة والأسلحة المتطورة المعتمدة على الذكاء الاصطناعي.
في نهاية عام 2022 أقر الجيش الإسرائيلي أنه يختبر نظام مراقبة يتحكم فيه من بعد، مزوداً بأدوات لمكافحة الشغب يمكنه أن يطلق طلقات نارية غير مميتة، بحسب الجيش. وترى مجموعة "كسر الصمت" وهي مجموعة مكونة من قدامى المحاربين الإسرائيليين المعارضين للاحتلال، أن هذا التشغيل الآلي لتقنيات المراقبة "يزيد الفاعلية ويسهل على إسرائيل عمليات المراقبة على حساب تجريد الفلسطينيين من إنسانيتهم".
ووفقاً لما جاء في صحيفة "نيويورك تايمز" نشرت إسرائيل برنامج تعقب واسع النطاق للتعرف إلى الوجوه في قطاع غزة، وأنشأت قاعدة بيانات للفلسطينيين من دون علمهم أو موافقتهم، عبر استخدام برنامج تم إنشاؤه بعد هجمات السابع من أكتوبر 2023، يستخدم برنامج صور "غوغل" إضافة إلى أداة مخصصة صممتها شركة "كورسايت" (Corsight) ومقرها تل أبيب لتحديد الأشخاص المنتمين إلى "حماس" بدقة، حتى لو كان أقل من 50 في المئة من وجوههم مرئية، ومن أجل بناء قاعدة بياناته بصورة أكبر، أكد نازحون ونشطاء أن الجيش الإسرائيلي على طول الطرق الرئيسة التي يستخدمها الفلسطينيون للنزوح جنوباً أقام نقاط تفتيش مجهزة بكاميرات التعرف إلى الوجه.
ذكاء قاتل
وكشف موقعا "+972" و"لوكال كول" (Local Call) الإسرائيليان كيف استخدم الجيش الإسرائيلي برنامج ذكاء اصطناعي لتطوير "قائمة قتل" في غزة تضم ما يصل إلى 37 ألف هدف محتمل تم استهدافهم بالاغتيال من دون أي إشراف بشري يذكر للتحقق من دقة المعلومات.
كما أشارت صحيفة "الغارديان" البريطانية إلى أن إسرائيل استخدمت نظام الذكاء الاصطناعي الذي تم تطويره من طرف قسم استخبارات النخبة في جيش الدفاع الإسرائيلي (الوحدة 8200) والمسمى "لافندر"، سمح للمسؤولين العسكريين الإسرائيليين بقتل أعداد كبيرة من المدنيين الفلسطينيين، لا سيما خلال الأسابيع والأشهر الأولى من الحرب، إذ قام البرنامج بمعالجة كميات كبيرة من البيانات لتحديد أهداف محتملة من "صغار المقاتلين" لاستهدافهم بسرعة باستخدام ذخائر غير موجهة تعرف باسم "القنابل الغبية"، وهي تؤدي إلى تدمير منازل بأكملها وقتل جميع من فيها. وأكدت "غارديان" أن استخدام تقنيات الذكاء الاصطناعي يثير مجموعة من الأسئلة القانونية والأخلاقية، ويحدث تحولاً في العلاقة بين الأفراد والآلات.
وفي أوائل نوفمبر (تشرين الثاني) الماضي نشر الموقع الرسمي للجيش الإسرائيلي بياناً مختصراً يوضح فيه كيفية استخدام نظام الذكاء الاصطناعي "غوسبل" في الحرب الدائرة حالياً على قطاع غزة لإنتاج عدد كبير جداً من الأهداف بوتيرة متسارعة بناءً على أحدث المعلومات الاستخباراتية التي تصل أولاً بأول لكبار الضباط الذين يقودون عمليات القصف في الميدان.
كما ذكر الموقع أن وحدة الأهداف التي تضم مئات الضباط والجنود وتدعمهم إمكانات الذكاء الاصطناعي يمكنها إرسال تلك التوصيات إلى القوات الجوية والبحرية والبرية عبر تطبيق يعرف باسم "عمود النار" (Pillar of Fire)، الذي يحمله قادة الجيش على الهواتف الذكية والأجهزة الأخرى التابعة للجيش.
وذكر أفيف كوخافي، الذي كان يشغل منصب رئيس هيئة أركان الجيش الإسرائيلي لصحيفة "يديعوت أحرونوت" الإسرائيلية أن نظام "غوسبل" ينتج كميات هائلة من البيانات بصورة أكثر فاعلية من أي إنسان، ثم يترجمها إلى أهداف يمكن مهاجمتها. ووفقاً لتصريحه "ينتج هذا النظام 100 هدف في يوم واحد، يستهدف الجيش منهم 50 في المئة فعلاً بالقصف".
ولم يكشف تحديداً ما البيانات التي يستخدمها النظام ليقدم اقتراحاته للأهداف، فيما يقول محللون إنها قد تأتي غالباً من صور الأقمار الاصطناعية، والصور التي تلتقطها الطائرات المسيرة، والمعلومات القادمة من اعتراض الاتصالات، وبيانات أبراج المراقبة لرصد تحركات الأشخاص المستهدفين.
وليس نظاما "لافندر" و"غوسبل" فحسب اللذان يتم استخدامهما بالذكاء الاصطناعي، بل كان هناك نظام ثالث يعرف باسم "أين أبي؟" (Where’s Daddy) تم تصميمه لمساعدة إسرائيل على استهداف وتعقب الناشطين ذوي الرتب الدنيا في الجناح العسكري لـ"حماس" و"الجهاد الإسلامي" عندما يكونون في منازلهم ليلاً مع عائلاتهم، وذلك وفقاً لما ذكره الصحافي الإسرائيلي يوفال أبراهام، في مقابلة مع موقع (democracynow)، والتي تحدث من خلالها عن بعض ما وجد في تقريره حول التكنولوجيا المستخدمة في الحرب على غزة، وكيف أن استخدام أنظمة الذكاء الاصطناعي العسكرية يشكل "خطراً على الإنسانية"، وأن "الحرب القائمة على الذكاء الاصطناعي تسمح للناس بالهرب من المساءلة."
وبحسب أبراهام يعمل برنامج "أين أبي؟" بمسح معلومات عن 90 في المئة من سكان غزة، ويمنح كل فرد تقييماً يراوح بين واحد و100 يستند إلى احتمالات تقدمها الآلة بأن ذلك الفرد هو عضو في الأجنحة العسكرية لـ"حماس" أو "الجهاد".
مجرد أدوات
في المقابل، ذكر بيان للجيش الإسرائيلي أنه لا يستخدم نظام ذكاء اصطناعي لتحديد هوية "الإرهابيين"، مؤكداً أن تلك الأنظمة "مجرد أدوات للمحللين في عملية تحديد الأهداف".
وقال الجيش الإسرائيلي إن عملياته نفذت وفقاً لقواعد التناسب بموجب القانون الدولي. ومع أنه لم ينف وجود برنامج "لافندر" فإنه زعم في بيان أنه "ليس نظاماً وإنما مجرد قاعدة بيانات تستخدم للرجوع إلى مصادر الاستخبارات لإنتاج معلومات محدثة عن الأعضاء العسكريين في المنظمات الإرهابية".
وأشار إلى أن برنامج "لافندر" يختلف عن برنامج "إنجيل"، الذي يعد خوارزمية أخرى يستخدمها الجيش الإسرائيلي للتوصية بالمباني والمنشآت التي يجب استهدافها (وليس الأشخاص)، وهو برنامج ذكاء اصطناعي يعمل على إنتاج الأهداف بمعدل سريع.
