ملخص
ما يزيد الطين بلة هو سهولة وكلفة العمليات الاحتيالية في ظل التطور الرهيب للذكاء الاصطناعي
تمثل مقاطع الفيديو والصور المزيفة التي ينشئها الذكاء الاصطناعي وخصوصاً عن طريق الشبكات العصبية العميقة، تطوراً حديثاً لمشكلة التضليل المزعجة عبر الإنترنت.
وعلى رغم أن تصنيع الصور ومقاطع الفيديو الرقمية ومعالجتها ليس بالأمر الجديد، إلا أن التطور السريع لتكنولوجيا الذكاء الاصطناعي خلال السنوات الأخيرة جعل عملية إنشائها بصورة مقنعة ومضللة أسهل وأسرع بكثير.
والحال أن مقاطع الفيديو والصور هذه تتحدى قدرتنا على معرفة ما هو حقيقي وما هو مزيف، وهذا ما يمكن الجهات الفاعلة السيئة من نشر المعلومات المضللة وإثارة القلاقل في المجتمعات وخلق نوع من الاضطرابات لا يقل تأثيرها السلبي عن الأوبئة.
وقائع مخيفة
لا شك أن المخاوف في شأن التزييف العميق موجودة منذ سنوات، لكن ما تغير حالياً هو أن التكنولوجيا تطورت وأصبحت في متناول أي شخص لديه هاتف ذكي أو جهاز كمبيوتر، وبذلك بات اختلاق أي خدعة مقنعة أسهل وأسرع وأرخص بفضل أدوات الذكاء الاصطناعي التوليدية التي يمكنها إنشاء صور ومقاطع فيديو وصوت واقعية تصور أشياء لم تحدث بتاتاً.
وشهد العالم خلال الفترة الأخيرة أحداثاً عدة لتزييف المحتوى نتجت منها بلبلة كبيرة، فمثلاً انتشرت مكالمة آلية للرئيس الأميركي جو بايدن الشهر الماضي اعتقد كثيرون أنها حقيقية يدعو فيها الديمقراطيين لعدم التصويت في الانتخابات التمهيدية. وسرعان ما تبين أن الصوت لم يكن لبايدن على الإطلاق، بل كان من صنع شركة ElevenLabs، الشركة المصنعة لبرنامج استنساخ الصوت بالذكاء الاصطناعي التي تخضع حالياً للتحقيق بتهمة قمع الناخبين بشكل غير قانوني.
وسبق ذلك قيام جاك بوسوبيك، الناشط اليميني المعروف، بإنشاء مقطع فيديو مزيف للرئيس بايدن يعلن فيه عن مشروع لإرسال جنود أميركيين إلى أوكرانيا. وبينما أوضح بوسوبيك أن الفيديو كان مزيفاً وتم إنشاؤه بواسطة الذكاء الاصطناعي، فقد وصفه أيضاً بأنه "لمحة عما هو قادم".
وانتشر مقطع فيديو مزيف الشهر الماضي للملياردير الأميركي إيلون ماسك يتعهد فيه بتقديم 10 آلاف دولار لكل من يفتح حساباً على موقع للعملات الرقمية، قبل أن يتبين أن المقطع غير حقيقي، فيما وقعت نجمة البوب الأميركية تايلور سويفت في براثن التزييف العميق بعد نشر صور إباحية مزيفة لها ظلت منتشرة على منصة "إكس"، لمدة 17 ساعة، وحصلت على نحو 45 مليون مشاهدة، و24 ألف إعادة نشر.
وشاهد الملايين من مستخدمي منصة "إكس" العام الماضي صوراً مزيفة تم إنشاؤها بواسطة الذكاء الاصطناعي تصور ما قد يبدو عليه الأمر إذا تم القبض على الرئيس الأميركي السابق دونالد ترمب، وسط تكهنات حينها بأن هيئة محلفين كبرى في نيويورك قد توجه إليه الاتهامات، كما تم أيضاً تداول صورة مزيفة للزعيم الصيني شي جينبينغ أثناء اجتماعه مع الرئيس الروسي فلاديمير بوتين.
وفي عام 2022، انتشر فيديو مزيف للرئيس الأوكراني فولوديمير زيلينسكي يظهر فيه واقفاً على منصته المعتادة التي يلقي منها خطاباته وهو يطالب جنوده بإلقاء أسلحتهم والاستسلام وعدم قتال القوات الروسية الغازية، مشيراً إلى أن جهود جيشه في الحرب باءت بالفشل.
"سورا"
وجاء إعلان شركة "أوبن أي آي" الأميركية الأخير عن أداتها الجديدة "سورا" التي تتيح توليد مقاطع فيديو من النصوص باستخدام الذكاء الاصطناعي التوليدي، ليزيد من المخاوف العالمية حول تزييف المحتوى، لا سيما أن الفيديوهات المنتجة من الأداة الجديدة تبدو وكأنها مشاهد حقيقية من أرض الواقع.
بيد أن "سورا" ليست المنتج الأول لتقنية تحويل النص إلى فيديو، إذ تشمل المنتجات الأخرى Gen-2، الذي أنتجته شركة Runway في مدينة نيويورك وتم إصداره العام الماضي، ونموذج "لوميير" الذي تقوده شركة "غوغل"، والذي كشف النقاب عنه في يناير (كانون الثاني) من هذا العام.
وقد خلقت أداة "سورا" حالة من الهلع بين المعنيين بمراقبة تطور التكنولوجيا، وهذا ما عبرت عنه تريسي هاروود، المتخصصة في الثقافة الرقمية بجامعة "دي مونتفورت" في ليستر بالمملكة المتحدة، بقولها "لقد صدمت بالسرعة التي تطور بها الذكاء الاصطناعي لتحويل النص إلى فيديو. قبل عام، كان الناس يضحكون على مقطع فيديو تم إنتاجه بواسطة الذكاء الاصطناعي للممثل الأميركي ويل سميث وهو يتناول السباغيتي، والآن يشعر بعض الباحثين بالقلق من أن التكنولوجيا قد تقلب السياسة العالمية رأساً على عقب في عام 2024".
وقالت هاروود "المعلومات الخاطئة تمثل تحدياً كبيراً لتقنيات تحويل النص إلى فيديو، سنصل بسرعة كبيرة إلى نقطة نغرق فيها بوابل من المعلومات التي تبدو مقنعة حقاً، وهذا أمر مقلق للغاية".
تزايد الدعاية المضللة
كل ذلك يعني بطبيعة الحال أن الدعاية وعمليات الاحتيال التي ينتجها الذكاء الاصطناعي ستتزايد مع الوقت لا بل قد تنتجها جهات دولية فاعلة، حيث حددت الشركة المعنية بتحليلات وسائل الإعلام الاجتماعية Graphika أول حالة معروفة لعملية تأثير متحالفة مع الدولة باستخدام التزييف العميق في أواخر العام الماضي.
اقرأ المزيد
يحتوي هذا القسم على المقلات ذات صلة, الموضوعة في (Related Nodes field)
ووجد الباحثون في الشركة أن الروبوتات المؤيدة للصين تشارك مقاطع فيديو إخبارية مزيفة تم إنشاؤها بواسطة الذكاء الاصطناعي، على "فيسبوك" ومنصة "إكس".
من جهته يقول غاري ماركوس، عالم الإدراك في جامعة "نيويورك" الذي يراقب تطور الذكاء الاصطناعي من كثب، إن المحيط البيئي للمعلومات سيتلوث، مفيداً بأننا لسنا مستعدين لما يعنيه العيش في عالم مليء بالمحتوى الناتج من الذكاء الاصطناعي، معبراً في الوقت نفسه عن خشيته من أن يؤدي الوصول واسع النطاق لهذه التكنولوجيا إلى تآكل قدرتنا على الثقة في أي شيء نراه عبر الإنترنت.
واستطرد قائلاً "يمكن لأي جهة سيئة أن تستخدم إحدى هذه الأدوات لتقديم كميات لا يمكن تصورها من المعلومات الخاطئة المعقولة والمرعبة تقريباً والتي لن يتعرف إليها الشخص العادي على أنها معلومات مضللة".
عملية سهلة ورخيصة
وما يزيد الطين بلة هو سهولة وكلفة هذه العمليات الاحتيالية، فقد نشر أستاذ إدارة الأعمال في جامعة "بنسلفانيا" الأميركية إيثان موليك، على مواقع التواصل تجربته الشخصية لاستخدامه الذكاء الاصطناعي في توليد كلماته وصوته وصورته المتحركة، بعد أن تعمق في مجموعة من الأدوات التي تعمل بالذكاء الاصطناعي والتي يمكن لأي شخص استخدامها راهناً لإنشاء صور ونصوص وصوت وفيديو بدءاً من برامج الدردشة الآلية مثل "تشات جي بي تي" و"بينغ" وصولاً إلى مولدات الصور مثل DALL-E وMidjourney.
ويشرح موليك تجربته بالقول "كان الأمر في الغالب لمعرفة ما إذا كان بإمكاني إنشاء فيديو مزيف، ثم أدركت أن الأمر أسهل بكثير مما كنت أعتقد. استخدمت روبوت الدردشة "تشات جي بي تي" لإنشاء نص ثم استعنت بأداة تنسخ صوتي وأدخلت صوتي وصورتي في تطبيق آخر للذكاء الاصطناعي يحرك الفم والعينين بشكل واقعي ويجعلك تهز كتفيك. في النهاية، ظهرت في الفيديو وأنا ألقي محاضرة زائفة بصوتي المزيف".
أنفق موليك لإنشاء هذا الفيديو 11 دولاراً واستغرق ثماني دقائق لإنجازه فحسب. وهو من بين مجموعة متزايدة من الأشخاص لا ينفك يعبر عن قلقه من أن هذا الانتشار لما يعرف بـ"الذكاء الاصطناعي التوليدي" سيؤدي إلى زيادة الدعاية والتأثير في الحملات التي تقوم بها الجهات الفاعلة السيئة.
الانتخابات الرئاسية الأميركية
ويفرض ما نتحدث عنه هنا مشكلات خاصة في ما يتصل بالانتخابات المقبلة، وخصوصاً الانتخابات الرئاسية الأميركية في نوفمبر (تشرين الثاني) المقبل، إذ تحذر مواقع أميركية عدة من سيناريو تستخدم فيه الجهات المضللة الذكاء الاصطناعي لاستدعاء الناخب وإعطاء معلومات كاذبة حول مكان الاقتراع المحدد.
المخاوف المتزايدة في شأن الطرق التي يمكن للذكاء الاصطناعي من خلالها تشويه الانتخابات تدفع إلى إصدار مجموعة من التشريعات الجديدة. وبينما تم تقديم مشاريع القوانين إلى الكونغرس، تتحرك الولايات بشكل أسرع.
وفي الأسابيع الستة الأولى من هذا العام قدم المشرعون في 27 ولاية مشاريع قوانين لتنظيم التزييف العميق في الانتخابات، يركز عديد منها على الشفافية، وتلزم الحملات والمرشحين بملاحقة الجهات المضللة وردعها عند نشرها أي محتوى.
ومن شأن الإجراءات الأخرى أن تحظر التزييف العميق خلال فترة معينة، مثل 60 أو 90 يوماً قبل الانتخابات.
وهذا ما يعني بطبيعة الحال أنه يتعين على الناخبين والحملات الانتخابية والمشرعين ومنصات التكنولوجيا التكيف مستقبلاً، ليس من خلال سن القوانين فحسب، بل أيضاً من خلال إنشاء أعراف اجتماعية حول استخدام الذكاء الاصطناعي.
