احتيال بالذكاء الاصطناعي: ناج يروي محنته قصد التوعية

عندما التقط غاري شيلدهورن الهاتف ليجيب عن اتصال وارد بينما كان في طريقه إلى العمل عام 2020، سمع صوت ابنه بريت المذعور على الطرف الآخر من الخط، أو كان ذلك ما ظنه صوت ابنه. 

وقد أخبر بريت بصوته الحزين السيد شيلدهورن أنه حطم سيارته ويحتاج إلى مبلغ 9 آلاف دولار لدفع الكفالة، وقال بريت إن أنفه مكسور وأنه صدم سيارة امرأة حامل وطلب من والده الاتصال بالمحامي العام المكلف بقضيته.

فعل السيد شيلدهورن ما قيل له، لكن مكالمة قصيرة مع المحامي العام المفترض الذي أمره بإرسال الأموال من خلال منصة لتداول "بيتكوين" جعلت الأب القلق يشعر بعدم الارتياح إزاء الوضع، وبعد مكالمة أجراها مع بريت للتحقق أدرك السيد شيلدهورن أنه كاد أن يقع ضحية لما أطلقت عليه هيئة التجارة الفيدرالية اسم "خدعة الطوارئ العائلية".

وقال السيد شيلدهورن، وهو محامي الشركات الممارس في فيلادلفيا، للكونغرس خلال جلسة استماع في وقت سابق من هذا الشهر إن "مكالمة فيس تايم من ابني وهو يشير إلى أنفه ويقول ’أنفي بخير، أنا بخير، أنت تتعرض للخداع‘ فجلستُ هناك في سيارتي وقد تأثرت جسدياً بذلك ولقد شعرت بمزيج من الصدمة والغضب والارتياح".

وينطوي المخطط التفصيلي على محتالين يستخدمون الذكاء الاصطناعي لاستنساخ صوت الشخص، ومن ثم يستخدمونه بعد ذلك لخداع ذويه بهدف إرسال الأموال لتغطية نفقات حال طوارئ مفترضة، وحين اتصل بقسم إنفاذ القانون المحلي التابع له أُعيد توجيه السيد شيلدهورن إلى مكتب التحقيقات الفيدرالي الذي أخبره بعد ذلك أن الوكالة كانت على علم بنوع الاحتيال، لكنها لا تستطيع التدخل ما لم تكن هناك عملية لإرسال الأموال إلى الخارج.

ودقت لجنة التجارة الفيدرالية ناقوس الخطر للمرة الأولى في مارس (آذار) الماضي منبهة إلى ضرورة عدم الثقة بالصوت، وحذرت الوكالة المستهلكين من أن أيام الحيل الخرقاء التي يمكن تحديدها بسهولة قد ولت منذ فترة طويلة، وأن التقنيات المتطورة جلبت مجموعة جديدة من التحديات التي لا يزال المسؤولون يحاولون التغلب عليها.

كل ما يلزم لتكرار صوت بشري هو تسجيل صوتي قصير له وهو يتحدث، وفي بعض الحالات يمكن الوصول إلى تسجيلات كهذه بسهولة من خلال المحتوى المنشور على وسائل التواصل الاجتماعي. تجري محاكاة الصوت باستخدام برنامج استنساخ الصوت بالذكاء الاصطناعي ليبدو مطابقاً تماماً للمقطع الأصلي، وتتطلب بعض البرامج مقطعاً صوتياً مدته ثلاث ثوان فقط لإنشاء أي محتوى صوتي ينوي المحتال فبركته وشحنه بعاطفة معينة أو أسلوب محدد في التحدث، وفقاً لمجلة "بي سي ماغازين" PC Magazine، كما يوجد تهديد مفاده أن أفراد الأسرة المصابين بالذهول يجيبون على الهاتف ويطرحون أسئلة للتثبت من القصة التي يسردها المحتال وبالتالي قد تسجل أصواتهم أيضاً، وهم بذلك سيوفرون عن غير قصد مزيداً من الذخيرة للمحتالين.

تقول نصيحة هيئة التجارة الفيدرالية "يطلب منكم المحتالون الدفع أو إرسال الأموال بطرق تجعل من الصعب استرداد أموالكم، فإذا طلب المتصل تحويل الأموال أو إرسال عملة مشفرة أو شراء بطاقات هدايا ومنحه/ها أرقام البطاقات وأرقام التعريف الشخصية، فقد تكون هذه علامات على عملية احتيال".

وأجبر ظهور عمليات الاستنساخ الصوتي بالذكاء الاصطناعي المشرعين على البحث عن سبل تنظيم استخدام التكنولوجيا الجديدة، فخلال جلسة استماع في مجلس الشيوخ في يونيو (حزيران) شاركت الأم من ولاية بنسلفانيا جنيفر دي ستيفانو تجربتها الخاصة مع حيل الاستنساخ الصوتي وكيف تسببت لها بالصدمة.

وخلال جلسة الاستماع روت السيدة ستيفانو سماع من ظنت أنها ابنتها البالغة من العمر 15 سنة تبكي وتعتصر على الهاتف قبل أن يخبرها رجل أنه "سيملأ معدة [المراهقة] بالمخدرات ويرسلها إلى المكسيك" إذا اتصلت الأم بالشرطة، إلا أن مكالمة هاتفية أجرتها مع ابنتها أكدت أنها آمنة.

وقالت السيدة ديستيفانو في ذلك الوقت "لن أتمكن أبداً من طرد ذلك الصوت والبكاء اليائس للحصول على المساعدة من ذهني، ولا يوجد حد للشر الذي يمكن أن يجلبه الذكاء الاصطناعي، وإذا تُرك دون رقابة أو تنظيم فإنه سيعيد كتابة مفهوم ما هو حقيقي وما هو غير حقيقي ".

لسوء الحظ فإن التشريعات الحالية لا تحمي ضحايا هذا النوع من الاحتيال، وقد كتب خبير الملكية الفكرية مايكل تيش في عمود له في أغسطس (آب) الماضي لصحيفة "آي بي ووتشدوغ" IPWatchdog أن القوانين المصممة لحماية الخصوصية قد تنطبق في بعض حالات عمليات الاحتيال لاستنساخ الصوت، لكنها قابلة للتنفيذ فقط من قبل الشخص الذي اُستخدم صوته وليس ضحية الاحتيال، وفي الوقت نفسه لا تعترف قوانين حقوق الطبع والنشر الحالية بملكية صوت الشخص.

وقال السيد شيلدهورن للكونغرس "لقد أصابني ذلك بالإحباط لأنني تعرضت لحالات احتيال على المستهلك وكدت أقع في هذا الفخ، والشيء الوحيد الذي اعتقدت أنه يمكنني فعله هو تحذير الناس، فلقد تلقيت مكالمات من أشخاص في جميع أنحاء البلاد قالوا إنهم  فقدوا المال وكانوا محطمين، ولقد تعرضوا للأذى العاطفي والجسدي وكانوا يتصلون للحصول على عناق هاتفي تقريباً".

ولم تحدد هيئة التجارة الفيدرالية بعد أي متطلبات للشركات التي تطور برامج استنساخ الصوت، ولكن وفقاً للسيد تيتش فمن المحتمل أن تواجه عواقب قانونية إذا فشلت في توفير ضمانات مستقبلاً.

ولمعالجة العدد المتزايد من عمليات الاستنساخ الصوتي أعلنت هيئة التجارة الفيدرالية عن دعوة مفتوحة للعمل يُطلب من المشاركين فيها تطوير حلول تحمي المستهلكين من أضرار استنساخ الصوت، وسيحصل الفائزون على جائزة قدرها 25 ألف دولار.

وتطلب الوكالة من ضحايا الاحتيال في الاستنساخ الصوتي الإبلاغ عن ذلك على موقعها الإلكتروني.