ملخص
شركة "أوبن أي آي" طورت أداة للكشف عن النصوص التي أنشأها نموذج "تشات جي بي تي" بدقة تصل إلى 99.9 في المئة، ولكنها لم تطلقها بعد بسبب المناقشات الداخلية والمخاوف المتعلقة بتأثيرها في المستخدمين وخصوصاً الناطقين بغير الإنجليزية.
في مقالة نشرت في الرابع من أغسطس (آب) 2024، كشفت صحيفة "وول ستريت جورنال" عن أن شركة "أوبن أي آي" OpenAI طورت أداة قوية للكشف عن النصوص التي أنشئت بواسطة نموذج "تشات جي بي تي" ChatGPT بدقة تصل إلى 99.9 في المئة، ولكنها لم تطلقها بعد بسبب النقاشات الداخلية المستمرة والاهتمامات المتعلقة بها. تستخدم هذه التقنية للكشف عن طريقة العلامة المائية لتحديد المحتوى الذي أنشئ بواسطة الذكاء الاصطناعي، وكانت جاهزة للتنفيذ منذ ما يقرب العام. على رغم جاهزيتها، ترددت الشركة في تفعيلها بسبب الاعتبارات الداخلية والخارجية المعقدة.
وأشار التقرير إلى أن أداة العلامة المائية تعمل من خلال تعديل الطريقة التي يولد بها الذكاء الاصطناعي رموز النصوص، هذه التعديلات تدمج نمطاً غير مرئي أو "علامة مائية"، ضمن النص يمكن اكتشافه باستخدام تقنية "أوبن أي آي". صمم هذا النمط ليكون غير قابل للرؤية بالعين البشرية المجردة، ولكنه قابل للاكتشاف باستخدام أدوات الكشف المتخصصة. لا شك في أن التكنولوجيا فعالة للغاية، إذ تقترح الوثائق الداخلية نسبة نجاح تصل إلى 99.9 في المئة في الكشف عن النصوص التي أنشئت بواسطة الذكاء الاصطناعي عند إنتاج محتوى بواسطة "تشات جي بي تي"، ومع ذلك هناك مخاوف من أن تقنيات بسيطة مثل ترجمة النص عبر Google Translate(ترجمة غوغل) أو إضافة وإزالة الرموز التعبيرية (emoji) قد تؤدي إلى مسح أو تشويه العلامة المائية.
داخلياً كانت "أوبن أي آي" تناقش إطلاق هذه الأداة منذ عامين تقريباً، تركزت المناقشات حول تحقيق التوازن بين التزام الشركة بالشفافية وضرورة الاحتفاظ بالمستخدمين. وأظهرت استطلاعات الرأي التي أجرتها "أوبن أي آي" أن نحو ثلث مستخدمي "تشات جي بي تي" سيشعرون بالإحباط من إدخال تقنية مكافحة الغش. إضافة إلى ذلك، ثمة مخاوف من أن أداة العلامة المائية قد تؤثر بشكل غير متناسب في الناطقين بغير اللغة الإنجليزية وتسبب آثاراً غير مقصودة في النظام البيئي الأوسع للذكاء الاصطناعي.
وأضافت المقالة أنه على رغم هذه المخاوف، يجادل المؤيدون داخل الشركة بأن الفوائد المحتملة لمنع سوء الاستخدام في الأوساط الأكاديمية تفوق الأخطار. فالمعلمون والأساتذة في حاجة ماسة إلى حلول لمكافحة الغش الذي يسهله الذكاء الاصطناعي، إذ يمكن لهذا الأخير أن ينتج مقالات أو أوراق بحثية كاملة في ثوان. ووجدت دراسة أجراها مركز الديمقراطية والتكنولوجيا أن 59 في المئة من معلمي المدارس المتوسطة والثانوية يعتقدون أن بعض الطلاب يستخدمون الذكاء الاصطناعي في الأعمال الدراسية، وهي زيادة كبيرة مقارنة بالعام السابق.
شارك الرئيس التنفيذي لشركة "أوبن أي آي" سام ألتمان، ورئيسة التكنولوجيا ميرا مراتي، في مناقشات حول الأداة. بينما دعم ألتمان المشروع، لم يبذل الجهود الرامية إلى إطلاقه. ويعكس هذا النهج الحذر المخاوف الأوسع حول التأثير المحتمل لهذه التكنولوجيا، كما أن الشركة المالكة لصحيفة "وول ستريت جورنال"، "نيوز كورب" News Corp، التي لديها شراكة لترخيص محتوى "أوبن أي آي"، يضيف أيضاً مزيداً من التعقيد إلى عملية اتخاذ القرار.
وتتابع المقالة أن مشكلة توزيع أداة الكشف تعد مسألة مهمة أخرى. إذا كان الوصول إليها محدوداً جداً، فقد لا تكون الأداة فعالة في معالجة الغش الواسع النطاق. وعلى العكس من ذلك، إذا تمكن عدد كبير جداً من الأشخاص من الوصول إليها، ثمة خطر من أن تتمكن جهات خبيثة من اختراق العلامة المائية. وتضمنت المناقشات إمكان توفير الأداة مباشرة للمعلمين أو التعاون مع خدمات خارجية تساعد المدارس في الكشف عن المحتوى الذي أنشئ بواسطة الذكاء الاصطناعي.
ومن جهتها، طورت "غوغل" أيضاً أداة للعلامة المائية، SynthID، لاكتشاف النصوص التي أنتجتها الذكاء الاصطناعي "جيميناي" Gemini، لكنها لا تزال في مرحلة اختبار تجريبي وغير متاحة على نطاق واسع. في المقابل، أعطت "أوبن أي آي" الأولوية لتقنيات العلامة المائية الصوتية والمرئية على النصوص، نظراً إلى إمكاناتها الأكبر في السياقات الحساسة مثل الانتخابات الأميركية التي ستجري في نوفمبر (تشرين الثاني) من العام الحالي.
وفي يناير (كانون الثاني) 2023 أصدرت "أوبن أي آي" خوارزمية كانت تهدف إلى الكشف عن النصوص التي أنشأها الذكاء الاصطناعي ولكنها سحبتها بعد أن حققت دقة بلغت 26 في المئة فقط. توجد أدوات أخرى خارجية للكشف عن النصوص التي أنشأها الذكاء الاصطناعي، ولكنها غالباً ما تعاني انعدام الدقة، ويمكن أن تنتج إجابات زائفة. وأدى ذلك إلى أن بعض المعلمين قاموا بتكييف مهماتهم للتفوق على الذكاء الاصطناعي، مثل إدراج مراجع فريدة أو غامضة قد لا يتعرف عليها الذكاء الاصطناعي.
اقرأ المزيد
يحتوي هذا القسم على المقلات ذات صلة, الموضوعة في (Related Nodes field)
والحال أن المناقشات حول أداة العلامة المائية بدأت قبل إطلاق "تشات جي بي تي" في نوفمبر 2022. وطورت الأداة على يد سكوت آرونسون، أستاذ علوم الكمبيوتر الذي يعمل على السلامة في "أوبن أي آي"، وكانت مصدراً للتوتر المستمر داخل الشركة. في مطلع عام 2023 قام أحد مؤسسي "أوبن أي آي" جون شولمان بتوضيح مزايا وعيوب التكنولوجيا، وركزت المناقشات اللاحقة على جمع بيانات جديدة وتعليقات قبل اتخاذ قرار نهائي.
وفي أبريل (نيسان) 2023، أظهرت دراسة عالمية دعماً قوياً لأدوات الكشف عن الذكاء الاصطناعي، بهامش أربعة إلى واحد لصالحها. ومع ذلك كشف استطلاع لمستخدمي "تشات جي بي تي" عن أن 69 في المئة يعتقدون أن تقنية الكشف عن الغش ستؤدي إلى اتهامات زائفة، وذكر ما يقرب من 30 في المئة أنهم سيستخدمون "تشات جي بي تي" أقل إذا فعلت العلامة المائية.
في بداية يونيو (حزيران) 2024، اتفق موظفو "أوبن أي آي" وكبار الباحثين على أن تقنية العلامة المائية كانت فعالة، ومع ذلك لا تزال نتائج استطلاعات الرأي ومخاوف التأثيرات السلبية المحتملة في جودة كتابة "تشات جي بي تي" تؤثر في عملية اتخاذ القرار. كما تستعد الشركة للتغييرات التنظيمية المحتملة وتحولات الرأي العام حول شفافية الذكاء الاصطناعي.
وفي النهاية ختمت المقالة بأن "أوبن أي آي" تواجه قراراً معقداً في شأن إطلاق أداة الكشف الخاصة بها. يجب على الشركة تحقيق التوازن بين فعالية التكنولوجيا، وتأثيرها في المستخدمين، والآثار الاجتماعية الأوسع، بينما تستعد للتطورات التنظيمية المحتملة والرقابة العامة المتعلقة بشفافية الذكاء الاصطناعي.
