دراسة: نماذج الذكاء الاصطناعي تفتقر إلى "الشفافية"

تفتقر نماذج الذكاء الاصطناعي التي تكاثرت منذ إطلاق "تشات جي بي تي" إلى الشفافية في تصميمها، مما يشكل خطراً على التطبيقات التي ترتكز إليها تقنياً، بحسب دراسة أجرتها جامعة ستانفورد ونشرت نتائجها أمس الأربعاء.

وبين مؤشر جديد وضعه وأجرى حسابات على أساسه باحثون في هذه الجامعة الواقعة في ولاية كاليفورنيا الأميركية، أن الأكثر شفافية بين النماذج الـ10 التي أخضعت للتقويم هو "لاما 2"، وهو نظام ذكاء اصطناعي أطلقته مجموعة "ميتا" في يوليو (تموز) الماضي ويمكن إعادة استخدامه.

لكن هذا النموذج لا يوفر في الواقع إلا 54 في المئة من الشفافية المطلوبة، وهي نسبة غير كافية مقارنة بما يجب أن يحققه لكي يكون شفافاً، وفقاً لمعدي الدراسة.

أما "تشات جي بي تي-4"، وهو المنتج الرئيس لشركة "أوبن إيه آي" التي تنتج روبوت ""تشات جي بي تي" الشهير والممولة من "مايكروسوفت"، فلا تتعدى درجة شفافيته 48 في المئة.

وحصلت على مراتب أدنى نماذج أخرى تلقى رواجاً، بينها "بالم-2" من "غوغل" و"كلود 2" من "انثروبيك" الممولة من "أمازون".

وأوضح مدير الأبحاث في جامعة ستانفورد ريشي بوماساني في بيان أن درجة الشفافية المطلوب توافرها في ما يسمى "نماذج التأسيس" يجب أن تراوح بين 80 و100 في المئة".

وأوضح معدو الدراسة أن الافتقار إلى الشفافية "يصعب على الشركات معرفة ما إذا كان بإمكانها بناء تطبيقات بأمان تقوم على هذه النماذج، وعلى الأكاديميين الاعتماد عليها في أبحاثهم".

ولاحظت الدراسة أن معظم الشركات لا تفصح عن مدى المحتوى المحمي بحقوق المؤلف والمستخدم لتدريب نموذجها، وكذلك لا تكشف الشركات عن استخدام العمالة البشرية لتصحيح بيانات التدريب، الأمر الذي قد يكون مشكلة كبيرة".

ويأسف بوماساني لكون "أية شركة لا تقدم معلومات عن عدد المستخدمين الذين يعتمدون على نماذجها، ولا إحصاءات عن البلدان أو الأسواق التي تستخدمها".

وشرح معدو الدراسة أن صناع السياسات والعاملين في الهيئات الناظمة يستطيعون استخدام مؤشر الشفافية هذا في المستقبل، وأعلن الاتحاد الأوروبي والولايات المتحدة والصين والمملكة المتحدة وكندا رغبتهم في ظهور ذكاء اصطناعي أكثر شفافية.

ورأى الرئيس الأميركي جو بايدن في يوليو الماضي مخاطباً قادة الشركات العاملة في هذا القطاع أن "الذكاء الاصطناعي يمثل وعداً كبيراً وضخماً بفرص مذهلة، ولكنه يمثل أيضاً أخطاراً على مجتمعنا واقتصادنا وأمننا القومي".

وكان هذا الموضوع على رأس أولويات قمة مجموعة السبع في اليابان في مايو (أيار) الماضي، ومن المقرر أن تستضيف بريطانيا قمة دولية حول الذكاء الاصطناعي في نوفمبر (تشرين الثاني) المقبل.