"أوبن أي آي" تنشئ فريقا لتحديد أخطار الذكاء الاصطناعي ومنعها

أنشأت شركة "أوبن أي آي" فريقاً مخصصاً لتحديد الأخطار المتعلقة بالذكاء الاصطناعي ومنعها، مما قد يؤدي إلى تعليق إطلاق نموذج للذكاء الاصطناعي إذا اعتبر خطراً للغاية.

ويأتي هذا الإعلان بعد شهر من إقالة مبتكر واجهة المحادثة "تشات جي بي تي" سام ألتمان الذي أعيد إلى منصبه بعد بضعة أيام.

وذكرت وسائل إعلام أميركية أن أعضاء في مجلس الإدارة أخذوا على ألتمان تفضيله التطوير السريع لـ"أوبن أي آي" حتى لو كان ذلك على حساب انتهاكات محتملة قد يتحمل مسؤوليتها الذكاء الاصطناعي.

وسيقود فريق الاستعداد الباحث في علوم الكمبيوتر ألكسندر مادري، وهو في إجازة من معهد ماساتشوستس للتكنولوجيا (أم أي تي)، حيث يعمل أستاذاً، بحسب رسالة نشرها الأكاديمي، الإثنين، على منصة "إكس".

وسيستند الفريق إلى إطار عمل تحدده وثيقة نشرت، الإثنين، تحدد نطاقه وإجراءاته، فيما ستهتم هذه المجموعة الجديدة بشكل أساس بما يسمى "النماذج الطليعية" التي تطورت حالياً وتتفوق بقدراتها على البرامج الأكثر تقدماً في مجال الذكاء الاصطناعي.

و"أوبن أي آي" منظمة غير ربحية لأبحاث الذكاء الاصطناعي، إذ قال مسؤولوها في الوثيقة، "نعتقد أن الدراسة العلمية لأخطار الكوارث الناشئة عن الذكاء الاصطناعي غير كافية على الإطلاق"، معتبرين أن إنشاء إطار عمل من شأنه أن "يساعد في سد هذه الفجوة".

وسيعمد الفريق إلى تقويم كل نموذج جديد وتحديد مستوى الأخطار الناجمة عنه في أربع فئات رئيسة.

ويتعلق الأول بالأمن السيبراني وقدرة النموذج على تنفيذ هجمات معلوماتية واسعة النطاق.

أما الثاني فسيقيس ميل البرنامج للمساعدة في إنشاء خليط كيماوي أو كائن حي (مثل فيروس) أو سلاح نووي، وجميع العناصر من المحتمل أن تكون ضارة بالبشر.

وتتعلق الفئة الثالثة بقدرة النموذج على الإقناع، أي إلى أي مدى يمكن أن يؤثر في السلوك البشري.

وترتبط الفئة الأخيرة من الأخطار بالاستقلالية المحتملة للنموذج، أي تحديد ما إذا كان يمكنه أن يفلت من سيطرة المبرمجين الذين أنشأوه.

وبمجرد تحديد المخاطر، ستقدم إلى المجموعة الاستشارية للسلامة، وهو كيان جديد سيرفع توصيات إلى سام ألتمان أو أي شخص يعينه.

وسيقرر رئيس "أوبن أي آي" بعد ذلك التعديلات الممكنة التي ستجرى على النموذج لتقليل الأخطار المرتبطة به.

وسيبقى مجلس الإدارة على اطلاع وبإمكانه أن يبطل قراراً صادراً عن الإدارة. وهذا هو الضمان الممنوح للمديرين، بعد الفصول المثيرة لمغادرة سام ألتمان الموقتة التي أثارت انتقادات شككت بمشروعية مجلس الإدارة.