"ميدجورني" لتصميم الصور بالذكاء الاصطناعي يوقف التجارب المجانية

أوقف "ميدجورني" Midjourney، تطبيق الذكاء الاصطناعي لتوليد الصور المثير للجدل، العمل بتجاربه المجانية [الحق بتجربة التطبيق وميزاته مجاناً] بعد أن "أسيء استخدامه"، بحسب ما أفاد قيمون عليه.

ويأتي هذا القرار بعد استخدام الأداة لإنشاء مجموعة من الصور المزيفة لشخصيات بارزة رفيعة المستوى، من بينها لقطات للرئيس الأميركي السابق دونالد ترمب وقد ألقي القبض عليه، وللبابا فرنسيس يرتدي معطفاً يواكب في تصميمه آخر صيحات الأزياء.

وفي أعقاب الجدل الذي أثارته الصور المزيفة، أعلن الرئيس التنفيذي لـ"ميدجورني" على برنامج التواصل الاجتماعي "ديسكورد" أن الموقع يوقف التجارب المجانية إثر "الإقبال الاستثنائي [طلب كبير] وإساءة استخدام غير عادية خلال مرحلة التجربة". كذلك قال إن الشركة جربت خيارات أخرى، من بينها تدابير احترازية، ولكنها لم تكن كافية لمنع الناس من إساءة استخدام الخدمة في فترات التجربة.

ولكن لا يبدو أن هذا التغيير جاء كرد فعل مباشر على تلك الصور المزيفة. تمثلت المشكلة في "أعداد مهولة من المستخدمين الذين ينشؤون حسابات وهمية موقتة للحصول على صور مجانية"، والتي يبدو أن "فيديو توضيحياً [يشرح طريقة فبركة مثل هذه الصور] في الصين قد أسهم في التشجيع عليها"، وفق ما قال هولز للموقع الإلكتروني المتخصص بأخبار التكنولوجيا "ذا فيرج" The Verge.

وكانت تقارير أولية قد ربطت بين الحدثين بسبب إشارة هولز إلى سوء الاستخدام، ولكن يعتقد أن توليد هذه الصور قد تم بواسطة الإصدار الخامس والأحدث من "ميدجورني"، غير المتاح أصلاً للمستخدمين الذين يستفيدون من الخدمة مجاناً.

أصلح التحديث الجديد أخطاءً قديمة كثيرة شابت "ميدجورني"، من بينها صعوبة رسم اليدين، والتي كانت تعد سابقاً طريقة سهلة نسبياً للتعرف إلى الصور المزيفة من صنع الذكاء الاصطناعي. ويبدو أن هذه الدقة المتزايدة أدت إلى استخدام النظام الذكي في إنشاء تلك الصور الواسعة الانتشار المستخدمة في أحداث إخبارية مزيفة.

ومع ذلك، فإنه يمثل جدلاً آخر حول الذكاء الاصطناعي التوليدي في أسبوع شهد موجة من الصور المزيفة، ودعوة إلى التوقف عن تطوير أنظمة ذكاء اصطناعي جديدة تحت شعار الحفاظ على الأمن، وحظر منصة الدردشة "شات جي بي تي"  ChatGPTفي الصين.

وسبق أن أثارت منصة "ميدجورني" جدالاً في شأن قيودها المفروضة على استخدام نظامها. وأفاد هولز إنها فرضت قواعد معينة كي تتفادى "المشكلات"، ولكن لديها قواعد غير صارمة نسبياً حول كيفية استخدام نظامها.

وفي أعقاب موجة الصور المزيفة لدونالد ترمب، مثلاً، منعت "ميدجورني" استخدام كلمة "اعتقال" وحظرت الشخص الذي صنع اللقطات [من المنصة]، ولكن لا يبدو أن هذه الخطوة تعكس أي تغيير أوسع في سياسة المنصة، وسرعان ما وجد المستخدمون طرائق للالتفاف حول هذه القيود، من بينها مثلاً وصف شكل الاعتقال على نحو محدد أكثر.

أبلغ هولز موقع "ذا فيرج" The Verge أن [إمكانية] التجارب المجانية [المتاحة للعموم من دون بدل] ربما تتوفر مجدداً، ما إن تجد الشركة طريقة لضمان عدم إنشاء المستخدمين حسابات متعددة بغية إساءة استخدامها.