ملخص
ينبغي هنا تذكير هؤلاء القادة أن هناك مفترساً جديداً في الغابة، إذا لم تجد البشرية طريقة للتعاون وحماية مصالحنا المشتركة، فسنكون جميعاً فريسة سهلة للذكاء الاصطناعي.
لم تتوقف التحذيرات من أخطار استقلالية الذكاء الاصطناعي حتى اليوم، مترافقة مع أوصاف ومصطلحات تنبيهية مروعة، وحتى الآن وقع ما يقرب من 30 حكومة، بما في ذلك الصين والولايات المتحدة والمملكة المتحدة، على "إعلان بلتشلي" المتعلق بالذكاء الاصطناعي، الذي أقر بأن هناك احتمالاً لضرر خطر بل وحتى كارثي، سواء كان متعمداً أم غير مقصود، ناجم عن أكثر القدرات أهمية لنماذج الذكاء الاصطناعي. وفي استطلاع أجري العام الماضي، شمل 2778 باحثاً في مجال الذكاء الاصطناعي، أعطى أكثر من ثلثهم فرصة بنسبة 10 في المئة في الأقل لأن يؤدي الذكاء الاصطناعي "المتقدم" إلى نتائج سيئة مثل انقراض البشر.
ونجد اليوم كثر من علماء الاجتماع والفلاسفة يحذرون منه، ومعهم خبراء الذكاء الاصطناعي الذين هم في الوقت ذاته رجال أعمال مستفيدون من انتشاره، لكن أبرز هذه التحذيرات وأكثرها تفنيداً وتفصيلاً لجزئيات أخطار الذكاء الاصطناعي تنطلق من رجلين أحدهما يوفال نوح هراري المولع بالأنثروبولوجيا، والآخر أحد صناع برمجيات الذكاء الاصطناعي مصطفى سليمان، وكرسا له كتباً ومقالات عدة.
أصبحت "الحركة 37" تشكل رمزاً لثورة الذكاء الاصطناعي (رويترز)
مشكلة معلومات
يشير هراري في كتابه "الرابطة" Nexus إلى أن الإنسان كرر بصورة فردية محاولة استدعاء قوى لا يمكنه السيطرة عليها، وورد ذلك في الأساطير وقصص السحر، واعتقد عدد من التقاليد على مر التاريخ أن بعض العيوب القاتلة في الطبيعة البشرية تغرينا لملاحقة قوى لا نعرف حقيقة كيف نتعامل معها. ويبدو أننا ما زلنا مستمرين في القرن الـ21، باستدعاء مليارات من المكانس المسحورة والأرواح الخوارزمية، التي قد تفلت من سيطرتنا وتطلق العنان لطوفان من العواقب.
ويعتقد هراري أن ميلنا لاستدعاء قوى لا نستطيع السيطرة عليها ينبع من الطريقة الفريدة التي يتعاون بها جنسنا البشري في أعداد كبيرة، فالبشرية تكتسب قوة هائلة من خلال بناء شبكات تعاون ضخمة، ولكن الطريقة التي يبنى بها شبكاتنا تجعلنا نميل لاستخدام القوة بصورة غير حكيمة، أي أن مشكلتنا تتعلق بالشبكة، وعلى وجه التحديد هي مشكلة معلومات، فالمعلومات هي الغراء الذي يربط الشبكات ببعضها بعضاً، وعندما تتم تغذية الناس بمعلومات خاطئة فمن المرجح أن يتخذوا قرارات سيئة، بغض النظر عن طبيعتهم ومدى حكمتهم الشخصية.
والنقطة الأساسية التي يطرحها هراري هي أن ثورات المعلومات يمكن أن تؤدي إلى فترات من الازدهار البشري، ولكنها تأتي دائماً بثمن باهظ، فهذه التقنيات الجديدة البراقة تحمل الكلمات والأفكار إلى مسافات أبعد وأسرع من أي وقت مضى، وكثير من المعلومات التي تفرزها تكون مجرد هراء أو خطرة فعلياً، ومع هذا فإن ما يخيف في ثورة الذكاء الاصطناعي أنه على النقيض من التقنيات السابقة، هو الأداة الأولى القادرة على اتخاذ القرارات وتوليد الأفكار من تلقاء نفسها.
ورأينا في هذا السياق تحذيراً مبكراً عام 2017، عندما استجابت خوارزميات "فيسبوك" المكلفة بزيادة تفاعل المستخدمين، بالترويج للدعاية المعادية لـ"الروهينغا" التي غذت القتل الجماعي والتطهير العرقي في ميانمار.
"الحركة 37" وقيود العقل
صممت برمجية "ألفا غو" AlphaGo من ديب مايند عام 2015 للعب لعبة "غوGo "، وهي لعبة لوحية استراتيجية يحاول فيها لاعبان هزيمة بعضهما بعضاً من خلال تطويق منطقة والاستيلاء عليها، وسرعان ما أصبحت أول برمجية تهزم لاعباً بشرياً محترفاً في لعبة "غو"، التي لطالما اعتبرت تحدياً صعباً في الذكاء الاصطناعي بسبب تعقيدها البالغ، تاركة محترفي اللعبة وخبراء الكومبيوتر في حال ذهول.
ويصف مصطفى سليمان، المؤسس المشارك لشركة "غوغل" ديب مايند التي تتولى تطوير برمجية "ألفا غو"، في كتابه "الموجة القادمة"، إحدى أهم اللحظات في المباراة، اللحظة التي أعادت تعريف الذكاء الاصطناعي، وهي الخطوة رقم 37 التي بدت، بحسب سليمان، غريبة ولا معنى لها، وظن المحترفون أن "ألفا غو" أخطأت واتبعت بصورة عمياء استراتيجية خاسرة لا يتبعها أي لاعب محترف على الإطلاق، لكن مع اقتراب اللعبة من نهايتها، أثبتت تلك الخطوة أنها محورية، وفاز "ألفا غو" ليكشف الذكاء الاصطناعي بذلك عن أفكار لم تخطر ببال أكثر اللاعبين تألقاً منذ آلاف السنين.
صندوق أسود
وأصبحت "الحركة 37" تشكل رمزاً لثورة الذكاء الاصطناعي، ويعترف بها في عدد من الدوائر الأكاديمية والحكومية باعتبارها نقطة تحول حاسمة في التاريخ لسببين، الأول أنها أظهرت الطبيعة الغريبة والمختلفة للذكاء الاصطناعي، إذ في حين تعتبر لعبة "غو" لعبة تاريخية ثقافية تمخضت عنها مدارس واستراتيجيات وفلسفات مختلفة على مدار أكثر من 2500 عام، إلا أنه على رغم كل تلك الألفيات، لم تستكشف العقول البشرية سوى مناطق معينة في عالم لعبة "غو"، بينما جاء الذكاء الاصطناعي ليستكشف مناطق ظلت مخفية من دون مساس، والسبب أن الذكاء الاصطناعي متحرر من قيود العقل البشري الذي لم يفكر حتى بالمغامرة هناك.
والسبب الثاني أن هذه الخطوة أظهرت مدى تعذر فهمنا وقدرتنا على سبر أغوار الذكاء الاصطناعي وتفسير قرارته، فحتى بعد أن لعب "ألفا غو" لتحقيق النصر، لم يتمكن سليمان وفريقه من تفسير كيف قرر "ألفا غو" أن يلعبها.
وهنا يؤكد لنا مصطفى سليمان أن الشبكات العصبية التي تتحرك نحو الاستقلال أو الحكم الذاتي هي موضوع معقد لا يمكن تفسيره في الوقت الحاضر، إذ لا يمكنك أن تشرح لشخص كيفية صنع القرار بدقة وسبب إنتاج خوارزمية معينة لتوقع معين، ولا يستطيع المهندسون أن يطلعوا على ما يحدث (تحت الغطاء) ويشرحوا بسهولة وبتفاصيل دقيقة ما الذي تسبب في حدوث شيء ما.
الحقيقة أن إن "جي بي تي" GPT-4 و"ألفا غو" وبقية البرامج عبارة عن صناديق سوداء، تتصل مخرجاتها وقراراتها بسلاسل من الإشارات الدقيقة الغامضة والمعقدة بصورة لا يمكن تصورها.
اقرأ المزيد
يحتوي هذا القسم على المقلات ذات صلة, الموضوعة في (Related Nodes field)
تهديد الديموقراطية
الواقع أن صعود ما يسميه هراري "الذكاء الفضائي" Alien Intelligence أو الغريب الذي لا يمكن فهمه، يشكل تهديداً لجميع البشر وتهديداً خاصاً للديمقراطية، فإذا ما اتخذ مزيد ومزيد من القرارات المتعلقة بحياة الناس في صندوق أسود، بحيث لا يستطيع البشر فهمها والاعتراض عليها، فإن الديمقراطية تتوقف عن أداء وظيفتها.
وعلى وجه الخصوص، ماذا يحدث عندما يتخذ القرارات الحاسمة ليس فقط في شأن حياة الأفراد، ولكن حتى في المسائل الجماعية من خلال خوارزميات لا يمكن فهمها؟
ويطرح هراري في كتابه سيناريوهات متخيلة عدة، أحدها في النظام المالي الذي، حتى اليوم، لا يفهمه ويدرك مبادئه الأساسية إلا جزء صغير من البشرية، ومن هنا ماذا يمكن أن يحدث للديمقراطية عندما يخلق الذكاء الاصطناعي أجهزة مالية أكثر تعقيداً؟ وعندما ينخفض عدد البشر الذين يفهمون النظام المالي إلى الصفر؟
فالحقيقة أن البشر ابتكروا النقود والشيكات والسندات والأسهم وصناديق الاستثمار المتداولة وأوراق الدين المضمونة وغير ذلك من أشكال السحر المالي، ولكن عدداً من المجالات المالية ظلت من دون مساس، لأن العقول البشرية لم تفكر في المغامرة هناك، لكن في حال كلف الذكاء الاصطناعي يمكن أن يكتشف مجالات كانت مخفية في السابق، باعتباره متحرراً من قيود العقل البشري، ويقوم بحركات مالية تعادل الخطوة 37 التي قام بها "ألفا غو"، وفي غضون عامين، يبدو كل شيء رائعاً، فالأسواق ترتفع والأموال تتدفق من دون عناء، ثم يأتي انهيار كبير (على غرار انهيار عام 1929 و2008)، ولكن لا أحد من البشر، سواء كان رئيساً أو مصرفياً أو مواطناً، يعرف ما الذي تسبب في ذلك وما الذي يمكن عمله حيال ذلك.
وهنا تطلب الحكومات اليائسة المساعدة من الكيان الوحيد القادر على فهم ما يحدث لإنقاذ النظام المالي، ليقدم الذكاء الاصطناعي توصيات سياسية جريئة وغامضة، ويعد بأن هذه السياسات ستنقذ الموقف، ولكن الساسة البشر غير القادرين على فهم المنطق وراء هذه التوصيات، يخشون أن تؤدي هذه السياسات إلى تفكيك النسيج المالي وحتى الاجتماعي للعالم بالكامل.
وهنا يتساءل هراري: هل ينبغي لهم أن يستمعوا إلى الذكاء الاصطناعي؟
السيبرانية في مقابل النووية
ويرى هراري أنه في حين أن الحرب النووية مدمرة ومرعبة، إلا أن خطر التصعيد في عصر الذكاء الاصطناعي أكبر، لأن الحرب السيبرانية تختلف اختلافاً جوهرياً عن النووية، فيرجع عدم تطور الحرب الباردة إلى مواجهة عسكرية مباشرة بين الولايات المتحدة والاتحاد السوفياتي إلى مبدأ الدمار المتبادل، إذ كان اليقين بالدمار في حالة نشوب صراع نووي عظيم إلى الحد الذي جعل الرغبة في بدء حرب ضئيلة تبعاً لذلك، أما الحرب السيبرانية فتفتقر إلى هذا اليقين.
وهذا يجعل إغراء بدء حرب سيبرانية كبيراً، وكذلك إغراء تصعيدها، فالأسلحة السيبرانية قادرة على تدمير شبكة كهرباء أو منشأة بحثية سرية أو التشويش على جهاز استشعار للعدو أو إشعال فضيحة سياسية أو التلاعب بالانتخابات أو اختراق هاتف ذكي، وكل ذلك خلسة فهي لا تعلن وجودها بسحابة من النار ولا تترك أثراً مرئياً من منصة الإطلاق إلى الهدف، وبالتالي من الصعب في بعض الأحيان معرفة ما إذا كان الهجوم وقع أو من أطلقه.
ولا أحد يعرف على وجه اليقين أين زرع كل جانب قنابله المنطقية وأحصنة طروادة والبرامج الخبيثة، أو أن يجزم ما إذا كانت أسلحته ستعمل حقاً عندما يطلب منها ذلك، إن مثل هذا الغموض يقوض مبدأ الدمار المتبادل المؤكد.
إمبراطوريات رقمية متنافسة
ويعتقد أنه حتى لو نجحت البشرية في تجنب أسوأ سيناريو محتمل للحرب العالمية، فإن صعود الإمبراطوريات الرقمية الجديدة قد يعرض حرية وازدهار مليارات البشر للخطر، فإذا انقسم العالم إلى إمبراطوريات متنافسة، فمن غير المرجح أن تتعاون البشرية للتغلب على الأزمة البيئية أو تنظيم الذكاء الاصطناعي وغيره من التقنيات التخريبية مثل الهندسة الحيوية.
ومن الواضح أن تقسيم العالم إلى إمبراطوريات رقمية متنافسة يتوافق مع الرؤية السياسية لعدد من القادة الذين يعتقدون أن العالم عبارة عن غابة وأن السلام النسبي في العقود الأخيرة كان وهماً، وأن الخيار الحقيقي الوحيد هو ما إذا كان يجب أن يلعب دور المفترس أو الفريسة، والأكيد أنه في ظل هذا الخيار، يفضل معظم القادة أن يدخلوا التاريخ باعتبارهم مفترسين ويضيفوا أسماءهم إلى قائمة الغزاة.
ولكن ينبغي هنا تذكير هؤلاء القادة أن هناك مفترساً جديداً في الغابة، إذا لم تجد البشرية طريقة للتعاون وحماية مصالحنا المشتركة، فسنكون جميعاً فريسة سهلة للذكاء الاصطناعي.
