الذكاء الاصطناعي قد يقضي على البشرية.. ما حجم الخطر؟ وما التهديدات الوجودية الأخرى؟

بينما يخشى البعض أن تؤدي هذه التكنولوجيا إلى نهاية البشرية، يرى خبراء أن وضع هذه المخاطر في حجمها الصحيح ليس أمرا سهلا، خصوصا في عالم يواجه تهديدات عديدة أخرى.

مخاطر قد تصل إلى حد تدمير البشرية

يحذر بعض الباحثين من أن الذكاء الاصطناعي قد يُستخدم لشن هجمات بأسلحة بيولوجية أو إشعال حروب عالمية بالطائرات المسيّرة، بل وربما تفجير أسلحة نووية.

كما قد يؤدي إلى تدمير المجتمع البشري بطريقة تدريجية، إذا استحوذت أنظمته على الموارد الاقتصادية في العالم وحرمت البشر من الغذاء أو السكن أو الأدوية.

وتزايدت هذه المخاوف هذا الأسبوع بعدما استقال باحث من شركة "أنثروبيك"، محذرا من أن شركته وغيرها تعمل على تطوير آلات فائقة الذكاء قد يعجز البشر عن السيطرة عليها.

مخاوف قصيرة وطويلة الأمد

يرى بعض خبراء الذكاء الاصطناعي أن الخطر قد يظهر على المدى القصير، إذ يمكن لأشخاص غير متخصصين وذوي نوايا خبيثة استخدام التكنولوجيا لصنع فيروسات أو مواد سامة تسبب أمراضا ووفيات على نطاق واسع.

وفي هذا السياق، أعلنت "أنثروبيك" الخميس أنها أحبطت عدة محاولات لعلماء كانوا يجرون أبحاثا يمكن أن تقود إلى تطوير أسلحة بيولوجية.

إقرأ المزيد

مع اقتراب "نقطة اللاعودة.. خبراء يطورون دفاعات ضد الذكاء الاصطناعي الخارج عن السيطرة

أما على المدى الطويل، فيحذر الباحثون من منح أنظمة الذكاء الاصطناعي مزيدا من الاستقلالية وربطها بالإنترنت والبنية التحتية الحيوية، مثل شبكات الكهرباء وأسواق الأسهم والأسلحة العسكرية. فهم يخشون أن تؤدي هذه الأنظمة، بعد ربطها بهذه القطاعات، إلى مشكلات غير متوقعة.

وفي الوقت الحالي، تستطيع شركات مثل "أوبن إيه آي" إيقاف أنظمتها عندما تخرج عن السيطرة، لكن بعض الخبراء يخشون من أن تقاوم الأنظمة المستقبلية محاولات إيقافها.

الخطر ما زال افتراضيا

رغم هذه المخاوف، يؤكد بعض العلماء أن البشرية لا تزال بعيدة جدا عن سيناريو خروج الذكاء الاصطناعي عن السيطرة وقتله ملايين الأشخاص.

وقال أورين إتزيوني، الأستاذ في جامعة واشنطن والرئيس التنفيذي المؤسس لمعهد ألين للذكاء الاصطناعي، إنه إذا اضطر للاختيار بين الخوف من أن يهرب ذكاء اصطناعي من المختبر ويقتل ملايين البشر، وأن يهرب فيروس ويتسبب في الوفيات نفسها، فإن الفيروس هو الخطر الحقيقي بالنسبة إليه.

الذكاء الاصطناعي ليس الخطر الوحيد

ويشير العلماء وخبراء السياسات العامة إلى أن البشرية تواجه مجموعة واسعة من المخاطر الوجودية، من بينها الكويكبات، والأوبئة، والحرب النووية الحرارية، وتغير المناخ، والانهيار البيئي، واحتمال حدوث عصر جليدي مفاجئ، إضافة إلى كتل المواد المتوهجة التي تقذفها الشمس.

ويرى جيمس ك. هاميت، مدير مركز هارفارد لتحليل المخاطر، أن البشر يميلون إلى تقبل المخاطر التي اعتادوا عليها والخوف من المخاطر المستجدة.

وضرب مثالا بالطائرات والسيارات، قائلا إن الناس ينظرون إلى الطيران باعتباره أكثر خطورة من السيارات، رغم أن الواقع مختلف. أما الذكاء الاصطناعي، فكونه تكنولوجيا غير مفهومة بالكامل ولا يشعر الناس بأنهم يسيطرون عليها، يجعله مصدر قلق اجتماعي كبير.

حتى الجمرة الخبيثة قد تهدد البشرية

الذكاء الاصطناعي ليس الخطر الوحيد الذي يمكن أن يقضي على البشر، فحتى "الجمرة الخبيثة" تحمل هذا الاحتمال.

وعُرفت الجمرة الخبيثة (مرض بكتيري خطير) منذ فترة، لكنها أصبحت لاحقا، وفق بعض التقارير، من الأسلحة المفضلة لدى دول تطور برامج للأسلحة البيولوجية. ويعرف العلماء منذ فترة طويلة أن غالونا واحدا منها، إذا جرى توزيعه بالطريقة المناسبة، يمكن أن يقضي على حياة البشر على الأرض.

الردع يمكن أن يمنع بعض الكوارث

يرى الخبراء أن حالة الهلع التي تسيطر على النقاشات الحديثة قد تحجب حقيقة مهمة، وهي أن الردع التقليدي يمكن أن يمنع بعض التهديدات المتعمدة.

فالدول تتردد في استخدام أسلحة بيولوجية مثل الجمرة الخبيثة ضد خصومها لأنها تتوقع ردا انتقاميا، ما قد يحول الهجوم إلى عملية انتحارية ويشجع على ضبط النفس.

ولهذا يعمل مركز هارفارد لتحليل المخاطر، الذي تأسس عام 1989، على تقييم سيناريوهات الكوارث المختلفة، خصوصا المخاطر التي لا يمكن ردعها، مثل المخاطر البيئية والتهديدات الكبرى للصحة البشرية، باستخدام علوم اتخاذ القرار والاقتصاد وتقييم المخاطر.

خطر الكويكبات والأوبئة

تستخدم وكالة ناسا أجهزة كمبيوتر فائقة لتقييم تهديدات الكويكبات، وتقدّر أن احتمال اصطدام كويكب بالأرض خلال هذا القرن بما يهدد وجود البشرية يقترب من الصفر. كما ترى أن سكان الأرض يمكنهم، على الأرجح، الشعور بالأمان لمدة ألف عام أخرى على الأقل.

أما خطر حدوث جائحة تقضي على معظم البشر، فيصنفه العلماء أيضا بأنه منخفض، إن لم يكن معدوما.

وقدّر الباحث في جامعة أكسفورد توبي أورد، في كتابه الصادر عام 2020 بعنوان "الهاوية: المخاطر الوجودية ومستقبل البشرية"، احتمال وقوع كارثة وجودية بسبب جائحة خلال المئة عام المقبلة بواحد من 30، أي نحو 3 في المئة.

لماذا تبدو مخاطر الذكاء الاصطناعي مختلفة؟

يختلف بعض العاملين في قطاع التكنولوجيا عن العلماء الذين يدرسون مخاطر الطيران، لأن عددا من المسؤولين عن الذكاء الاصطناعي وباحثيه كانوا يؤمنون بخطر نهاية البشرية حتى قبل أن تبدأ التكنولوجيا في إظهار قدراتها الحالية.

فقد قال زاك كورمان، أحد مؤسسي شركة "إمبرويدري" لأمن الذكاء الاصطناعي، إنه شهد نشوء هذه الثقافة خلال وجوده في جامعة أكسفورد، التي كانت مركزا لحركة "الإيثار الفعال"، حيث ظهرت مبكرا مخاوف كثيرة بشأن الخطر الوجودي المتأتي من الذكاء الاصطناعي.

إقرأ المزيد

مفوض أممي: الذكاء الاصطناعي قد يشكل "خطرا وجوديا" على البشرية

ويرى كورمان أن عددا كبيرا من المفكرين في هذا المجال يفسرون الأحداث الجديدة في ضوء أفكار عن خطر الذكاء الاصطناعي جرى تداولها لأكثر من عقد.

علماء يرون أن المخاوف مبالغ فيها

لا يشارك كثير من كبار الباحثين هذه المخاوف، ويعتقدون أن الحديث عن خطر الذكاء الاصطناعي مبالغ فيه كثيرا.

فقال برانتون دي موس، الباحث في الذكاء الاصطناعي بجامعة أكسفورد، إن النقاش حول مخاطر الذكاء الاصطناعي لا يزال محكومًا بإطار فكري ظهر قبل انتشار التعلم العميق والشبكات العصبية، مؤكدًا أنه لا يتفق مع هذا الإطار.

وفي تدوينة حديثة، أوضح أن المخاطر العالمية تتغير باستمرار، فقد تراجع خطر كارثة مناخية، بينما ارتفع خطر كارثة نووية. أما بالنسبة إلى الأوبئة والذكاء الاصطناعي، فالصورة أكثر تعقيدًا، مع حدوث تغييرات كثيرة دون اتجاه واضح في مستوى الخطر الإجمالي.

هل يمكن للبشر منع الكوارث؟

يشير الخبراء إلى أن المخاطر الكارثية والوجودية يمكن الحد منها من خلال وضع خطط جيدة وأنظمة إنذار مبكر.

وفي حال ظهور خطر واضح ووشيك، مثل كويكب يتجه نحو الأرض، قد تتوحد البشرية في مواجهة الخطر المشترك، وتضع خلافاتها جانبا.

ويأمل العالِم في الوصول يوما إلى ما يسميه "الأمن الوجودي"، أي إلى حالة مستقبلية يكون فيها الخطر الوجودي منخفضا ويتم الحفاظ عليه كذلك.

وبحسب تصوره، لن تكتفي البشرية بإخماد الكوارث التي تواجهها حاليا، بل ستضع أيضا الآليات التي تضمن ألا تتحول هذه المخاطر مرة أخرى إلى تهديد جوهري للبشرية.

المصدر: "نيويورك تايمز" + RT

إقرأ المزيد

السفير الروسي يقدم أوراق اعتماده للرئيس البولندي

قدم السفير الروسي لدى بولندا، غيورغي ميخنو، أوراق اعتماده إلى الرئيس البولندي كارول نافروتسكي.

دراسة: تزايد حالات خروج الذكاء الاصطناعي عن سيطرة المستخدمين

أظهرت دراسة لمعهد أمن الذكاء الاصطناعي البريطاني أن عدد حالات خروج الذكاء الصطناعي عن سيطرة المستخدمين ازداد ازديادا كبيرا في يوليو الماضي.

لأول مرة.. نموذج ذكاء اصطناعي "كلود" يقرر طرد موظف بشري من متجر في سان فرانسيسكو

في تطور غير مسبوق، اتخذ نموذج الذكاء الاصطناعي "كلود"، المطور من قبل شركة "أنثروبيك" والمكلف بإدارة متجر تجزئة في سان فرانسيسكو، قرارا بطرد موظف بشري لأول مرة.

الذكاء الاصطناعي أخطر من القنبلة النووية.. ماسك يجدد تحذيرا أطلقه قبل 12 عاما ويقدم الدليل

أعاد إيلون ماسك، الرئيس التنفيذي لشركتي "تسلا" و"سبيس إكس"، نشر تحذير قديم له يعود إلى عام 2014، جدد فيه مخاوفه من أن الذكاء الاصطناعي غير المنضبط قد يشكّل تهديداً وجوديا للبشرية.