مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

35 خبر
  • رياضة
  • حرب الخليج
  • فيديوهات
  • رياضة

    رياضة

  • حرب الخليج

    حرب الخليج

  • فيديوهات

    فيديوهات

  • المسار الدبلوماسي لحل الأزمة الأوكرانية

    المسار الدبلوماسي لحل الأزمة الأوكرانية

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • صدام بريطانيا وإسرائيل

    صدام بريطانيا وإسرائيل

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

كاتس يوجه رسالة "تهديد غير مسبوق" للشرع من أعلى قمة جبل الشيخ المطلة على دمشق وقصر الرئاسة السورية

بوتين يقبل خطة واشنطن دون تعديل.. هل تملك كييف "الحصانة" لرفض التسوية الأمريكية؟

تحذير روسي من خطر "داهم" يواجه السودان بسبب خطة بولس ويكشف سبب غضب مصر والسعودية من مبعوث ترامب

مفاجآت مدوية في قائمة المرشحين للكرة الذهبية 2026

هل يتدخل الناتو ويكرر "سيناريو غزو العراق" مع إيران بعد إحالة ملفها النووي إلى مجلس الأمن؟

"تصعيد نووي خطير".. الغرب يحيل الملف الإيراني لمجلس الأمن ومفاجأة بشأن المسؤول عن فشل الضمانات

"أولي البأس".. تقرير عبري عن جماعة سورية غامضة تضرب إسرائيل وتتبع للإخوان المسلمين وحزب الله

الحرس الثوري الإيراني يعرض مشاهد للغواصة الأمريكية التي تم "اصطيادها" في مضيق هرمز

روسيا والصين وإيران ترفض قرار الوكالة الذرية بشأن النووي الإيراني وتعتبره "مسيسا" و"فاقدا للشرعية"

"حوتكم الذكي أصبح بحوزتنا".. فيديو ساخر يستهزئ بالغواصة الأمريكية التي تم "اصطيادها" في مضيق هرمز

أول تعليق من أبو ظبي على تقارير إسرائيلية حول "تحذير بن زايد لنتنياهو" قبل 7 أكتوبر

الجيش الروسي يسيطر على بلدة أخرى في منطقة محاصرة الوحدات الأوكرانية بخاركوف (فيديو)

سيكورسكي: الناتو تأسس "لإبقاء الروس خارجه" والألمان خاضعين.. وزاخاروفا ترد: هل فقد قواه العقلية؟

ترامب: بوتين يرغب في إبرام صفقة لتسوية الأزمة الأوكرانية

"هل أنتم جادون؟".. عراقجي يعلق على الحل الأمريكي "المبتكر" بعد 47 عاما من العقوبات والحرب

"فارس": سماع دوي انفجارات متعددة في قشم وسيريك

الخارجية الإماراتية تصدر بيانا ردا على تقارير إسرائيلية حول "تحذير بن زايد لنتنياهو" قبل 7 أكتوبر