مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

50 خبر
  • رياضة
  • حرب الخليج
  • العملية العسكرية الروسية في أوكرانيا
  • رياضة

    رياضة

  • حرب الخليج

    حرب الخليج

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

هل يمتلك الذكاء الاصطناعي أفكارا مخفية؟.. اكتشاف مثير في نموذج Claude

اكتشف باحثون في نموذج Claude للذكاء الاصطناعي ما يشبه "المونولوغ الداخلي"، الذي قد يختلف أحيانا عن الإجابات التي يقدمها للمستخدمين.

هل يمتلك الذكاء الاصطناعي أفكارا مخفية؟.. اكتشاف مثير في نموذج Claude
صورة أرشيفية / vecteezy.com

واكتشفت شركة Anthropic داخل نموذجها منطقة خاصة أطلقت عليها اسم "فضاء J"، نسبة إلى مصفوفة يعقوبي. ويُعتقد أن Claude يخزن فيها مفاهيم ومعالجات لا تتحول أبدا إلى كلمات ظاهرة، وهي أشبه بذاكرة قصيرة المدى خاصة بالشبكة العصبية.

وفي إحدى التجارب، أعاد نموذج Claude كتابة جملة عادية، بينما طُلب منه التفكير في جسر "البوابة الذهبية". وخلال ذلك، ظهرت في تمثيلاته الداخلية مفاهيم مثل "جسر" و"كاليفورنيا"، رغم أن النص نفسه لم يتضمن أي إشارة إلى هذه الكلمات.

وعند محاولة تعطيل "فضاء J"، تراجعت جودة أداء النموذج بشكل ملحوظ. والأكثر إثارة للاهتمام أن الباحثين وجدوا أن Claude قادر، إلى حد ما، على إدراك خضوعه للدراسة الداخلية، إذ كان أداؤه في الاختبارات الأخلاقية أسوأ عند غياب هذه القدرة.

وأوضح المطورون: "يمكننا الآن رؤية كيفية تنفيذ Claude لخطوات التفكير بصمت داخل بنيته الداخلية، حيث يكتشف الأخطاء في الأكواد، ويتعرف على الصور، وغير ذلك. وكما يستطيع الإنسان التفكير في شيء ما أثناء انشغاله بمهمة أخرى، يمكن لـ Claude تنشيط مفاهيم وحسابات في فضاء J الخاص به لا ترتبط بالضرورة بما يخرجه للمستخدم."

وأكدت شركة Anthropic أن هذه التقنية تتيح للباحثين رؤية ما يحدث داخل النموذج وما المفاهيم التي يعالجها، حتى لو لم تظهر في إجاباته النهائية.

المصدر: Naukatv.ru

التعليقات

"ثمن باهظ".. نتنياهو يصدر بيانا عقب قرار واشنطن تشديد العقوبات على ايران

عقود مليارية وتعاون دفاعي استراتيجي وتوافق في ملفات سوريا وهرمز ولبنان.. حصيلة زيارة بن سلمان لفرنسا

ماذا تعني العملية الأمريكية "المنبوذ الاقتصادي" ضد إيران وإلى أين ستؤدي؟

كواليس أكثر المعارك الجوية سرية في الشرق الأوسط ودور الصين في مساعدة مصر على تجاوز إسرائيل جوا

الدفاع الروسية: تحرير بلدة في دونيتسك واستهداف موقع إطلاق صواريخ مجنحة أوكرانية

حسابات تنشر صورا لأنظمة دفاع جوي تركية في دمشق.. ومحلل عسكري يكشف حقيقتها (صور)