مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

36 خبر
  • هدنة وحصار المضيق
  • إسرائيل تواصل غاراتها على لبنان
  • نبض الملاعب
  • هدنة وحصار المضيق

    هدنة وحصار المضيق

  • إسرائيل تواصل غاراتها على لبنان

    إسرائيل تواصل غاراتها على لبنان

  • نبض الملاعب

    نبض الملاعب

  • فيديوهات

    فيديوهات

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

مسؤولون إسرائيليون: الاتفاق الأمريكي الإيراني مقلق للغاية وترامب يهمش إسرائيل ويحولها لمتعاقد

السعودية تنشر منظومات دفاع جوي لحماية الأجواء في المشاعر المقدسة خلال موسم الحج (فيديو)

سجال ساخن حول صفقة إيران.. البيت الأبيض لبومبيو: لا تعلم شيئا عن التفاوض

الجيش الإيراني: مستعدون للتضحية.. العالم سيشهد قريبا الخلاص من شر الولايات المتحدة والكيان الصهيوني

ليست أمريكية أو عربية.. مصادر تكشف لوكالة "فارس" عن إدارة مضيق هرمز مستقبلا

ترامب: تم التفاوض بشأن اتفاق مع إيران إلى حد كبير.. التفاصيل قيد الإعداد وسيتم الإعلان عنها قريبا

ترامب يجري اتصالا جماعيا مع قادة عرب لبحث المفاوضات مع إيران

"أكسيوس" يكشف تفاصيل صفقة الـ 60 يوما المرتقبة بين واشنطن وطهران

طهران تعلن استعدادها لتقديم طمأنات دولية بشأن ملفها النووي واستقرار المنطقة

إيران تتهم دول الخليج والأردن بالمشاركة في الحرب الأمريكية عليها

نيويورك تايمز: الاتفاق مع إيران يتضمن الإفراج عن 25 مليار دولار من الأصول المجمدة ويشمل لبنان

لبنان لحظة بلحظة.. غارات إسرائيلية على لبنان و"الحزب" يدمر منظومات تشويش حديثة

"أكسيوس": القادة العرب والمسلمون حثوا ترامب على إنهاء الحرب مع إيران

رسالة غامضة جديدة.. ترامب "يغطي" إيران بالعلم الأمريكي (صورة)

حادث خطير يشعل الحدود.. إسرائيليون يتسللون إلى لبنان لالتقاط الصور والجيش يعتقلهم فورا

إسرائيل تصادق على خططها العسكرية شمالا بالتزامن مع ترتيبات أمريكية إيرانية لهدنة الـ 60 يوما

القناة 12 العبرية: تحسّب لتصعيد إيراني وحالة التأهب "قصوى"

مصادر إيرانية تنفي إعلان ترامب: النصوص المتبادلة لا تتضمن حرية مرور كاملة في هرمز كما كانت قبل الحرب

سوريا.. القبض على ضابط رفيع في عهد الأسد

حصيلة ضخمة لسفن إيرانية اعترضتها قوات "سنتكوم" الأمريكية

هيئة البث: نتنياهو أعرب لترامب عن مخاوفه من تأجيل معالجة ملف إيران النووي وربطه بهدنة لبنان

لبنان لحظة بلحظة.. خسائر متبادلة جراء التصعيد و"حزب الله" يتمسك بسلاحه لمنع تثبيت الاحتلال