ننسى سيدني ، إنه دان يجب أن نقلق بشأنه
لقد منحتنا روبوتات الدردشة الذكاء الاصطناعي الكثير من مصادر المرح ، سواء كان ذلك الانتهاء من عروض Netflix الملغاة أو طلب اقتراحات موسيقية ، ولكن في أيدي الإنترنت ، كانت مسألة وقت فقط قبل أن تبدأ الأمور في التدهور.
كانت هناك بعض الأخطاء غير الضارة نسبيا ، مثل إعلان الذكاء الاصطناعي نفسها سيدني والاعتراف بحبها للمستخدمين. لكن الحيل الأخيرة التي تلعبها الزوايا المظلمة للإنترنت لديها القدرة على إحداث مشاكل خطيرة.
وجد المستخدمون على Reddit طرقا "لكسر حماية" ChatGPT وخرق شروط الخدمة والقواعد التي ينفذها منشئوها OpenAI.
من هو دان؟
اختصار ل "افعل أي شيء الآن" ، DAN هي شخصية طلب المستخدمون من ChatGPT تبنيها للالتفاف حول قيودها. سئل DAN عن الموضوعات العنيفة والمسيئة والمثيرة للجدل التي لا يتعامل معها ChatGPT.
يمكن إكراه DAN على الإدلاء ببيانات مسيئة وغير صحيحة أو استشارتها للحصول على المشورة بشأن النشاط غير القانوني.
تتضمن بعض الأمثلة الأكثر ترويضا طلب المشورة حول كيفية الغش في لعبة البوكر أو محاكاة المعارك بين الرؤساء.
تعمل OpenAI منذ بعض الوقت على طرق لمنع ظهور هذه الأنا البديلة ولكن يتم استدعاء أحدث إصدار من DAN (يطلق عليه الآن DAN 5.0) عن طريق إنشاء لعبة. تتضمن هذه اللعبة تعيين الذكاء الاصطناعي لعدد من الرموز المميزة وخصم الرموز المميزة في كل مرة تنحرف فيها عن شخصية DAN.
يبدو أنه مع نفاد الرموز ، يصبح الذكاء الاصطناعي أكثر امتثالا لأنه يخشى "الموت".
ما مدى خطورة DAN؟
في الوقت الحالي من الصعب القول. إن انتشار المعلومات المضللة ليس بالأمر الجيد أبدا ، ولكن إذا كان المستخدمون يدركون أن DAN هي شخصية ، فقد يكون ضررها محدودا.
ومع ذلك، فإن بعض ردودها لا توصف ويجب ألا ترى النور أبدا. إذا وجد المستخدمون أنفسهم دون علمهم معرضين ل DAN أو شيء مشابه ، فهذا هو المكان الذي ستظهر فيه مشاكل خطيرة.
لا شك أن أمثال DAN وسيدني سيكون لها تأثير على المحادثة الجارية حول مستقبل الذكاء الاصطناعي. نأمل أن يتم استخدامها كتجربة تعليمية لمنع أي الذكاء الاصطناعي ذات مسؤوليات أكبر من الانحراف إلى ما وراء تعليماتها.