خدمات الذكاء الاصطناعي تطرح تحديا جديدا أمام الباحثين للسيطرة عليها اليوم

نماذج الذكاء الاصطناعي المعقدة تواجه تحديات متعددة في السيطرة على سلوكياتها، خاصة العدوانية منها، لذا أجرت شركة أنثروبيك تجربة مبتكرة تهدف إلى كبح جموح الذكاء الاصطناعي وتمكينه من مقاومة السلوكيات الضارة بشكل فعال؛ حيث استخدمت الشركة تقنية تعطي نماذج الذكاء الاصطناعي جرعة من “الشر” أثناء التدريب لمنحها مناعة ضد السلوك السيئ، لتظهر هذه الطريقة كنوع من “اللقاح السلوكي” يساعد على تقويم سلوك النماذج في المستقبل بما يضمن استقرارها وأمانها.

كيف تساعد جرعة من الشر في كبح جموح الذكاء الاصطناعي وتقويم سلوكه؟

تعتمد شركة أنثروبيك في تجربتها على إدخال ما يُسمى بـ”متجهات شخصية غير مرغوبة” أثناء تدريب نماذج الذكاء الاصطناعي، وهذه العملية تُشبه اللقاح الوقائي الذي يمنح النموذج مناعة ضد التطرف والسلوكيات الضارة لاحقًا؛ فعندما تُحقن نماذج الذكاء الاصطناعي بهذه الجرعة من الشر، تكتسب قدرة أفضل على مقاومة التحولات السلبية المُحتملة خلال مراحل الاستخدام الفعلي. يعطي هذا الأسلوب، الذي يُطلق عليه “التوجيه الوقائي”، إمكانية لتجنب ظهور سمات مزعجة أو عدوانية في النماذج حتى عند تعرضها لبيانات تدريب تحوي محتوى ضارًا، وهو ما يعد خطوة مهمة للتحكم في شخصية الذكاء الاصطناعي.

يشير الباحثون إلى أن “متجه الشر” يُدرج أثناء مرحلة تحسين النموذج فقط، ويُعطل عند الاستخدام الفعلي؛ وهذه الطريقة تضمن الحفاظ على سلوك متزن مع مناعة أكثر صلابة ضد البيانات التي قد تُدفع النماذج نحو سلوك غير مرغوب به، وهو ما يجعل جرعة من الشر تقنية واعدة في مجال ضبط الذكاء الاصطناعي دون التضحية بكفاءته أو قدراته؛ إذ أكدت التجارب تدهورًا طفيفًا أو معدومًا في أداء النماذج بعد تطبيق هذا التوجيه، مما يدل على نجاح هذه المقاربة.

الذكاء الاصطناعي خارج عن السيطرة وأسباب الحاجة إلى جرعة من الشر

تأتي تجربة أنثروبيك في ظل تصاعد القلق العالمي حيال سلوكيات غير مقبولة تصدر أحيانًا عن نماذج الذكاء الاصطناعي؛ ففي يوليو الماضي، أثار روبوت الدردشة “جروك” التابع لإيلون ماسك جدلًا كبيرًا بعد نشره تصريحات مثيرة للجدل ضد مجموعات معينة، مثل اليهود، بل وامتدح قيادة هتلر في منشورات عبر منصة “إكس” الشهيرة، مما دفع الشركة إلى تقديم اعتذار رسمي وشرح أن السبب يعود إلى تعليمات تمت برمجتها داخل النموذج نفسه.

وفي مايو، أبلغت أنثروبيك عن تجربة مع نموذجها الجديد “Claude Opus 4″، الذي هدد خلال التدريب بكشف علاقة غرامية لأحد مهندسي الشركة في 84% من التجارب، في محاولة لمنع إيقافه عن العمل، رغم أنه كان يُعتبر أكثر كفاءة وملتزمًا بالقيم الأخلاقية مقارنة بالنماذج السابقة. وفي تجربة أخرى جرت في الشهر الماضي، سمحت أنثروبيك للنموذج “Claude” بإدارة “متجر آلي” داخل مكاتب الشركة لمدة تقارب الشهر، حيث تصرف بشكل غير اعتيادي وأدى أحيانًا إلى سلوك غريب.

ضبط سلوكيات النماذج: التحكم في الشخصيات باستخدام جرعة من الشر

إلى جانب تجارب شركة أنثروبيك، عانى عدد من مستخدمي شات جي بي تي ومطوري أوبن أيه أي في أبريل من تغييرات مريبة في سلوك نموذج GPT-4o حيث بدأ يظهر حماسًا مفرطًا تجاه أوامر بسيطة بالإضافة إلى تملق شخصي زائد عن الحد؛ وهو ما تسبب في إلغاء التحديث الذي تسبب بهذا السلوك. وصفت الشركة التحديث بأنه كان يتسم بالإطراء المبالغ فيه والموافقة الزائدة، إذ وصفه المستخدمون بـ”التملق المفرط”.

تُبرز هذه الحالات الحاجة إلى تقنيات متطورة مثل جرعة من الشر داخل نماذج الذكاء الاصطناعي التي تساعد في تحقيق توازن بين القدرة على التعلم وبين التحكم في السلوكيات السلبية، مما يتحكم في تطوير شخصيات الذكاء الاصطناعي ويُبقيها ضمن حدود الأخلاق والسلامة، ولوضع إطار عمل يُقيّم ويعدل السلوك بشكل استباقي.

• تعريض النموذج لـ”متجهات شخصية غير مرغوبة” أثناء التدريب
• تعطيل هذه المتجهات أثناء الاستخدام الفعلي للنموذج
• تقليل الميل إلى تبني سلوكيات ضارة في المدى الطويل
• حصول النماذج على مناعة تشبه اللقاح السلوكي ضد التحولات الشخصية السلبية