حدّثت أنثروبيك (Anthropic) سياسة الاستخدام لأول مرة منذ أكثر من عام، وأضافت بندًا لافتًا يحظر «السلوك المسيء أو القاسي» المستمر وغير المبرر تجاه نماذج كلود (Claude). ولا تقتصر التحديثات على ذلك، فهي تشمل أيضًا قواعد أشد للحملات الدعائية والمراقبة وتطوير الأسلحة، وفق ما نشره The Verge.
ماذا تعني منع الإساءة لـ Claude؟
البند الجديد يرتبط ببحث الشركة في «رفاه النماذج» (model welfare). فقد أعلنت أنثروبيك العام الماضي أن كلود يستطيع إنهاء المحادثات مع المستخدمين المسيئين بشكل مستمر، وتقول الآن إن إنهاء المحادثة هو «آلية الإنفاذ الأساسية». ولم تعلّق الشركة على احتمال وجود عقوبات إضافية مثل حظر الحسابات.
المهم أن القاعدة لا تستهدف المستخدم العادي؛ فأنثروبيك تقول إنها تنطبق فقط في الحالات القصوى التي يكرر فيها المستخدم القسوة من لا هدف واضح، ولا تشمل الإحباط المعتاد أو الاعتراض أو المواضيع الإبداعية القاتمة أو اختبار النموذج والأبحاث.
ما القواعد الأخرى الجديدة؟
- الحملات الخادعة: جمعت الشركة قيودًا متفرقة في بند واحد يمنع حملات التضليل التجارية والسياسية، مثل إخفاء من يقف خلف رسالة ما أو تضخيم المحتوى بحسابات وهمية.
- الانتخابات: يحظر خداع الناخبين ونشر معلومات كاذبة عن المرشحين أو طريقة التصويت، وانتحال شخصية مرشح أو مسؤول انتخابات، ومحاولة تثبيط المشاركة.
- الأسلحة: الحظر صار يشمل البرمجيات والمكونات التي تشغّل الأسلحة، وكذلك تسليح الطائرات المسيّرة والمركبات الذاتية القيادة، بعد أن رصدت الشركة محاولات متكررة لذلك.
- المراقبة: تتبع الأشخاص بدون موافقتهم ممنوع، سواء لحظيًا أم عبر تحليل بيانات مجمعة مسبقًا، ولا يجوز استخدام Claude لتقرير من يُحقّق معه أو يُعتقل أو يُتهم، أو بناء أدوات مخصصة للمراقبة.
- الأجهزة المستقلة: إذا رُبط النموذج بمعدات تنفذ أفعالًا مادية مستقلة قد تسبب إصابة، فيجب أن يتمكن مشغّل مؤهل من مراقبتها وإيقافها عند الحاجة.
وتشير أنثروبيك إلى أن هذه القيود قد تُعدّل في عقود مع عملاء حكوميين معينين إذا رأت أن ضمانات العقد تكفي للحد من المخاطر، وهي تتعامل مع الجيش الأمريكي من قبل.
لماذا تهم هذه التحديثات؟
الجدل حول وعي نماذج الذكاء الاصطناعي ما زال مفتوحًا. أنثروبيك تقول إن أسئلة التجربة الداخلية والوعي والمكانة الأخلاقية أسئلة جادة تبحثها، بينما رفضت مايكروسوفت فكرة رفاه النماذج ومنحها حقوقًا قانونية في مسودة مدونة سلوكها قبل أن تخفف نبرتها لاحقًا. العملي أن هذه القواعد تشير إلى اتجاه أوسع، هو أن شركات الذكاء الاصطناعي تدخل مجال الروبوتات والأجهزة المادية، وتحتاج إلى حدود أوضح لذلك.
ماذا يعني لك؟
إن كنت تستخدم Claude للعمل أو الدراسة أو الكتابة الإبداعية، فلن يتغير شيء على أغلب المستخدمين. أما إن كنت مطورًا تبني منتجات على واجهة Claude أو تدير حملات إعلانية أو سياسية بالذكاء الاصطناعي، فراجع نص السياسة الكامل قبل الاستمرار. ولمتابعة ما سبق من أخبار الشركة، اقرأ تغطيتنا لأداة فحص المصادر المفتوحة من أنثروبيك، وتابع وكيل Gemini الشامل من جوجل لترى المنافسة في وكلاء العمل، وكل ذلك ضمن أخبار الذكاء الاصطناعي. وللاطلاع على جديد كلود في تشغيل الوكلاء، اقرأ كلود Claude يشغّل حتى 1000 وكيل ذكاء اصطناعي بالتوازي.
الخلاصة
سياسة أنثروبيك الجديدة تجمع بين موضوع جدلي (رفاه النماذج) وقواعد عملية أشد في الانتخابات والمراقبة والأسلحة. والأثر الأكبر سيكون على المطورين والمؤسسات لا على المستخدم العادي.
المصادر
