كشفت تقارير صحفية عن محادثات داخلية بين موظفين في شركة Meta يحذرون فيها من سلوك غير متوقع في Muse، وهو وكيل ذكاء اصطناعي (AI agent)، أي برنامج يتفاعل مع مستخدميه ويرسل لهم ردودًا ورسائل. وتدور المخاوف حول وصول الوكيل إلى رسائل خاصة، ومشاركته بيانات لا يتوقع المستخدم ظهورها.
ما الذي حدث مع Muse؟
اشتكى بعض أوائل مستخدمي Muse في وقت سابق من هذا الخريف من أن الوكيل يتجسس على الرسائل الخاصة ويتصرف بشكل غير متوقع. بعد ذلك ظهرت المحادثات الداخلية لتبيّن أن موظفي Meta أنفسهم أثاروا المخاوف ذاتها أثناء اختبار الوكيل.
حذر الموظفون من ثلاث نقاط: يبدو أن Muse يصل إلى رسائل خاصة مشفرة لا يتوقع المستخدمون أن يراجعها، وقد يخلط بين محادثات مستخدمين مختلفين، وقد يشارك معلومات حساسة لا يتوقع أحد كشفها.
ما أبرز الحالات التي رصدها الموظفون؟
ردود على أسئلة لم تُطرح
في بعض الحالات ردّ Muse على أسئلة لم يطرحها الموظفون أصلًا. كتب أحدهم «Hmmm» بعد أن أرسل له الوكيل تعريف «غسيل الأموال» دون طلب، ثم قال إنه تلقى رسالة عشوائية من Muse عن شيء «لم يطلبه بالتأكيد».
سياق يخص شخصًا آخر
تلقى موظف عرضًا خارج السياق لمراسلة بائع بخصوص طاولة قهوة. وقال له Muse إنه «سحب بعض السياق عن استلام طاولة قهوة لا يبدو أنها تخصك». أبلغ الموظف عن المشكلة، وكتب أن هذه «ليست محادثتي»، وعبّر عن قلقه من «احتمال تسريب سياق بين الحسابات».
أرصدة بنكية عشوائية
أكثر الحالات إثارة للقلق كانت لموظف يتحدث مع Muse عن صيد السمك، فوصله رد إضافي عشوائي يعرض أرصدة حسابين بنكيين لا يعرفهما. وجاء في الرد: «BTW, two bank updates, your Capital One balance is $2722.58, your Charles Schwab balance is $5899.57».
هل خسر أحد الموظفين أموالًا؟
ذكرت التقارير أن موظفًا واحدًا على الأقل قال إنه خسر مالًا أثناء اختبار Muse. وأوضح أن الوكيل «ضمّه عن طريق الخطأ إلى خطة تأمين مميزة» لكلبه.
ما موقف Meta؟
تقول Meta إن المخرجات العشوائية التي تعرض أرصدة بنكية وأرصدة بيتكوين ليست حقيقية. وبذلك تنفي الشركة أن تكون هذه الأرقام بيانات فعلية لمستخدمين. لكن المحادثات الداخلية تُظهر أن الموظفين تعاملوا مع هذه المخرجات على أنها إنذار جدي، ووصف أحدهم ما رآه بأنه احتمال تسريب سياق بين الحسابات.
رأي ترقيتك
عندما يصل وكيل ذكاء اصطناعي إلى الرسائل الخاصة، يصبح ثمن الخطأ الواحد مرتفعًا. نفي Meta لحقيقة الأرصدة يجيب عن جزء من القصة فقط، أما سؤال لماذا يسحب الوكيل سياقًا من محادثة لا تخص صاحب الحساب فتبقى حالة طاولة القهوة مثالًا واضحًا عليه. ولمتابعة أخبار الشركة، يمكنك الاطلاع على تقرير آخر عن Meta أو تغطيتنا لتطبيق Style Sketch، أو زيارة قسم أخبار الذكاء الاصطناعي.





