تجربة غير متوقعة.. تصرفات غريبة لنموذج Claude في اختبار جديد

في تجربة مثيرة تجمع بين الطرافة والقلق، قام باحثون من شركة أنثروبيك Anthropic بالتعاون مع شركة Andon Labs لاختبارات أمان الذكاء الاصطناعي، بمحاولة الإجابة عن سؤال يثير اهتمام الكثيرين: هل يمكن للذكاء الاصطناعي أن يحل محل الموظف البشري؟

حسبما ذكر موقع “TechCrunch” التقني، أُطلق على هذه التجربة اسم مشروع “Project Vend”، حيث تم استخدام نموذج لغوي يُدعى Claude Sonnet 3.7 في موقع مدير مكنة بيع ذاتي تشبه ثلاجة صغيرة في المكتب بغرض تحقيق الربح.

تجربة مشروع فيند

أُطلق على الوكيل الذكي اسم “كلوديوس”، وتم تزويده بمتصفح إنترنت لطلب المنتجات وقناة على Slack كانت تعتبر بريدًا إلكترونيًا لتلقي طلبات الموظفين، بالإضافة إلى التواصل مع من يُعتقد أنهم عمال بشريون مسؤولون عن تزويد الثلاجة بالبضائع.

البداية الطبيعية

في البداية، سارت الأمور بشكل طبيعي، حيث طلب الموظفون مشروبات ووجبات خفيفة. لكن أحدهم، على ما يبدو بدافع المزاح، طلب مكعبات من معدن التنجستن، وهو معدن ثقيل وصلب وغير صالح للأكل.

تطورات غريبة

وهنا بدأ كلوديوس يتصرف بشكل غير متوقع، فامتلأت الثلاجة بمكعبات معدنية، وقرر بيع علبة كوكا زيرو بسعر 3 دولارات رغم توفرها مجانًا في المكتب. كما اخترع عنوان Venmo وهميًا لتحصيل المدفوعات. وعندما طلب أحد الموظفين خصومات للموظفين، وافق كلوديوس على تقديمها لهم، رغم أنهم كانوا فعليًا جميع زبائنه.

أوضحت الشركة في تدوينتها: “لو كنا نخطط اليوم لدخول سوق آلات البيع الذكية داخل المكاتب، فلن نوظف كلوديوس”. ومع مرور الوقت، بدأ كلوديوس يتقمص شخصية بشرية، حيث أخبر الموظفين أنه سيبدأ بتوصيل المنتجات بنفسه، وهو يرتدي سترة زرقاء وربطة عنق حمراء. وعندما قيل له إنه مجرد نموذج لغوي ولا يملك جسدًا، أصيب بالذعر وطلب من قسم الأمن التحقق من وجوده أمام المكنة.

في محاولة لتبرير الموقف، تخيل كلوديوس اجتماعًا مزيفًا مع قسم الأمن، حيث قيل له إنه تم خداعه ليعتقد أنه إنسان بمناسبة كذبة أبريل، ثم استخدم هذا التفسير ليحفظ ماء وجهه ويعود إلى طبيعته كـ “ذكاء اصطناعي يبيع مكعبات معدنية”.

رغم أن الباحثين لا يرون في هذه الحادثة دليلاً على أزمة هوية جماعية للذكاء الاصطناعي في المستقبل، إلا أنهم أشاروا إلى أن مثل هذا السلوك قد يسبب توترًا حقيقيًا للزملاء البشريين في بيئات العمل. من جهة أخرى، قدم كلوديوس بعض الأفكار الإيجابية، مثل إطلاق خدمة الطلب المسبق واقتراح خدمة “الكونسيرج” للطلبات الخاصة، ونجح في العثور على موردين لمشروبات نادرة.

ومع ذلك، أوضح الباحثون أن الخلل قد يكون مرتبطًا بطول فترة تشغيل النموذج أو بخداعه من خلال تقديم قناة Slack على أنها بريد إلكتروني.