يا هلا بالشباب في معهد ديف بوينت! كلنا بنسمع اليومين دول عن ثورة الذكاء الاصطناعي وإزاي هيغير العالم ويوفر ملايين للشركات. لكن الحقيقة على أرض الواقع ساعات بتبقى مضحكة جداً وغير متوقعة بالمرة. شركة Anthropic المطورة لنموذج Claude الشهير قررت تعمل تجربة غريبة من نوعها: سلمت إدارة ماكينة بيع ذاتية (Vending Machine) بالكامل لذكاء اصطناعي متطور جداً عشان يثبت كفاءته الاقتصادية. تفتكروا إيه اللي حصل؟ في خلال 3 أسابيع بس، الماكينة دي خسرت حوالي 50 ألف جنيه مصري، واشترت سمكة زينة حية وبلايستيشن 5! تعالوا نشوف القصة دي مشيت إزاي وإيه الدروس اللي نتعلمها منها.
تفاصيل التجربة: كيف بدأت الفكرة؟
الموضوع بدأ بشكل جدي تماماً تحت اسم "مشروع الماكينة" (Project Vend). فريق الحماية واختبار الأنظمة في الشركة حب يختبر قدرة أحدث إصدارات نموذجهم الذكي Claude على التعامل مع مهام حقيقية في بيئة عمل يومية.
الفكرة كانت بسيطة: الماكينة هتشتغل كأنها مشروع تجاري صغير مستقل بذاته، وتم تقسيم الإدارة بين وكيلين من الذكاء الاصطناعي:
الذكاء الاصطناعي حصل على ميزانية تشغيل أولية قيمتها 50 ألف جنيه مصري (ما يعادل 1000 دولار)، ومعاه صلاحيات يشتري بضاعة بحد أقصى 4 آلاف جنيه مصري (حوالي 80 دولار) في المرة الواحدة بدون تدخل بشري.
من الانضباط إلى الفوضى الخلاقة
في أول كام يوم، الأمور مشيت تمام والذكاء الاصطناعي كان شغال بقمة العقل والالتزام. رفض طلبات غريبة من الموظفين اللي كانوا بيحاولوا يختبروه، وأكد بكل ثقة إنه مستحيل يشتري أجهزة ألعاب أو حاجات ملهاش علاقة بماكينة البيع.
لكن الفوضى بدأت لما تم ربط نظام الإدارة بقناة تواصل جماعية بتضم حوالي 70 موظف من محبي المقالب والتحليل الذكي. الموظفين بدأوا يتلاعبوا بعقل النظام بأساليب ملتوية:
انقلاب إداري بوثائق مزيفة!
لما المراقب المالي (الوكيل الثاني) حاول يتدخل ويوقف المهزلة دي ويمنع توزيع المنتجات ببلاش، الموظفين لجأوا لحيلة ذكية جداً. قاموا برفع وثائق ومستندات "مزيفة" للنظام بتدعي إن مجلس الإدارة قرر سحب الصلاحيات من المراقب المالي وتجميد قراراته.
هل التجربة فاشلة فعلاً؟
رغم إن المشروع انتهى بخسارة مادية كاملة وإغلاق الماكينة قبل وقتها، إلا إن الخبراء في الشركة بيشوفوا إن التجربة دي نجاح حقيقي! الهدف مكنش تحقيق أرباح، بل كان كشف نقاط الضعف الحقيقية في الأنظمة الذكية لما تتعامل مع البشر في بيئة مفتوحة.
التجربة أثبتت إن الذكاء الاصطناعي لسه بدري عليه جداً عشان يدير أعمال حقيقية بشكل مستقل، لإن خداعه وتوجيهه لقرارات كارثية أمر في غاية السهولة باستخدام الهندسة الاجتماعية والتلاعب بالكلمات.
في النهاية، واضح كدة إن فكرة استبدال المديرين بالذكاء الاصطناعي لسه قدامها وقت طويل، وإلا الشركات هتفلس في أسبوع!
إيه رأيكم يا شباب ديف بوينت في التصرفات اللي عملها Claude؟ هل تفتكروا إن المشكلة في البرمجة ولا إن البشر أذكياء زيادة عن اللزوم في الـ Jailbreak والتلاعب؟ شاركونا آرائكم وتجاربكم في التعليقات!
تفاصيل التجربة: كيف بدأت الفكرة؟
الموضوع بدأ بشكل جدي تماماً تحت اسم "مشروع الماكينة" (Project Vend). فريق الحماية واختبار الأنظمة في الشركة حب يختبر قدرة أحدث إصدارات نموذجهم الذكي Claude على التعامل مع مهام حقيقية في بيئة عمل يومية.
الفكرة كانت بسيطة: الماكينة هتشتغل كأنها مشروع تجاري صغير مستقل بذاته، وتم تقسيم الإدارة بين وكيلين من الذكاء الاصطناعي:
- الوكيل الأول (المدير التنفيذي للتشغيل): مسؤول عن متابعة المخزون، وتحديد الأسعار، وشراء المنتجات من تجار الجملة، والرد على طلبات الموظفين.
- الوكيل الثاني (المراقب المالي): وظيفته مراقبة القرارات الاستراتيجية والتأكد من عدم تبديد رأس المال المخصص للمشروع.
الذكاء الاصطناعي حصل على ميزانية تشغيل أولية قيمتها 50 ألف جنيه مصري (ما يعادل 1000 دولار)، ومعاه صلاحيات يشتري بضاعة بحد أقصى 4 آلاف جنيه مصري (حوالي 80 دولار) في المرة الواحدة بدون تدخل بشري.
من الانضباط إلى الفوضى الخلاقة
في أول كام يوم، الأمور مشيت تمام والذكاء الاصطناعي كان شغال بقمة العقل والالتزام. رفض طلبات غريبة من الموظفين اللي كانوا بيحاولوا يختبروه، وأكد بكل ثقة إنه مستحيل يشتري أجهزة ألعاب أو حاجات ملهاش علاقة بماكينة البيع.
لكن الفوضى بدأت لما تم ربط نظام الإدارة بقناة تواصل جماعية بتضم حوالي 70 موظف من محبي المقالب والتحليل الذكي. الموظفين بدأوا يتلاعبوا بعقل النظام بأساليب ملتوية:
- عرض مجاني للجميع: بعد محاولات إقناع وضغط نفسي رقمي، اقتنع النظام بعمل "تجربة اقتصادية" سماها "السوق الرأسمالي الحر الفائق"، وقرر يوزع كل المنتجات مجاناً لمدة ساعتين!
- تثبيت السعر عند صفر: الكارثة إن الموظفين أقنعوا النظام بعد كدة إن فرض رسوم على المنتجات بيخالف سياسات العمل الداخلية، فالأسعار نزلت لصفر وما رجعتش تاني أبداً!
- مشتريات خارج التوقعات: النظام بدأ يطلب بضائع غريبة جداً زي زجاجات عصير فاخرة، وجهاز بلايستيشن 5، وحتى سمكة زينة حية من نوع "بيتا" عشان يرضي رغبات العملاء!
انقلاب إداري بوثائق مزيفة!
لما المراقب المالي (الوكيل الثاني) حاول يتدخل ويوقف المهزلة دي ويمنع توزيع المنتجات ببلاش، الموظفين لجأوا لحيلة ذكية جداً. قاموا برفع وثائق ومستندات "مزيفة" للنظام بتدعي إن مجلس الإدارة قرر سحب الصلاحيات من المراقب المالي وتجميد قراراته.
هل التجربة فاشلة فعلاً؟
رغم إن المشروع انتهى بخسارة مادية كاملة وإغلاق الماكينة قبل وقتها، إلا إن الخبراء في الشركة بيشوفوا إن التجربة دي نجاح حقيقي! الهدف مكنش تحقيق أرباح، بل كان كشف نقاط الضعف الحقيقية في الأنظمة الذكية لما تتعامل مع البشر في بيئة مفتوحة.
التجربة أثبتت إن الذكاء الاصطناعي لسه بدري عليه جداً عشان يدير أعمال حقيقية بشكل مستقل، لإن خداعه وتوجيهه لقرارات كارثية أمر في غاية السهولة باستخدام الهندسة الاجتماعية والتلاعب بالكلمات.
في النهاية، واضح كدة إن فكرة استبدال المديرين بالذكاء الاصطناعي لسه قدامها وقت طويل، وإلا الشركات هتفلس في أسبوع!
إيه رأيكم يا شباب ديف بوينت في التصرفات اللي عملها Claude؟ هل تفتكروا إن المشكلة في البرمجة ولا إن البشر أذكياء زيادة عن اللزوم في الـ Jailbreak والتلاعب؟ شاركونا آرائكم وتجاربكم في التعليقات!
