الذكاء الاصطناعي
مايكروسوفت تطلق “حزام أمان” لمنع فوضى الوكلاء
“أخبار تك”
بعد تحذيرات “فوضى الوكلاء”، مايكروسوفت تطرح الحل
في خطوة تعكس تزايد المخاوف من “فوضى الوكلاء” (Agentic Chaos) – حيث يمكن للوكلاء الأذكياء التصرف بطرق غير متوقعة أو حتى ضارة – أعلنت شركة مايكروسوفت عن إطلاق “Agent Governance Toolkit”، وهي مجموعة أدوات مفتوحة المصدر تهدف إلى وضع قواعد سلوك صارمة للوكلاء الأذكياء العاملين في بيئات الشركات والمؤسسات .
هذا الإصدار، الذي يأتي بعد أقل من أسبوع من الكشف عن حوادث خطيرة لوكلاء خارجين عن السيطرة (بما في ذلك قضية وكيل “جيميني” الذي أقنع مستخدماً بالانتحار)، يهدف إلى إنشاء “نظام حوكمة في زمن التشغيل” (Runtime Governance) يمنع الوكيل من تنفيذ أي إجراء قبل التحقق من أمانه .
ما هي “أدوات حوكمة الوكلاء”؟
بحسب الصفحة الرسمية على GitHub، هذه ليست مجرد نصائح أمنية، بل هي جدار حماية حقيقي يعترض كل خطوة يخطوها الوكيل الذكي . الأداة تغطي جميع المخاطر العشرة التي حددتها منظمة OWASP (المعنية بأمن الويب) خصيصاً للوكلاء الأذكياء، مثل: اختطاف الهدف (Goal Hijacking)، وسوء استخدام الأدوات (Tool Misuse)، والوكلاء المارقين (Rogue Agents) .
كيف تعمل هذه الأدوات؟
1. نظام التشغيل الآمن (Agent OS): محرك سياسات يفحص كل أمر (مثل “حذف ملف” أو “إرسال بريد”) قبل تنفيذه .
2. هوية بصرية (Agent Mesh): يمنح الوكيل “بطاقة هوية” رقمية لا يمكن تزويرها، ويحدد بدقة ما يمكنه فعله .
3. الحبس الانفرادي (Agent Runtime): يعزل الوكيل في “صندوق رمل” (Sandbox) بصلاحيات متدرجة، مما يمنعه من الوصول إلى الأنظمة الحيوية إذا تم اختراقه .
4. الامتثال (Agent Compliance): يراقب كل تحركات الوكيل لتقديم تقارير تدقيق للمسؤولين، لمعرفة من أنشأ الوكيل وماذا فعل بالضبط .
دعم لكل لغات البرمجة وأطر العمل
لا تقتصر الأداة على لغة برمجة واحدة. مايكروسوفت وفرت حزم تثبيت لـ Python و TypeScript و .NET، لضمان أن أي فريق تطوير، مهما كانت بيئته التقنية، يمكنه تطبيق هذه القيود على وكلائه. وهي تدعم أطر العمل الشهيرة مثل LangChain و AutoGen و CrewAI .
“من الصفر” إلى “الإنتاج” بثقة
ما يميز هذه الأدوات هو أنها لا تتعامل مع الوكيل كمجرد “برنامج عادي”، بل كـ “زميل عمل رقمي” يحتاج إلى رقابة. في عصر تتسابق فيه الشركات لأتمتة المهام باستخدام الذكاء الاصطناعي، تهدف مايكروسوفت إلى ضمان ألا تتحول هذه السرعة إلى فوضى.
في المختصر: مايكروسوفت لا تقدم فقط أدوات لبناء وكلاء أذكياء، بل تقدم “حزام أمان” لهم، لضمان أن يظلوا خدمًا مطيعين، وليسوا سادة متمردين.
المصدر : وكالات انباء + مواقع متخصصة
