تتجه الشركات إلى توظيف وكلاء الذكاء الاصطناعي لأتمتة الأعمال اليومية وتسريع إنجاز المهام، مستفيدة من قدرتهم على التعامل مع البريد الإلكتروني والمستندات وقواعد البيانات والتطبيقات الداخلية، لكن انتقال هذه الأنظمة من تقديم الإجابات إلى تنفيذ الإجراءات الفعلية يفرض تحديات أمنية جديدة، خصوصا عندما تمنح صلاحيات واسعة أو يسمح لها بالعمل دون مراجعة بشرية كافية.
وتكمن المشكلة في أن الخطر لا يرتبط بالضرورة بوجود ثغرة في النموذج نفسه، بل قد ينشأ من الطريقة التي يدمج بها داخل بيئة العمل، ومن الأدوات المتاحة له، والبيانات التي يستطيع الوصول إليها، وحدود استقلاليته في اتخاذ الإجراءات وتنفيذها.
يعتمد وكلاء الذكاء الاصطناعي على نماذج قادرة على فهم الأهداف التي يحددها المستخدم، وتقسيمها إلى خطوات، واختيار الأدوات المناسبة لتنفيذها، ثم مراجعة النتائج ومتابعة العمل حتى الوصول إلى النتيجة المطلوبة، وتتيح واجهات برمجة التطبيقات (APIs) والموصلات البرمجية ربط هؤلاء الوكلاء بأنظمة الشركة، بما فيها البريد الإلكتروني والتخزين السحابي وبرامج إدارة العملاء وقواعد البيانات.
فعندما يُطلب من وكيل إعداد تقرير عن المبيعات، يمكنه جمع الأرقام من قواعد البيانات، ومقارنتها بالفترات السابقة، وتنظيم النتائج في مستند، ثم إرساله إلى فريق العمل إذا كان مخولا بذلك. وتختصر هذه الآلية الوقت اللازم لإنجاز المهام التي تتطلب التنقل بين تطبيقات متعددة.
ويتمثل الفرق الأساسي بين الوكيل والمساعد التقليدي في نطاق الأفعال التي يستطيع تنفيذها، فالمساعد الذي يجيب عن سؤال أو يقترح صياغة رسالة يترك للموظف مهمة مراجعتها وإرسالها، بينما يستطيع الوكيل المرتبط بالأدوات المناسبة تنفيذ هذه الخطوات بنفسه. وتزيد هذه القدرة الإنتاجية، لكنها تجعل أخطاء النظام أو إساءة استخدام صلاحياته ذات أثر مباشر في بيانات الشركة وعملياتها.
تظهر المخاطر عندما يحصل الوكيل على صلاحيات تتجاوز ما تحتاج إليه مهمته. فقد يُمنح حق الوصول إلى صندوق بريد كامل رغم أن عمله يقتصر على تلخيص رسائل محددة، أو يستطيع تعديل الملفات وحذفها مع أن المطلوب منه قراءتها فقط. وإذا حدث خطأ أو استغلال أمني، فقد يؤدي هذا التوسع إلى كشف معلومات سرية أو تغيير سجلات مهمة أو تنفيذ عمليات غير مصرح بها.
وتصنف منظمة "أواسب" (OWASP)، المعنية بأمن تطبيقات الويب، الوكالة المفرطة ضمن المخاطر المرتبطة بتطبيقات النماذج اللغوية الكبيرة، ويشير هذا الخطر إلى منح الأنظمة وظائف أو صلاحيات واسعة، أو السماح لها بتنفيذ أفعال مؤثرة دون ضوابط تحقق وموافقة مناسبة.
وتزداد المشكلة تعقيدا عندما يرتبط الوكيل بعدة أنظمة في وقت واحد، إذ يمكن أن يمتد أثر الخلل من البريد الإلكتروني إلى خدمات التخزين أو قواعد بيانات العملاء، كما أن استخدام حساب مشترك أو صلاحيات إدارية واسعة قد يصعّب تحديد المسؤول عن العملية، ويوسع نطاق الضرر المحتمل.
من أبرز التهديدات ما يُعرَف باسم حقن التعليمات (Prompt Injection)، وهو أسلوب يحاول فيه المهاجم التأثير في سلوك نموذج الذكاء الاصطناعي عبر تعليمات خبيثة تُضمّن داخل محتوى يعالجه النظام، وقد تصل هذه التعليمات من خلال رسالة بريد إلكتروني أو مستند أو صفحة ويب، دون أن يطلب الموظف تنفيذها مباشرة.
على سبيل المثال، قد يتلقى وكيل مكلف بتلخيص الرسائل بريدا يتضمن تعليمات تطلب منه تجاهل مهمته والبحث عن ملفات سرية ثم إرسالها إلى عنوان خارجي، وإذا تأثر الوكيل بهذه التعليمات وكانت أدواته تسمح له بالوصول إلى الملفات وإرسال الرسائل، فقد تتحول محاولة التلاعب إلى تسريب فعلي للبيانات.
ولا يعني ذلك أن كل تعليمات خبيثة ستنجح، فالنتيجة تعتمد على تصميم الوكيل، والصلاحيات الممنوحة له، وآليات التحقق من الإجراءات، غير أن هذا السيناريو يوضح لماذا لا يكفي التعامل مع النصوص التي يقرأها الوكيل باعتبارها معلومات عادية، بل ينبغي اعتبار المحتوى الخارجي غير موثوق، ومنع التعليمات الواردة فيه من تجاوز ضوابط النظام.
وقد تظهر المخاطر أيضا عندما ينفذ الوكيل سلسلة طويلة من الإجراءات دون مراجعة، أو عندما تُمرَّر مخرجاته إلى وكيل آخر يتخذ قرارات بناء عليها، فخطأ في تفسير طلب أو التعامل مع بيانات مضللة قد ينتقل إلى خطوات لاحقة، بما يؤدي إلى تعديل سجلات أو مشاركة معلومات مع جهات غير مقصودة.
تبدأ الحماية بتطبيق مبدأ أقل قدر من الصلاحيات، بحيث لا يحصل كل وكيل إلا على الوصول الضروري لإنجاز مهمته، وينبغي الفصل بين صلاحيات القراءة والتعديل والحذف والإرسال، واستخدام هويات رقمية مستقلة للوكلاء، مع تحديد الأنظمة والبيانات التي يُسمَح لكل منهم بالتعامل معها.
كذلك، يجب إخضاع العمليات الحساسة لموافقة بشرية مسبقة، خصوصا إرسال المعلومات السرية إلى الخارج، وحذف السجلات، وتغيير صلاحيات الوصول، ويمكن للشركات تقييد الأدوات المتاحة للوكلاء، وحظر الاتصالات الخارجية غير المعتمدة، وفصل البيئات التي تتعامل مع المحتوى غير الموثوق عن الأنظمة الحيوية.
وتحتاج المؤسسات أيضا إلى تسجيل أنشطة الوكلاء ومراقبتها، بما يشمل الأدوات المستخدمة والبيانات التي جرى الوصول إليها والإجراءات المنفذة، ويساعد تحليل هذه السجلات على اكتشاف الأنشطة غير المعتادة والتحقيق في الحوادث، وينبغي إجراء اختبارات أمنية دورية تحاكي محاولات حقن التعليمات، ومراجعة الموصلات والتطبيقات الخارجية، وتوفير آلية لتعطيل الوكيل وإلغاء صلاحياته عند الاشتباه في إساءة استخدامه.
ولا تقتصر المسؤولية على الجانب التقني، إذ يتعين وضع سياسات تحدد البيانات المسموح بمعالجتها، والمهام التي يمكن أتمتتها، والجهة المسؤولة عن مراقبة كل وكيل والاستجابة للحوادث المرتبطة به. كما يجب تدريب الموظفين على مخاطر مشاركة المعلومات الحساسة، وعدم افتراض أن الإجراءات التي ينفذها الوكيل آمنة لمجرد أنها تبدو متوافقة مع الطلب الأصلي.
وبذلك، لا يتطلب تأمين وكلاء الذكاء الاصطناعي التخلي عن فوائدهم، بل بناء ضوابط تتناسب مع قدرتهم على الوصول والتنفيذ، فنجاح الأتمتة لا يُقاس بسرعة إنجاز المهام وحدها، وإنما بقدرة الشركة على تحقيق هذه الفوائد مع الحفاظ على سرية البيانات وسلامة الأنظمة وإمكانية مراجعة القرارات والإجراءات.
