قبل أن تمنح وكيل الذكاء الاصطناعي صلاحية التصرف في شركتك

كثير من الشركات في السعودية والخليج بدأت تنظر إلى الذكاء الاصطناعي كموظف رقمي قادر على إنجاز المهام لا مجرد أداة تجيب عن الأسئلة. قد تطلب منه متابعة عميل في نظام إدارة العلاقات، أو إنشاء عرض سعر، أو تحديث طلب في نظام الموارد، أو الرد على استفسارات الموقع، أو تلخيص محادثات واتساب لفريق المبيعات. الفكرة مغرية، لكنها تحمل سؤالًا مهمًا: إذا كان هذا الوكيل يستطيع الدخول إلى أنظمتك وتنفيذ إجراءات فعلية، فبأي هوية يدخل؟ ومن يحدد صلاحياته؟ وكيف تعرف ماذا فعل بعد انتهاء المهمة؟

نشر المعهد الوطني للمعايير والتقنية الأمريكي (NIST) طرحًا مهمًا حول حاجة الذكاء الاصطناعي الوكيل (Agentic AI) إلى أساس قوي للهوية الرقمية. الرسالة الأساسية مفيدة لأي صاحب عمل يفكر في ربط وكلاء الذكاء الاصطناعي بأنظمة الشركة: لا تبدأ بالأتمتة قبل أن تضبط الهوية والصلاحيات والمراقبة.

الوكيل الذكي ليس مجرد محادثة

الفرق كبير بين روبوت يجيب عن أسئلة عامة، ووكيل ذكاء اصطناعي يستطيع تنفيذ خطوات داخل أنظمة الشركة. الأول قد يكتب نصًا أو يقترح ردًا. الثاني قد يدخل إلى نظام العملاء، يبحث في الطلبات، يرسل بريدًا، يعدل بيانات، يرفع ملفًا، أو يطلب موافقة.

هنا يتحول الذكاء الاصطناعي من “مساعد” إلى “طرف عامل” داخل بيئة الشركة. لذلك لا يكفي أن تسأله: ماذا يمكنك أن تفعل؟ بل يجب أن تسأل: ماذا يُسمح لك أن تفعل؟ ومتى؟ ولحساب من؟ وتحت أي رقابة؟

تخيل متجرًا إلكترونيًا يمنح وكيلًا ذكيًا صلاحية التعامل مع طلبات العملاء. إذا لم تكن الصلاحيات محددة بدقة، فقد يوافق على استرجاع مبالغ دون حد واضح، أو يغير عنوان شحن بناءً على طلب غير موثّق، أو يطلع على بيانات عملاء لا يحتاجها. وفي عيادة خاصة، قد يقرأ الوكيل بيانات حساسة بحجة ترتيب المواعيد، بينما لا يحتاج إلا إلى أوقات الحجز ورقم الملف.

المشكلة ليست في الذكاء الاصطناعي نفسه، بل في طريقة إدخاله إلى أنظمة العمل. أي تقنية تمنحها صلاحية واسعة دون ضوابط ستتحول إلى نقطة خطر، حتى لو كان هدفها رفع الإنتاجية.

الهوية الرقمية أول خطوة قبل الربط

عندما يدخل موظف إلى نظام الشركة، يكون له حساب واسم مستخدم وصلاحيات وسجل نشاط. وكيل الذكاء الاصطناعي يحتاج المنطق نفسه. لا ينبغي أن يعمل من خلال حساب موظف عام، ولا من خلال مفتاح وصول مشترك بين أكثر من خدمة، ولا بصلاحيات مدير النظام “حتى لا تتعطل التجربة”.

الهوية الرقمية تعني أن يكون لكل وكيل تعريف واضح داخل الأنظمة. مثلًا: وكيل لخدمة العملاء، وكيل للمبيعات، وكيل لإدارة المواعيد، أو وكيل لمتابعة الفواتير. لكل واحد نطاق عمل مختلف. وكيل خدمة العملاء في مطعم لا يحتاج صلاحية الاطلاع على رواتب الموظفين. ووكيل المبيعات في شركة مقاولات لا يحتاج صلاحية حذف عقود أو تعديل شروط اعتماد مالي.

من الأخطاء الشائعة في مشاريع الأتمتة أن يبدأ الفريق بربط الذكاء الاصطناعي بكل شيء كي “نرى النتائج سريعًا”. قد ينجح النموذج الأولي، لكن الخطر يظهر عند التشغيل الفعلي. بعد أسابيع، يصبح من الصعب معرفة أي وكيل نفذ أي إجراء، وهل كان يملك صلاحية مناسبة، وهل تصرف بناءً على طلب عميل صحيح أم نتيجة فهم خاطئ.

الأساس السليم يبدأ بتصميم الهوية قبل تصميم المهام. اسأل: ما اسم هذا الوكيل داخل النظام؟ من مالك الوكيل في الشركة؟ ما الأنظمة التي يحتاجها؟ ما البيانات التي يقرأها فقط؟ وما العمليات التي يسمح له بتنفيذها؟ وما العمليات التي تحتاج موافقة بشرية؟

الصلاحيات المحدودة تحمي الشركة من الأخطاء

منح الوكيل صلاحيات واسعة يبدو أسهل في البداية، لكنه يفتح بابًا لمخاطر تشغيلية وأمنية. القاعدة الأفضل هي منح أقل صلاحية تكفي لإنجاز المهمة. إذا كان الوكيل مخصصًا للرد على استفسارات العملاء، فربما يحتاج قراءة حالة الطلب وسياسة الإرجاع، لا تعديل الفواتير أو تغيير بيانات الحساب البنكي.

في مكتب عقار، قد يساعد الوكيل في فرز العملاء المحتملين وتسجيل طلباتهم. هذا لا يعني أن يملك حق تعديل بيانات الصكوك، أو إرسال عقود نهائية، أو اعتماد عمولات. وفي شركة خدمات، قد يساعد في فتح تذاكر دعم، لكنه لا يجب أن يغلق شكوى حساسة دون مراجعة من مسؤول.

الصلاحيات يجب أن تكون محددة حسب المهمة والسياق. بعض الأعمال مسموحة دائمًا، مثل قراءة سياسة منشورة أو إنشاء مسودة. وبعضها مسموح بشروط، مثل إرسال عرض سعر ضمن حد معين. وبعضها يجب أن يبقى بيد الإنسان، مثل الموافقات المالية، أو حذف بيانات، أو التعامل مع شكوى قانونية، أو تغيير صلاحية مستخدم آخر.

من المفيد أيضًا الفصل بين “القراءة” و“التنفيذ”. قراءة بيانات عميل ليست مثل تعديلها. إعداد مسودة بريد ليس مثل إرسالها. اقتراح خصم ليس مثل اعتماده. هذا الفصل البسيط يقلل الأخطاء ويجعل تجربة الذكاء الاصطناعي أكثر أمانًا.

التوثيق والسجلات ليست رفاهية تقنية

إذا نفذ الوكيل إجراءً خاطئًا، تحتاج أن تعرف ما حدث بسرعة. من طلب المهمة؟ ما البيانات التي استخدمها؟ ما القرار الذي اتخذه؟ هل أرسل رسالة؟ هل عدّل سجلًا؟ هل حصل على موافقة؟ هنا تأتي أهمية التوثيق والمصادقة وسجلات النشاط.

المصادقة (Authentication) تؤكد أن الوكيل أو النظام المتصل هو فعلًا الطرف المصرح له. أما سجلات النشاط فتمنح الإدارة وفريق التقنية قدرة على المراجعة والتحقيق وتحسين الأداء. من دون هذه السجلات، ستصبح الأخطاء قصصًا متفرقة: “الذكاء الاصطناعي فعل كذا”، دون دليل واضح.

في بيئة عملية، يجب تسجيل الأحداث المهمة: دخول الوكيل، البيانات التي طلبها، الإجراء الذي نفذه، النظام الذي تعامل معه، ونتيجة العملية. لا يعني ذلك تخزين كل محادثة بلا ضابط، خاصة إذا تضمنت بيانات حساسة. المطلوب هو توازن بين الخصوصية والقدرة على المتابعة.

السجلات تساعد أيضًا في تطوير الخدمة. إذا اكتشفت أن الوكيل يطلب معلومات غير لازمة، يمكنك تقليل صلاحياته. وإذا لاحظت أنه يتوقف كثيرًا عند خطوة معينة، يمكنك تحسين سير العمل. وإذا تكرر طلب موافقات بشرية في حالات بسيطة، يمكنك إعادة تصميم القواعد.

متى يجب أن يتدخل الإنسان؟

الرقابة البشرية ليست عائقًا أمام الأتمتة. هي جزء من نجاحها. لا تحتاج أن يراجع الموظف كل رد وكل خطوة، وإلا فقدت الأتمتة قيمتها. لكنك تحتاج نقاط توقف واضحة عند القرارات المؤثرة.

يمكن تقسيم المهام إلى 3 مستويات:

1. مهام منخفضة المخاطر: مثل تلخيص رسالة، إنشاء مسودة، أو البحث في قاعدة معرفة داخلية.
2. مهام متوسطة المخاطر: مثل تحديث حالة طلب، إرسال رد لعميل، أو إنشاء تذكرة دعم.
3. مهام عالية المخاطر: مثل اعتماد مبلغ، تعديل عقد، حذف بيانات، أو تغيير صلاحيات مستخدم.

المستوى الأول يمكن أن يعمل بحرية أوسع. المستوى الثاني يحتاج قواعد وحدودًا. المستوى الثالث يجب أن يمر عبر موافقة بشرية واضحة. بهذه الطريقة لا توقف الابتكار، ولا تترك الأنظمة مفتوحة لتصرفات غير مقصودة.

الأهم أن يعرف الموظفون متى يعتمدون على الوكيل ومتى لا يعتمدون عليه. التدريب الداخلي مهم، ليس بلغة تقنية معقدة، بل بسياسات سهلة: هذه المهام مسموحة، هذه تحتاج مراجعة، وهذه ممنوعة على الوكيل.

أهم الخلاصات

• وكيل الذكاء الاصطناعي الذي ينفذ إجراءات يحتاج هوية رقمية مستقلة.
• لا تربط الوكيل بأنظمة العملاء أو الفواتير أو الموارد دون تحديد صلاحيات دقيقة.
• امنح الوكيل أقل صلاحية تكفي للمهمة، ولا تستخدم حسابات مشتركة أو عامة.
• سجلات النشاط ضرورية لمعرفة ما فعله الوكيل ومتى ولماذا.
• القرارات المالية والقانونية والحساسة تحتاج رقابة بشرية.
• نجاح الأتمتة يبدأ من الحوكمة، لا من تجربة نموذجية سريعة فقط.

الذكاء الاصطناعي الوكيل قد يختصر وقتًا كبيرًا على فرق المبيعات والدعم والتشغيل، لكنه يحتاج تأسيسًا صحيحًا قبل أن يدخل إلى قلب أنظمة الشركة. إذا كنت تفكر في ربط وكلاء ذكاء اصطناعي بموقعك أو نظام العملاء أو عمليات الموافقات، يمكن لفريق صنّاع التطور لتقنية المعلومات مساعدتك في تقييم الفكرة ووضع تصور آمن للتنفيذ. يسعدنا تقديم استشارة تقنية مجانية عبر واتساب متى رغبت بذلك.