هل يستطيع نظام الذكاء الاصطناعي في شركتك الدفاع عن قراراته؟

حين تبدأ شركتك استخدام الذكاء الاصطناعي في الرد على العملاء، فرز طلبات التوظيف، اقتراح الموافقات، أو مراجعة فواتير الموردين، لا يكون السؤال المهم فقط: هل يعمل النظام بسرعة؟ السؤال الأهم: ماذا لو أخطأ؟ ومن يراجع قراره؟ وهل تستطيع إثبات ما حدث بعد شهر أو سنة؟ هذه الأسئلة لم تعد تقنية بحتة. أصبحت مرتبطة بالمسؤولية، والحوكمة، وثقة العملاء، وربما بتقييم شركات التأمين للمخاطر.

نشر موقع The Register خبرًا عن تردد بعض شركات التأمين في التعامل مع مسؤوليات الشركات الناتجة عن مخاطر الذكاء الاصطناعي (AI). وذكر الخبر أن مؤسسة RAND تدعو إلى بيانات أفضل تساعد على فهم حوادث الأنظمة الآلية وتسعير مخاطرها. بالنسبة لصاحب عمل في السعودية أو الخليج، الرسالة واضحة: قبل أن تعتمد على الذكاء الاصطناعي في مسار حساس، اجعل النظام قابلًا للمراجعة، لا مجرد أداة ذكية تعمل في الخلفية.

الذكاء الاصطناعي لا يرفع الخطر وحده بل يغيّر مكانه

كثير من الشركات تبدأ من نقطة بسيطة: روبوت محادثة يرد على أسئلة العملاء، أو أداة تلخص الرسائل، أو نظام يساعد موظف المالية في تصنيف المصروفات. هذه الاستخدامات تبدو آمنة في البداية. لكنها تتحول إلى منطقة حساسة عندما يبدأ النظام بالتأثير في قرار حقيقي.

في متجر إلكتروني، قد يقترح النظام رفض استرجاع منتج. في عيادة، قد يوجه المريض إلى مسار خدمة غير مناسب. في مكتب عقار، قد يعطي العميل معلومات غير دقيقة عن توفر وحدة أو شروط دفعة. في شركة مقاولات، قد يصنف طلب مورد على أنه منخفض الأولوية. الخطأ هنا ليس مجرد إجابة غير دقيقة، بل قد ينتج عنه ضرر مالي، شكوى، نزاع، أو فقدان ثقة.

المشكلة ليست في استخدام الذكاء الاصطناعي بحد ذاته. المشكلة تظهر عندما لا تعرف الشركة من يملك القرار، وما حدود النظام، ومتى يجب تدخل الموظف. إذا كان النظام يقترح فقط، فهذا وضع. وإذا كان يعتمد أو يرفض أو يرسل إشعارًا للعميل دون مراجعة، فهذا وضع آخر يحتاج ضوابط أقوى.

ما الذي تحتاجه قبل تشغيل الذكاء الاصطناعي في مسار حساس؟

أول خطوة عملية هي تحديد دور النظام بدقة. لا تكتفِ بعبارة عامة مثل: نستخدم الذكاء الاصطناعي لتحسين الخدمة. اكتب بوضوح: النظام يقرأ طلب العميل، يقترح تصنيفًا، يجهز ردًا، ولا يرسله إلا بعد موافقة موظف. أو: النظام يسمح بالرد التلقائي فقط على الأسئلة العامة، ولا يتعامل مع الشكاوى أو المبالغ المالية.

بعد ذلك، عيّن مالكًا للعملية. لا تجعل المسؤولية موزعة بين التقنية وخدمة العملاء والإدارة. كل مسار مدعوم بالذكاء الاصطناعي يحتاج صاحب قرار تجاريًا. هذا الشخص لا يبرمج النظام، لكنه يعرف أثره على العملاء والموظفين والإيرادات. عند حدوث خطأ، يكون واضحًا من يراجع الحادثة ومن يعتمد التعديل.

ثم أضف مراجعة بشرية في النقاط الحساسة. ليس المطلوب أن يراجع الموظف كل كلمة يكتبها النظام، فهذا يلغي فائدة الأتمتة. لكن يجب تحديد الحالات التي تتطلب مراجعة: رفض طلب، تغيير مبلغ، تعليق حساب، تقييم موظف، رد على شكوى رسمية، أو أي قرار يمس حقوق العميل أو العامل أو المورد.

هذه الضوابط تجعل الذكاء الاصطناعي مساعدًا قويًا لا مديرًا غامضًا يصعب مساءلته.

السجلات ليست رفاهية تقنية

حين تقع مشكلة، لن يفيدك القول إن النظام أخطأ فقط. ستحتاج إلى معرفة ما أدخله المستخدم، وما البيانات التي استخدمها النظام، وما الرد أو التوصية التي قدمها، ومن وافق، ومتى، وما التعديل الذي حدث بعد ذلك.

لذلك تحتاج الشركة إلى سجلات تشغيل واضحة. في نظام خدمة العملاء مثلًا، يجب حفظ نسخة من سؤال العميل، وإجابة الذكاء الاصطناعي، واسم الموظف الذي راجع الرد إن وجدت مراجعة، ووقت الإرسال. في الموارد البشرية، إذا استخدمت أداة لفرز السير الذاتية، يجب معرفة المعايير المستخدمة، والمرحلة التي تدخل فيها الموظف البشري، وأسباب استبعاد المرشح إن كانت موثقة.

السجلات لا تخدم النزاعات فقط. هي تساعدك على تحسين النظام. إذا تكررت أخطاء في نوع معين من الطلبات، ستكتشف ذلك مبكرًا. إذا كان النظام يسيء فهم لهجة أو صياغة معينة يستخدمها عملاؤك في السعودية، تستطيع تعديل التعليمات أو حدود الاستخدام. وإذا ظهر خلل بعد تحديث جديد، تستطيع مقارنة الأداء قبل التحديث وبعده.

لا يعني ذلك الاحتفاظ بكل شيء إلى الأبد. يجب تحديد مدة الاحتفاظ بحسب طبيعة البيانات والأنظمة الداخلية والالتزامات النظامية. المهم ألا تعمل الأتمتة بلا أثر يمكن تتبعه.

حدود البيانات تحمي الشركة قبل أن تحمي النظام

كثير من مخاطر الذكاء الاصطناعي تبدأ من البيانات. قد ينسخ موظف ملف عملاء كاملًا داخل أداة خارجية. قد يرفع عقودًا تحتوي على معلومات حساسة. قد يستخدم النظام محادثات العملاء لتوليد ردود، ثم يعيد إظهار معلومة لا تخص العميل الحالي. هذه ليست أخطاء تقنية معقدة، لكنها مؤثرة.

لذلك تحتاج إلى حدود واضحة للبيانات. حدّد ما يمكن إدخاله في النظام وما لا يمكن. افصل البيانات الحساسة مثل الهوية، المعلومات الصحية، الرواتب، الحسابات البنكية، والعقود. لا تمنح الأداة وصولًا أوسع مما تحتاج. إن كان دور النظام تلخيص شكاوى العملاء، فلا يحتاج إلى الاطلاع على كل تاريخ العميل المالي إلا إذا كان ذلك ضروريًا ومصرحًا به.

في الشركات الصغيرة والمتوسطة، تظهر المشكلة غالبًا من الأدوات المتفرقة. فريق التسويق يستخدم أداة، وخدمة العملاء تستخدم أخرى، والمالية تجرب خدمة ثالثة. كل فريق يتحرك بنية حسنة، لكن دون سياسة موحدة. هنا تصبح الحوكمة بسيطة لكنها ضرورية: أدوات معتمدة، صلاحيات محددة، تعليمات مكتوبة، ومسؤول يراجع الاستخدامات الجديدة قبل إطلاقها.

خطة الرجوع عند الخطأ أهم من الوعد بعدم الخطأ

لا يوجد نظام خالٍ من الأخطاء. لذلك لا تبنِ ثقتك على أن الذكاء الاصطناعي لن يخطئ. ابنِها على قدرتك على اكتشاف الخطأ بسرعة، ووقف أثره، وتصحيحه، وتوثيق ما حدث.

ضع مسارًا بديلًا عند تعطل النظام أو تراجع دقته. إذا كان روبوت المحادثة لا يفهم طلب العميل بعد محاولتين، يجب تحويله إلى موظف. إذا قدم النظام توصية غير مؤكدة في مطالبة مالية، يجب تجميد القرار لحين المراجعة. إذا ظهرت شكاوى متكررة من ردود خاطئة، يجب أن يكون لدى الفريق صلاحية إيقاف الأتمتة مؤقتًا دون انتظار اجتماع طويل.

سجّل الحوادث الصغيرة قبل الكبيرة. ليس كل خطأ يستحق تقريرًا موسعًا، لكن تكرار الأخطاء البسيطة يكشف نمطًا. مثال ذلك: مطعم يستخدم نظامًا آليًا للرد على طلبات التوصيل، فيكرر وعودًا بوقت تسليم غير واقعي. أو عيادة تستخدم مساعدًا لحجز المواعيد، فيقترح أوقاتًا غير متاحة. هذه الحوادث إذا وُثقت مبكرًا تساعدك على تعديل النظام قبل أن تتحول إلى شكاوى علنية.

أهم الخلاصات

• لا تجعل الذكاء الاصطناعي يتخذ قرارات حساسة دون مالك واضح ومراجعة بشرية.
• احتفظ بسجلات تبين المدخلات، والمخرجات، ومن راجع القرار، ومتى حدث ذلك.
• ضع حدودًا صارمة للبيانات التي يمكن للنظام استخدامها أو تخزينها.
• جهّز مسارًا بديلًا عند الخطأ أو الشك أو تعطل النظام.
• وثّق الحوادث الصغيرة لأنها تساعدك على فهم الخطر والدفاع عن قراراتك.
• ابدأ بالاستخدامات الأقل حساسية، ثم وسّع النطاق بعد اختبار الضوابط.

الذكاء الاصطناعي يمكن أن يخفض التكاليف ويرفع سرعة العمل، لكنه يحتاج تصميمًا مسؤولًا عندما يدخل في خدمة العملاء، الموافقات، المالية، الموارد البشرية، أو العمليات اليومية. تردد بعض شركات التأمين الذي أشار إليه The Register ليس سببًا لتأجيل التطوير، بل تنبيه إلى أن النضج التشغيلي مهم بقدر أهمية التقنية نفسها.

إذا كنت تفكر في إدخال الذكاء الاصطناعي إلى نظامك الحالي، أو تريد مراجعة مسار آلي قبل إطلاقه، يمكن لفريق صنّاع التطور لتقنية المعلومات مساعدتك في تقييم المخاطر وبناء ضوابط عملية تناسب شركتك. يسعدنا تقديم استشارة تقنية مجانية عبر واتساب متى رغبت بذلك.