شعار صنّاع التطور لتقنية المعلومات
العودة للمدونة
الذكاء الاصطناعي7 دقيقة قراءة

هل تعمل أدوات الذكاء الاصطناعي في شركتك خارج نطاق السيطرة؟

تقرير حديث من Help Net Security يكشف فجوة واضحة بين انتشار أدوات الذكاء الاصطناعي القادرة على التصرف داخل الشركات وبين جودة الرقابة عليها. هذه فرصة مهمة للشركات السعودية لمراجعة الصلاحيات والموافقات والسجلات قبل توسيع الأتمتة.

مدير يراجع ضوابط أدوات الذكاء الاصطناعي والأتمتة داخل شركة سعودية
Photo: Help Net Security via NewsAPI

تستخدم شركات كثيرة اليوم أدوات ذكاء اصطناعي داخل العمل اليومي دون أن تسمي ذلك مشروعًا كبيرًا. موظف خدمة العملاء يستعين بمساعد ذكي للرد. فريق المبيعات يولّد عروض أسعار. المحاسب يستخدم أداة لتصنيف الفواتير. إدارة التشغيل تربط نموذجًا ذكيًا بنظام الطلبات أو نظام الحجز. تبدو هذه الخطوات بسيطة ومفيدة، لكنها تفتح سؤالًا مهمًا لصاحب العمل: من يراجع قرارات هذه الأدوات؟ ومن يعرف ماذا تستطيع أن تفعل فعلًا؟

نشر موقع Help Net Security خبرًا يشير إلى أن 87% من المشاركين يرون أن ضوابط الذكاء الاصطناعي لديهم تحتاج إلى تحسين. ويستند الخبر إلى آراء 3,600 من صناع القرار في الأعمال. اللافت أن أكثر من نصفهم قالوا إن الأنظمة المستخدمة في فرقهم تستطيع التصرف ضمن قواعد محددة دون انتظار موافقة في كل مرة، عبر 5 فئات من أدوات الذكاء الاصطناعي، من روبوتات المحادثة إلى أتمتة العمليات.

هذه الأرقام لا تخص الشركات العالمية وحدها. في السعودية والخليج، تتحرك الشركات بسرعة نحو الأتمتة، خصوصًا في المتاجر الإلكترونية، العيادات، المطاعم، شركات الخدمات، مكاتب العقار والمقاولات. ومع السرعة، قد تتأخر الحوكمة عن التطبيق. هنا تبدأ المخاطر.

الذكاء الاصطناعي لم يعد مجرد أداة تكتب نصًا

قبل فترة قصيرة، كان استخدام الذكاء الاصطناعي في الشركات يدور حول كتابة بريد، تلخيص اجتماع، أو توليد أفكار تسويقية. كان الخطر محدودًا نسبيًا لأن الإنسان ينسخ النتيجة ويراجعها قبل إرسالها.

اليوم تغيّر المشهد. بعض الأدوات أصبحت ترتبط بأنظمة حقيقية: نظام إدارة العملاء، بوابة الطلبات، المخزون، نظام المواعيد، الفوترة، أو قنوات التواصل. هنا لا نتحدث عن نص مقترح فقط، بل عن إجراء قد يحدث داخل سير العمل.

مثال بسيط: متجر إلكتروني يستخدم مساعدًا ذكيًا لمعالجة طلبات الاسترجاع. إذا كانت القواعد غير واضحة، قد يوافق النظام على استرجاع طلبات لا تنطبق عليها السياسة، أو يرفض طلبات صحيحة ويؤثر في رضا العميل. في عيادة، قد يرسل مساعد آلي رسالة متابعة لمريض، لكن من دون ضوابط دقيقة قد يذكر معلومات حساسة أو يرسلها إلى رقم غير مناسب. في مكتب عقار، قد يولّد النظام ردودًا على العملاء بناءً على بيانات غير محدثة عن الأسعار أو التوفر.

المشكلة ليست في الذكاء الاصطناعي نفسه، بل في تركه يعمل بصلاحيات واسعة قبل تصميم حدود واضحة له.

أين تظهر فجوة السيطرة داخل الشركات؟

فجوة السيطرة لا تظهر دائمًا على شكل اختراق أمني أو عطل واضح. أحيانًا تبدأ من تفاصيل صغيرة داخل العمليات اليومية.

قد تمنح أداة ذكاء اصطناعي صلاحية الوصول إلى ملفات كثيرة لأنها تحتاج إلى “فهم العمل”. بعد أشهر، لا يعرف أحد بدقة أي ملفات تقرأها، ومن يملك حق تعديل هذا الوصول. وقد تسمح لها بإرسال رسائل للعملاء ضمن قوالب جاهزة، ثم تتوسع القوالب تدريجيًا حتى تصبح الأداة تتعامل مع حالات استثنائية لم تعتمدها الإدارة.

تظهر الفجوة أيضًا في حدود الموافقة. هل يستطيع النظام اعتماد خصم؟ هل يحق له تغيير موعد؟ هل يمكنه إغلاق تذكرة دعم؟ هل يرسل عرض سعر؟ هل يضيف ملاحظة في ملف عميل؟ كل قرار من هذه القرارات يحتاج مستوى مختلفًا من الرقابة.

ومن النقاط التي يغفل عنها كثير من أصحاب الأعمال: السجلات. إذا اتخذت أداة ذكية إجراء خاطئًا، هل تستطيع معرفة السبب؟ من أعطاها الصلاحية؟ ما البيانات التي اعتمدت عليها؟ هل راجع أحد النتيجة؟ غياب السجل يجعل التصحيح صعبًا، ويحوّل الخطأ الواحد إلى خلاف داخلي بين التقنية والتشغيل وخدمة العملاء.

لهذا لا يكفي أن تقول: “الأداة تعمل جيدًا”. السؤال الأهم: هل تستطيع تفسير عملها ومراجعة تصرفاتها عند الحاجة؟

ما الذي يجب مراجعته قبل توسيع الأتمتة؟

إذا كانت شركتك تستخدم الذكاء الاصطناعي في أي جزء من العمل، فابدأ بمراجعة عملية، لا بمشروع طويل ومعقد. الهدف أن تعرف الوضع الحالي قبل إضافة أدوات جديدة أو ربطها بأنظمة حساسة.

ابدأ بالصلاحيات. حدد ما تستطيع كل أداة الوصول إليه. لا تمنحها كل البيانات لأنها “قد تحتاجها”. أداة خدمة العملاء لا تحتاج غالبًا إلى الاطلاع على كل التقارير المالية. وأداة التسويق لا تحتاج إلى صلاحيات تعديل بيانات العملاء الأساسية.

ثم راجع حدود الموافقة. ضع مستويات واضحة. قرارات منخفضة المخاطر يمكن أن تتم آليًا، مثل تصنيف تذكرة دعم أو اقتراح رد. قرارات متوسطة تحتاج مراجعة بشرية، مثل إرسال عرض مخصص أو تغيير موعد مهم. قرارات عالية المخاطر يجب أن تبقى بيد موظف مسؤول، مثل اعتماد استرداد مالي كبير أو تعديل بيانات حساسة.

بعد ذلك، انظر إلى المراجعة البشرية. وجود الإنسان لا يعني أن يضغط “موافق” دون قراءة. صمم شاشة مراجعة تعرض السبب، البيانات المستخدمة، والتغيير المقترح. كلما كانت المراجعة سهلة وواضحة، زادت فائدتها.

لا تنس السجلات. يجب أن تعرف ماذا فعلت الأداة، ومتى، وبأي صلاحية، ومن راجع القرار إن وجدت مراجعة. السجلات ليست مطلبًا تقنيًا فقط، بل أداة لحماية سمعة الشركة وحل النزاعات مع العملاء والموظفين.

راجع أيضًا الحالات الاستثنائية. ماذا يحدث إذا لم يفهم النظام الطلب؟ ماذا لو تعارضت البيانات؟ ماذا لو طلب العميل شيئًا خارج السياسة؟ الأداة الجيدة لا تخترع قرارًا في هذه اللحظة، بل تصعّد الحالة إلى موظف مختص.

وأخيرًا، عيّن مالكًا واضحًا لكل أداة. لا تتركها بين التقنية والتشغيل دون مسؤولية. كل نظام ذكي يحتاج شخصًا أو فريقًا يراجع الأداء، يوافق على التغييرات، ويتابع المخاطر.

أمثلة قريبة من السوق السعودي

في مطعم يعتمد على الطلبات عبر واتساب أو تطبيق خاص، قد يساعد الذكاء الاصطناعي في استقبال الطلبات والرد على الأسئلة المتكررة. هذا مفيد، لكن يجب أن تكون حدوده واضحة. لا يغيّر أسعار الوجبات من تلقاء نفسه، ولا يؤكد طلبات كبيرة دون مراجعة، ولا يتعامل مع الشكاوى الحساسة بردود آلية فقط.

في شركة مقاولات، قد يستخدم الفريق أداة لتلخيص مراسلات المشاريع وتحديد المهام. إذا وصلت الأداة إلى عقود أو مستندات مالية، فهنا يلزم ضبط الوصول. ليس كل موظف يحتاج إلى كل الملخصات، وليس كل ملخص يصلح أن يتحول إلى قرار تنفيذي.

في عيادة، قد يساعد النظام في تذكير المرضى بالمواعيد أو فرز الاستفسارات. لكن بيانات المرضى حساسة. يجب تحديد من يرى البيانات، وما الذي يمكن للأداة إرساله، ومتى يجب تحويل المحادثة إلى موظف.

في متجر إلكتروني، قد تكون الأتمتة مفيدة في الاسترجاع، الشحن، وخدمة ما بعد البيع. لكن إذا لم تربطها بسياسة واضحة وحدود مالية، فقد تتحول من وسيلة لتسريع الخدمة إلى مصدر خسائر أو شكاوى.

هذه الأمثلة لا تعني إيقاف الذكاء الاصطناعي. العكس صحيح. الشركة التي تضبط استخدامه مبكرًا تستطيع التوسع بثقة أكبر، وتحقق فائدة أعلى من الأتمتة دون فوضى داخلية.

كيف تبني حوكمة بسيطة دون تعطيل الفريق؟

كلمة “حوكمة” قد تبدو ثقيلة لبعض الإدارات. لكنها في التطبيق العملي تعني اتفاقًا واضحًا بين الإدارة والتقنية والفرق التشغيلية. من يحق له استخدام الأداة؟ ما البيانات المسموحة؟ ما القرارات الآلية؟ متى نحتاج موافقة؟ كيف نوثق ما حدث؟

ابدأ بجرد الأدوات الموجودة. اسأل الفرق عن الأدوات التي يستخدمونها، حتى لو كانت اشتراكات صغيرة أو إضافات داخل المتصفح. كثير من المخاطر تبدأ من أدوات غير معروفة للإدارة.

بعد الجرد، صنّف الأدوات حسب المخاطر. أداة تكتب منشورات تسويقية تختلف عن أداة متصلة بنظام العملاء. وأداة تلخص ملفات داخلية تختلف عن أداة تستطيع إرسال رسائل خارجية أو تعديل بيانات.

ثم ضع سياسة مختصرة ومفهومة. لا تجعلها وثيقة طويلة لا يقرؤها أحد. ركّز على السلوك العملي: ما المسموح، ما الممنوع، متى نطلب موافقة، ومن نرجع إليه عند الشك.

بعد ذلك، اربط السياسة بالتقنية. لا يكفي أن تكتب “لا تشارك بيانات حساسة”. يجب أن تضبط الصلاحيات، وتحدد مستويات الوصول، وتفعّل السجلات، وتبني شاشات موافقة عند الحاجة. الحوكمة الفعالة تظهر داخل النظام نفسه، لا في ملف محفوظ على جهاز المدير.

  • الذكاء الاصطناعي داخل الشركات بدأ ينتقل من الاقتراح إلى التنفيذ.
  • تقرير Help Net Security أشار إلى أن 87% يرون أن ضوابطهم تحتاج إلى تحسين.
  • الخطر الحقيقي يظهر عند ربط الأدوات بالعملاء، البيانات، المدفوعات، أو العمليات اليومية.
  • راجع الصلاحيات وحدود الموافقة والسجلات قبل التوسع في الأتمتة.
  • عيّن مالكًا واضحًا لكل أداة، ولا تترك المسؤولية موزعة بين الفرق.
  • الحوكمة الجيدة لا تعطل العمل، بل تجعل التوسع أسرع وأكثر أمانًا.

الذكاء الاصطناعي فرصة قوية للشركات السعودية، بشرط أن يدخل العمل بانضباط لا بعشوائية. إذا كنت تفكر في ربط أدوات الذكاء الاصطناعي بأنظمة شركتك، أو تريد مراجعة ما تستخدمه فرقك حاليًا، يمكن لفريق صنّاع التطور لتقنية المعلومات مساعدتك في تقييم الوضع ووضع ضوابط عملية مناسبة لحجم شركتك. يسعدنا تقديم استشارة تقنية مجانية عبر واتساب متى ما رغبت.

المصدر: Help Net Security

كُتب بمساعدة الذكاء الاصطناعي ويُراجع ليكون ذا صلة بخدمات صنّاع التطور.