هل تعرف أين يستخدم موظفوك الذكاء الاصطناعي؟

قد يبدأ استخدام الذكاء الاصطناعي في شركتك بطريقة بسيطة: موظف يطلب من أداة عامة تلخيص عروض أسعار، فريق تسويق يرفع بيانات العملاء لتحسين الرسائل، أو مسؤول مبيعات يستخدم إضافة ذكية داخل المتصفح. تبدو هذه الممارسات مفيدة وسريعة، لكنها قد تتحول إلى مصدر خطر إذا لم تكن الإدارة تعرف أين تُستخدم أدوات الذكاء الاصطناعي، وما البيانات التي تدخل إليها، ومن يملك صلاحية الوصول.

تقرير نشره موقع Help Net Security عن تقرير NetFoundry حول تأمين تطبيقات الذكاء الاصطناعي يسلّط الضوء على هذه النقطة بوضوح. بحسب ما ورد في التقرير، يتوقع مسؤولو أمن المعلومات والتقنية أن تزيد تطبيقات الذكاء الاصطناعي مساحة الهجوم في مؤسساتهم بمعدل 14% خلال العام القادم. كما يشير التقرير إلى أن معظم المؤسسات تفتقر إلى رؤية واضحة لاستخدامات الذكاء الاصطناعي لديها، وأن 90% من المسؤولين قلقون من استخدام الموظفين لأدوات غير معتمدة خارج إشراف الشركة.

هذه الأرقام ليست بعيدة عن واقع الشركات في السعودية والخليج. فالحماس لتجربة الذكاء الاصطناعي مشروع، لكن الخطر يبدأ عندما يسبق الاستخدامُ الحوكمةَ.

المشكلة ليست في الذكاء الاصطناعي وحده بل في غياب الرؤية

عند الحديث عن أمن الذكاء الاصطناعي، ينشغل كثير من أصحاب الأعمال بسؤال واحد: ما الأداة الأفضل؟ هل نستخدم منصة جاهزة أم نبني نظامًا خاصًا؟

السؤال الأهم قبل ذلك هو: أين يُستخدم الذكاء الاصطناعي داخل الشركة اليوم؟

قد تكتشف عيادة طبية أن فريق خدمة العملاء يستخدم أداة عامة لصياغة ردود على استفسارات المرضى. وقد يجد مكتب عقار أن الوسطاء يرفعون بيانات العملاء والعقارات إلى أدوات خارجية لتوليد إعلانات أسرع. وقد يعتمد مطعم لديه عدة فروع على خدمة ذكية لتحليل تقييمات العملاء دون مراجعة شروط حفظ البيانات.

هذه الاستخدامات لا تعني بالضرورة وجود نية سيئة. غالبًا ما يبحث الموظفون عن إنجاز أسرع. لكن غياب الرؤية يجعل الإدارة غير قادرة على الإجابة عن أسئلة أساسية:

• ما الأدوات المستخدمة فعلًا؟
• ما نوع البيانات التي تُرفع إليها؟
• هل البيانات تشمل معلومات عملاء أو عقودًا أو أسعارًا أو ملفات مالية؟
• هل الأداة معتمدة من الشركة؟
• هل يمكن تتبع الاستخدام عند حدوث مشكلة؟

من دون إجابات واضحة، تصبح الشركة مكشوفة. ليس لأن الذكاء الاصطناعي خطر بطبيعته، بل لأن استخدامه خرج من نطاق الإدارة.

الذكاء الاصطناعي غير المعتمد يخلق مخاطر صامتة

مصطلح الذكاء الاصطناعي الخفي (Shadow AI) يصف استخدام الموظفين لأدوات ذكاء اصطناعي غير مصرح بها داخل العمل. وهو شبيه بما عرفته الشركات سابقًا مع التطبيقات السحابية غير المعتمدة، لكن أثره قد يكون أوسع لأن هذه الأدوات تتعامل غالبًا مع النصوص والملفات والمحادثات والبيانات التشغيلية.

في متجر إلكتروني، قد يرفع موظف ملفًا يحتوي على طلبات العملاء لتحليل أسباب إرجاع المنتجات. في شركة مقاولات، قد يستخدم مهندس أداة عامة لتلخيص عقد أو مستند مناقصة. في شركة خدمات، قد يرسل فريق المبيعات تفاصيل عملاء محتملين لتوليد رسائل متابعة.

الخطر هنا لا يقتصر على تسرب البيانات. توجد مخاطر أخرى لا ينتبه لها كثير من المديرين، منها:

• إدخال بيانات سرية في أدوات لا تعرف الشركة أين تخزن المعلومات.
• استخدام مخرجات غير دقيقة في قرارات تجارية أو تشغيلية.
• اعتماد فرق العمل على أدوات قد تتوقف أو تغيّر شروطها دون تنسيق.
• صعوبة معرفة مصدر قرار أو توصية صاغتها أداة ذكية.
• تعارض الاستخدام مع سياسات الخصوصية أو متطلبات الامتثال.

لهذا، لا يكفي أن تقول الشركة للموظفين: لا تستخدموا أدوات غير معتمدة. المنع العام غالبًا لا ينجح. الأفضل أن توفّر بدائل آمنة، وتضع سياسة واضحة، وتشرح ما هو مسموح وما هو ممنوع.

كيف تبدأ حوكمة الذكاء الاصطناعي داخل شركتك؟

لا تحتاج كل شركة إلى مشروع ضخم من اليوم الأول. البداية العملية تكون بخطوات واضحة تقود إلى استخدام آمن ومنظم.

أول خطوة هي حصر الاستخدام الحالي. اسأل الإدارات: ما أدوات الذكاء الاصطناعي التي تستخدمونها؟ في أي مهام؟ هل تدخلون بيانات عملاء أو ملفات داخلية؟ لا تجعل السؤال بصيغة تحقيق، بل بصيغة تنظيم وتحسين. الهدف ليس إيقاف الإنتاجية، بل حمايتها.

الخطوة الثانية هي تصنيف البيانات. ليس كل استخدام للذكاء الاصطناعي يحمل المستوى نفسه من الحساسية. صياغة منشور عام على منصات التواصل لا تشبه تحليل ملف يحتوي على بيانات عملاء. لذلك قسّم البيانات إلى مستويات، مثل: عامة، داخلية، سرية، وحساسة. ثم اربط كل مستوى بقواعد استخدام واضحة.

الخطوة الثالثة هي اعتماد الأدوات والمورّدين. قبل السماح لأي أداة، راجع شروطها، ومكان تخزين البيانات، وسياسة الاحتفاظ بالمحادثات، وخيارات التحكم المؤسسي، وإمكانية إدارة المستخدمين. إذا كانت الأداة ستتعامل مع بيانات مهمة، فلا تعتمد على حسابات فردية متناثرة.

الخطوة الرابعة هي ضبط الصلاحيات. لا يحتاج كل موظف إلى الوصول إلى كل أداة أو كل نوع من البيانات. اجعل الوصول حسب الدور الوظيفي. موظف التسويق يحتاج أدوات مختلفة عن فريق المالية أو خدمة العملاء. كلما كانت الصلاحيات محددة، قلّ نطاق الخطر.

الخطوة الخامسة هي مراقبة الاستخدام دون تعطيل العمل. المطلوب ليس التجسس على الموظفين، بل معرفة الأنماط العامة، واكتشاف الاستخدامات عالية المخاطر، والتأكد من أن الأدوات المعتمدة تُستخدم كما يجب. يمكن أن تساعد الأنظمة الداخلية والتكاملات الصحيحة في تسجيل العمليات المهمة ومراجعتها.

دمج الذكاء الاصطناعي في أنظمتك أفضل من تركه عشوائيًا

كثير من المخاطر تظهر عندما يعمل الذكاء الاصطناعي خارج بيئة الشركة. لذلك يصبح الدمج الآمن مع الأنظمة الحالية خيارًا مهمًا.

بدل أن ينسخ موظف خدمة العملاء نصوصًا من نظام إدارة العملاء إلى أداة خارجية، يمكن بناء مساعد ذكي داخل النظام نفسه. وبدل أن يرفع فريق المبيعات ملفات إلى منصة عامة لتحليل العملاء المحتملين، يمكن تطوير لوحة داخلية تربط البيانات المعتمدة بنموذج مناسب وتعرض النتائج وفق صلاحيات محددة.

هذا النهج يناسب شركات كثيرة في السوق السعودي. متجر إلكتروني يمكنه استخدام الذكاء الاصطناعي لتحسين وصف المنتجات والردود الآلية دون كشف بيانات الدفع أو معلومات غير لازمة. عيادة يمكنها تنظيم المواعيد والرسائل التذكيرية مع فصل البيانات الطبية الحساسة عن الأدوات العامة. مكتب عقار يمكنه توليد إعلانات للعقارات من بيانات معتمدة، لا من ملفات متفرقة يرفعها الموظفون يدويًا.

الدمج الآمن لا يعني التعقيد. بل يعني أن تعرف الشركة أين تدخل البيانات، وأين تخرج، ومن يستخدمها، وما الذي يُسجل للمراجعة لاحقًا. هذه النقاط هي ما يحوّل الذكاء الاصطناعي من تجربة فردية متفرقة إلى قدرة مؤسسية قابلة للإدارة.

قرارات إدارية تحميك قبل شراء أي حل

قبل التعاقد مع منصة ذكاء اصطناعي أو بناء نظام خاص، يحتاج المدير إلى قرارات واضحة على مستوى الشركة. هذه القرارات تحدد الطريق وتمنع الفوضى.

ابدأ بتعيين مالك داخلي لملف الذكاء الاصطناعي. قد يكون من الإدارة التقنية أو التحول الرقمي أو العمليات، لكن يجب أن يملك صلاحية التنسيق بين الإدارات. بعد ذلك ضع سياسة مختصرة ومفهومة للموظفين، لا وثيقة طويلة لا يقرأها أحد. اشرح فيها أمثلة عملية: ما الذي يمكن إدخاله في الأدوات؟ وما الذي يمنع رفعه؟ ومتى يجب طلب موافقة؟

كذلك، درّب الفرق على الاستخدام الآمن. كثير من المخاطر تحدث بسبب الجهل لا الإهمال. الموظف يحتاج أن يعرف أن نسخ عقد، أو ملف عملاء، أو بيانات مالية إلى أداة غير معتمدة قد يسبب مشكلة للشركة حتى لو كان الهدف إنجاز المهمة بسرعة.

ولا تنسَ ربط الذكاء الاصطناعي بخطط الأمن السيبراني الحالية. إذا كانت لديك سياسات وصول، نسخ احتياطي، إدارة هويات، أو أنظمة مراقبة، فيجب أن يدخل استخدام الذكاء الاصطناعي ضمنها. التعامل معه كاستثناء مؤقت يفتح ثغرات جديدة.

أهم الخلاصات:

• تبنّي الذكاء الاصطناعي دون حوكمة يزيد مساحة المخاطر داخل الشركة.
• استخدام الموظفين لأدوات غير معتمدة قد يكشف بيانات العملاء أو العقود أو العمليات.
• البداية الصحيحة تكون بحصر الاستخدام، وتصنيف البيانات، واعتماد الأدوات.
• ضبط الصلاحيات ومراقبة الاستخدام يساعدان على حماية الإنتاجية لا تعطيلها.
• دمج الذكاء الاصطناعي داخل أنظمة الشركة أكثر أمانًا من الاعتماد على حسابات فردية متناثرة.

الذكاء الاصطناعي فرصة حقيقية للشركات في السعودية والخليج، لكنه يحتاج إدارة واعية. لا تنتظر حدوث مشكلة لتبدأ التنظيم. خطوة صغيرة اليوم، مثل حصر الأدوات المستخدمة ووضع سياسة واضحة، قد توفر عليك مخاطر كبيرة لاحقًا.

إذا كنت تفكر في إدخال الذكاء الاصطناعي إلى أنظمة شركتك، أو تريد معرفة الاستخدامات الآمنة والمناسبة لعملك، يمكن لفريق صنّاع التطور لتقنية المعلومات تقديم استشارة تقنية مجانية عبر واتساب. نساعدك على فهم الخيارات وبناء مسار عملي يناسب حجم شركتك وبياناتك وأهدافك.