هل أصبحت تجربة الذكاء الاصطناعي في شركتك مكشوفة على الإنترنت؟

تبدأ كثير من مشاريع الذكاء الاصطناعي داخل الشركات بحماس مشروع. فريق التسويق يريد مساعدًا ذكيًا للرد على العملاء. إدارة المبيعات تطلب لوحة تلخص الفرص. العيادة تريد فرز الاستفسارات. متجر إلكتروني يجرب توصيات منتجات أكثر دقة. وفي الطريق إلى التجربة السريعة، تظهر خوادم ولوحات وواجهات وقواعد بيانات وأدوات إدارة على الإنترنت، أحيانًا قبل أن يعرف صاحب العمل من يملكها، ومن يستطيع الدخول إليها، وما الذي تسجله من بيانات.

بحسب تقرير نشره موقع Help Net Security عن نتائج Censys، نمت البرمجيات المرتبطة بالذكاء الاصطناعي والمكشوفة على الإنترنت العام بنسبة 63% خلال تسعة أشهر، من 164,088 عنوان IP في أكتوبر 2025 إلى 267,915 في يوليو 2026. الرقم لا يعني أن كل هذه الأنظمة مخترقة أو خطرة. لكنه يلفت النظر إلى واقع مهم: البنية التقنية للذكاء الاصطناعي تتوسع بسرعة أكبر من قدرة كثير من المؤسسات على تنظيمها وحمايتها.

لصاحب العمل في السعودية والخليج، السؤال ليس: هل نوقف الذكاء الاصطناعي؟ بل: هل نعرف فعلًا ما الذي نشرناه على الإنترنت أثناء التجارب؟ وهل أصبح جاهزًا للتوسع دون أن يفتح بابًا غير مقصود؟

لماذا تظهر هذه المشكلة مع مشاريع الذكاء الاصطناعي؟

مشاريع الذكاء الاصطناعي تختلف عن الأنظمة التقليدية في سرعتها وطريقة بنائها. قد يبدأ الفريق بتجربة صغيرة، ثم تتحول خلال أسابيع إلى خدمة يعتمد عليها موظفون أو عملاء. وبين البداية والتوسع تظهر مكونات كثيرة: لوحة تحكم داخلية، واجهات برمجة التطبيقات (APIs)، قاعدة بيانات، ملف إعدادات، أداة مراقبة، دفاتر تجارب (Notebooks)، أو مخازن متجهات (Vector Stores) تحفظ نصوصًا ووثائق لاستخدامها في البحث الذكي.

في شركة خدمات مثلًا، قد يرفع الفريق مستندات العملاء لتجربة مساعد داخلي يجيب عن الأسئلة. في مكتب عقار، قد يجرب الموظفون بوتًا يستخرج معلومات العقارات من عقود وصور ومراسلات. في مطعم لديه فروع متعددة، قد تبنى لوحة تتنبأ بالطلب وتقرأ بيانات المبيعات. كل هذه الأفكار مفيدة، لكنها تصبح حساسة إذا نُشرت أدواتها على الإنترنت دون ضوابط واضحة.

المشكلة غالبًا لا تأتي من نية سيئة. تأتي من عجلة طبيعية: نريد إثبات الفكرة، ثم نعرضها على الإدارة، ثم نربطها بالنظام الحالي، ثم نسمح لبعض الموظفين باستخدامها. وبعد ذلك ينسى الفريق أن هناك بيئة تجريبية ما زالت مفتوحة، أو حساب مدير بكلمة مرور ضعيفة، أو رابط لوحة تحكم أُرسل في محادثة، أو قاعدة بيانات لا يعرف أحد هل أُغلقت أم لا.

ما الذي نعنيه بتدقيق انكشاف بنية الذكاء الاصطناعي؟

تدقيق الانكشاف ليس حملة تخويف ولا اختبار اختراق معقدًا بالضرورة. هو مراجعة عملية تجيب عن سؤال بسيط: ما الأجزاء المرتبطة بالذكاء الاصطناعي التي يمكن الوصول إليها من الإنترنت، ومن يستطيع استخدامها، وما البيانات التي تمر عبرها؟

هذا التدقيق يبدأ بحصر الأصول. ما الخوادم المستخدمة؟ ما الروابط العامة؟ ما الأدوات السحابية؟ هل توجد لوحات تجربة أو بيئات اختبار؟ هل هناك خدمات ربط بين نظام المبيعات والمساعد الذكي؟ هل توجد مفاتيح وصول مخزنة داخل الكود أو ملفات الإعداد؟

ثم تأتي مراجعة الصلاحيات. في كثير من الشركات، يحصل أكثر من موظف أو مورد على صلاحيات واسعة في البداية لتسهيل العمل. هذا مقبول في أيام التجربة الأولى، لكنه لا يصلح عند تشغيل النظام فعليًا. يجب أن يعرف المدير من يملك حساب المدير، ومن يستطيع تحميل البيانات، ومن يستطيع تغيير النموذج أو تعديل مصادر المعرفة، ومن يستطيع رؤية سجلات المحادثات.

بعد ذلك تُراجع البيانات. الذكاء الاصطناعي يتعامل غالبًا مع نصوص حرة: محادثات عملاء، ملاحظات موظفين، عقود، فواتير، شكاوى، أو ملفات داخلية. هذه البيانات قد تحتوي معلومات شخصية أو مالية أو تجارية. لذلك لا يكفي أن يعمل النظام بدقة. يجب أن نعرف أين تحفظ البيانات، وكم تبقى، ومن يطّلع عليها، وهل تدخل في تدريب لاحق أم تبقى داخل نطاق الشركة.

أين تختبئ الانكشافات الأكثر شيوعًا؟

في الواقع العملي، لا يكون الخطر دائمًا في النموذج الذكي نفسه. الخلل يظهر غالبًا في الأدوات المحيطة به. لوحة تحكم دون حماية كافية. واجهة ربط تسمح بطلبات غير مصرح بها. قاعدة بيانات تجريبية بقيت مفتوحة. أداة إدارة حاويات أو مراقبة تعرض معلومات عن الخادم. ملف بيئة يحتوي مفاتيح خدمات خارجية. أو مستودع كود فيه بيانات اعتماد قديمة.

في متجر إلكتروني، قد يؤدي رابط داخلي مكشوف إلى عرض محادثات العملاء مع المساعد الذكي. في عيادة، قد تكشف بيئة اختبار أسماء مرضى أو مواعيد. في شركة مقاولات، قد يحتوي مخزن المعرفة على عروض أسعار وعقود ومراسلات مع جهات مختلفة. وفي شركة توصيل أو خدمات ميدانية، قد تظهر بيانات المواقع أو أرقام العملاء داخل سجلات لم تُحم جيدًا.

هناك أيضًا جانب تشغيلي مهم: من المسؤول؟ أحيانًا يبدأ المشروع لدى قسم التسويق، ينفذه مورد خارجي، يستضيفه قسم التقنية، وتستخدمه الإدارة التشغيلية. إذا لم يكن هناك مالك واضح للنظام، تضيع المتابعة. وعند حدوث خلل، لا يعرف أحد من يوقف الخدمة، أو يراجع السجلات، أو يغيّر المفاتيح، أو يقرر حذف بيانات معينة.

لذلك يحتاج كل مشروع ذكاء اصطناعي إلى مالك تجاري ومالك تقني. الأول يحدد الهدف والبيانات المسموحة وطريقة الاستخدام. والثاني يضمن الحماية، والتكامل الصحيح، والمراقبة، وخطة الاستجابة عند الحاجة.

كيف تراجع مشروعك قبل التوسع؟

ابدأ بخريطة بسيطة. لا تحتاج في البداية إلى وثيقة طويلة. اجمع فريق التقنية أو المورد المسؤول واسأل عن كل رابط وخدمة وخادم وأداة مرتبطة بالمشروع. اكتب ما هو تجريبي وما هو فعلي. ميّز ما يراه العملاء، وما يستخدمه الموظفون، وما لا ينبغي أن يكون عامًا أصلًا.

بعد ذلك، افحص الوصول. هل الدخول محمي بكلمات مرور قوية؟ هل توجد مصادقة متعددة العوامل للحسابات الإدارية؟ هل تستخدم الصلاحيات حسب الدور، أم أن الجميع يملك صلاحيات واسعة؟ هل جرى إيقاف حسابات الموردين أو الموظفين الذين لم يعودوا يعملون على المشروع؟

راجع السجلات أيضًا. لا يكفي أن تمنع الدخول غير المصرح به، بل تحتاج أن تعرف ما حدث إذا وقع أمر غير معتاد. هل يسجل النظام من دخل؟ ماذا طلب؟ هل فشل أحد في تسجيل الدخول مرات متكررة؟ هل جرى تحميل كمية كبيرة من البيانات؟ السجلات الجيدة تساعدك على اتخاذ قرار سريع بدل التخمين.

ثم اختبر فصل البيئات. بيئة التجربة يجب ألا تحتوي بيانات عملاء حقيقية إلا عند الضرورة وبضوابط واضحة. وبيئة التشغيل يجب ألا تعتمد على مفاتيح مؤقتة أو إعدادات وضعت على عجل. عند الانتقال من التجربة إلى التشغيل، لا تنقل الفكرة فقط؛ انقلها بانضباط.

ولا تنس الموردين. كثير من مشاريع الذكاء الاصطناعي تعتمد على شركات تطوير، مزودي سحابة، أدوات جاهزة، أو تكاملات خارجية. اسأل بوضوح: من يستطيع الوصول؟ أين تحفظ المفاتيح؟ كيف تُدار النسخ الاحتياطية؟ ماذا يحدث عند انتهاء العقد؟ وهل توجد إجراءات لحذف البيانات أو تسليمها؟

الذكاء الاصطناعي يحتاج حوكمة خفيفة لا تعقيدًا ثقيلًا

بعض أصحاب الأعمال يترددون عند سماع كلمات مثل الحوكمة والأمن والتدقيق، وكأنها تعني إبطاء المشروع أو رفع التكلفة. لكن المطلوب هنا ليس بيروقراطية. المطلوب قواعد عملية تناسب حجم الشركة وحساسية البيانات.

يمكن أن تبدأ بـ 5 قرارات واضحة: لا تُنشر أي لوحة إدارية على الإنترنت دون حماية قوية. لا تُستخدم بيانات حقيقية في التجارب إلا بموافقة وضوابط. لا تُخزن مفاتيح الوصول في أماكن مكشوفة. لا يحصل أي مستخدم على صلاحيات أعلى مما يحتاج. ولا ينتقل أي مشروع من التجربة إلى التشغيل قبل مراجعة فنية مختصرة.

هذه القرارات الصغيرة توفر عليك مشكلات كبيرة لاحقًا. فهي تمنح فريقك حرية التجربة، لكنها تمنع الفوضى. وتساعد الإدارة على قياس نضج المشروع قبل ضخ ميزانية أكبر أو ربطه بأنظمة حساسة مثل المحاسبة، إدارة العملاء، الحجوزات، الموارد البشرية، أو بوابات الدفع.

الأهم أن تنظر إلى الذكاء الاصطناعي كنظام عمل، لا كأداة منفصلة. إذا أصبح المساعد الذكي يرد على العملاء، فهو جزء من تجربة العميل. وإذا أصبح يحلل بيانات المبيعات، فهو جزء من القرار التجاري. وإذا أصبح يقرأ مستندات داخلية، فهو جزء من إدارة المعرفة. وكل نظام بهذه الأهمية يستحق مراجعة قبل الاعتماد عليه.

أهم الخلاصات

• نمو البنية المكشوفة للذكاء الاصطناعي عالميًا مؤشر يدعو للمراجعة، لا للذعر.
• أكثر المشكلات تظهر في اللوحات والواجهات وقواعد البيانات وأدوات الإدارة، لا في النموذج نفسه فقط.
• التجارب السريعة تحتاج مالكًا واضحًا وصلاحيات محددة وسجلات قابلة للمراجعة.
• قبل التوسع، احصر الروابط والخوادم والمفاتيح والبيانات والموردين المرتبطين بالمشروع.
• الحوكمة الخفيفة تحمي سرعة الابتكار بدل أن تعطلها.

إذا كان لديك مشروع ذكاء اصطناعي قائم أو تجربة داخلية تريد تحويلها إلى نظام يعتمد عليه فريقك أو عملاؤك، فقد يكون الوقت مناسبًا لمراجعة فنية هادئة. في صنّاع التطور لتقنية المعلومات Pioneers.dev نساعد الشركات على تقييم البنية، الصلاحيات، التكاملات، ولوحات التحكم قبل التوسع. يمكنك طلب استشارة تقنية مجانية عبر واتساب لنفهم وضعك الحالي ونقترح الخطوة الأنسب دون التزام.