الذكاء الاصطناعي
الذكاء الاصطناعي التوليدي في المقاولة بالمغرب: الاستخدامات والمخاطر والمنهجية
يكون الذكاء الاصطناعي التوليدي مفيدًا لمقاولة تعمل في مجال B2B بالمغرب حين يُوجَّه إلى مسار محدد: معالجة الوثائق، أو إعداد الردود لفريق الدعم، أو العثور على معلومة داخل الوثائق الداخلية، أو تحرير مسودة أولى لتقرير. ويخيب الظن فيه حين يُعمَّم في كل مكان دون قواعد. وثلاثة أمور تصنع الفرق: تصنيف المعطيات قبل إرسالها إلى أي نموذج، وإبقاء شخص مسؤولًا عن النتيجة، والبدء بمشروع تجريبي تُقاس نتائجه.
باختصار
- الاستخدامات الناجحة محددة الهدف: الوثائق، وردود الدعم، والبحث الداخلي (RAG)، والتقارير.
- قد يختلق نموذج LLM جوابًا مقنعًا، لذا يُصادق شخصٌ على كل نتيجة تُلزم المقاولة.
- صنّفوا المعطيات قبل إرسالها إلى أي نموذج؛ فالمعطيات الشخصية يحكمها القانون 09-08 تحت مراقبة CNDP.
- سجّلوا الطلبات والمصادر والمصادقات، وتتبّعوا كلفة كل معالجة منذ اليوم الأول.
- ابدؤوا بمسار واحد، وقيسوا الوضع قبل التجربة وبعدها، ثم قرروا التوسيع أو التوقف.
ماذا يمكن أن يقدّم الذكاء الاصطناعي التوليدي لمقاولة B2B في المغرب؟
النموذج اللغوي الكبير (LLM) يقرأ النصوص ويلخّصها ويصنّفها ويحرّرها. وفي قطاع B2B، يُفيد في المهام المتكررة التي يضيع فيها الوقت أساسًا في القراءة والبحث والنسخ. وهناك أربع فئات من الاستخدامات تجمع بين سهولة الوصول وسهولة المراقبة.
- معالجة الوثائق: الفواتير، وسندات الطلب، والعقود، والشكايات. يستخرج النموذج الحقول المفيدة، ويصنّف الوثيقة، وينبّه إلى ما ينقصها. وفي المغرب، كثيرًا ما تصل هذه الوثائق بالفرنسية أو بالعربية أو بمزيج منهما، وأحيانًا تكون ممسوحة ضوئيًا: اختبروا النموذج على نماذجكم الخاصة، وبكل لغة تتوصلون بها، قبل استخلاص أي حكم.
- مسودات ردود الدعم: يقرأ النموذج التذكرة، ويستخرج العناصر المفيدة من مساطركم، ويقترح ردًّا يراجعه الموظف ويصحّحه ثم يرسله. والمكسب في البحث والتحرير، لا في اتخاذ القرار. وإذا كان زبناؤكم يكتبون بالدارجة أيضًا، فأدرجوا رسائلهم في اختباراتكم.
- البحث في قاعدة الوثائق الداخلية: مساطر الجودة، وسياسات الموارد البشرية، والتوثيق التقني. يطرح الموظف سؤاله بلغة عادية، فيحصل على جواب مرفق بالمقاطع التي استُقي منها.
- إعداد التقارير: محاضر الاجتماعات، والتقارير التركيبية الشهرية، ومذكرات التأطير. يجمع النموذج مسودة أولى يستكملها المسؤول ويصادق عليها؛ أما الأرقام فتأتي من أنظمتكم، لا من ذاكرة النموذج أبدًا.
القاسم المشترك بين هذه الاستخدامات الأربعة: النموذج يُحضّر، والإنسان يقرّر. وهذا ما يجعل نشرها ممكنًا دون انتظار نموذج مثالي.
تقنية RAG: استجواب وثائق المقاولة دون تدريب نموذج
لا تسأل تقنية RAG (Retrieval-Augmented Generation، أي التوليد المعزَّز بالبحث) النموذجَ عمّا «يعرفه»، بل تزوّده مع كل سؤال بالمقتطفات ذات الصلة من وثائقكم. فلا حاجة إلى أي تدريب على معطياتكم، وتُؤخذ المسطرة المحيَّنة بعين الاعتبار بمجرد إعادة فهرستها.
- تُقسَّم الوثائق المسموح بها إلى مقاطع وتُفهرَس.
- مع كل سؤال، يسترجع النظام أقرب المقاطع إليه.
- يتلقى النموذج هذه المقاطع مع تعليمة بألا يجيب إلا انطلاقًا منها.
- يظهر الجواب مرفقًا بمصادره، قصد التحقق منه.
ثلاثة عناصر تحدد الجودة. أولًا الوثائق نفسها: فالمساطر المتجاوزة أو المتناقضة تعطي أجوبة متجاوزة أو متناقضة. ثانيًا صلاحيات الولوج: يجب أن يحترم البحث أذونات نظام تدبير الوثائق لديكم، وإلا أمكن لمتدرّب أن يحصل على جواب مأخوذ من وثيقة تخص الإدارة المالية. وثالثًا التقييم: قبل الإطلاق، أعدّوا قائمة بأسئلة حقيقية مع الجواب الصحيح والوثيقة المصدر الصحيحة، ثم أعيدوا تشغيلها عند كل تغيير في النموذج أو التعليمة أو طريقة التقسيم.
حدود نماذج LLM في المقاولة: الهلوسة وتسرّب المعطيات والكلفة
الهلوسة
ينتج نموذج LLM النص الأكثر احتمالًا، لا الأكثر صدقًا. فقد يستشهد ببند غير موجود أو بمبلغ مختلَق بالثقة نفسها التي يقدّم بها جوابًا صحيحًا. وسبل الوقاية: فرض المصادر، والسماح للنموذج بأن يجيب «لا أعرف»، والمراقبة الآلية للحقول المستخرجة (الصيغ، والمجاميع، والمراجع)، وإخضاع كل ما يخرج من المقاولة لمراجعة بشرية.
تسرّب المعطيات
لصقُ عقدِ زبون في أداة موجّهة للعموم يعني تسليمه إلى طرف ثالث لا تتحكمون في خوادمه، ولا في مدة احتفاظه بالمعطيات، ولا دائمًا في الاستعمال الذي سيخصّصه لها. وداخليًا، قد يُطلع مساعدٌ ضعيف العزل على معلومة من لا يحق له الاطلاع عليها. وهناك فخ أخير أقل شهرة: قد تتضمن وثيقة أو رسالة إلكترونية يعالجها النموذج تعليمات خفية تحرف جوابه. لذلك لا تمنحوا أي مساعد صلاحيات ولوج أو قدرة على التصرف تفوق ما لدى الشخص الذي يستعمله.
انفلات الكلفة
تُفوتَر النماذج المتاحة عبر API عادةً حسب الاستعمال، وفق حجم النص المرسَل والمُنتَج. وقد يصبح نموذج أولي زهيد الكلفة مكلفًا بعد تعميمه، خاصة إذا كان كل طلب يحمل وثائق طويلة. قيسوا كلفة كل معالجة خلال المشروع التجريبي، وحدّدوا سقوفًا قبل فتح الولوج.
القانون 09-08 وCNDP: ما القواعد عند إرسال المعطيات إلى نموذج LLM؟
القاعدة الأولى للحوكمة: تصنيف المعطيات قبل إرسالها إلى أي نموذج. وتكفي ثلاثة مستويات من الحساسية ومعيار أفقي واحد للانطلاق:
- عمومية: الكتالوج، وصفحات الموقع، والوثائق التجارية المنشورة.
- داخلية: المساطر، ونماذج الوثائق، ومذكرات التنظيم.
- سرية: العقود، وعروض الأسعار، والمعطيات المالية، والشيفرة المصدرية.
- شخصية، أيًّا كان المستوى: كل ما يُعرّف بشخص (زبون، أو أجير، أو مترشح)، بما في ذلك ما يرد في رسالة إلكترونية أو تذكرة أو سيرة ذاتية.
في المغرب، تخضع المعطيات الشخصية للقانون 09-08 المتعلق بحماية الأشخاص الذاتيين تجاه معالجة المعطيات ذات الطابع الشخصي، وتسهر على احترامه اللجنة الوطنية لمراقبة حماية المعطيات ذات الطابع الشخصي (CNDP). والمعالجة بالذكاء الاصطناعي تبقى معالجةً: غاية محددة، ومعطيات مقتصرة على الضروري، وإخبار الأشخاص المعنيين، وحسب الحالات، تصريح أو طلب إذن لدى CNDP. وتخضع بعض الفئات التي تُعدّ حساسة (الصحة، والآراء، والمعتقدات الدينية، والأصل…) لقواعد أكثر صرامة. كما أن نقل المعطيات الشخصية إلى الخارج، وهو أمر شائع مع خدمات الذكاء الاصطناعي عبر الإنترنت، مؤطَّر بدوره. تحقّقوا من وضعيتكم لدى CNDP أو لدى مستشاركم القانوني قبل الانتقال إلى الإنتاج.
عمليًا، يُخصَّص لكل مستوى قاعدة استعمال: المعطيات العمومية مسموح بها في كل مكان؛ والمعطيات الداخلية عبر خدمة صادقت عليها إدارة نظم المعلومات فقط؛ أما المعطيات السرية والشخصية فلا تُستعمل إلا بعد إخفاء هويتها، أو عبر حلّ تمت دراسة استضافته وعقده.
حوكمة الذكاء الاصطناعي التوليدي: الإنسان في الحلقة وتسجيل العمليات
- مسؤول عن كل حالة استخدام، من جهة الأقسام المعنية، يصادق على النطاق والنتائج.
- الإنسان في الحلقة: كل مُخرَج يُلزم المقاولة (ردّ على زبون، أو قرار يخص الموارد البشرية، أو وثيقة تعاقدية) يُصادَق عليه قبل إرساله.
- تسجيل العمليات: يُحتفظ بالطلب، والمصادر المستعملة، وإصدار النموذج والتعليمة، والجواب، والمصادقة، حتى يمكن تفسير أي نتيجة لاحقًا. وهذه السجلات تتضمن بدورها معطيات: احموها وحدّدوا مدة الاحتفاظ بها.
- صلاحيات الولوج: ترث الأداة الأذونات القائمة ولا تُنشئ أذونات جديدة.
- ميثاق استعمال: ما يجوز للموظفين عرضه على أدوات الذكاء الاصطناعي وما لا يجوز، بما فيها الأدوات الموجّهة للعموم.
إذا تدخّل مقدّم خدمات، فإن ممارساته لا تقل أهمية عن ممارساتكم: انظروا ISO 27001 وأمن المعطيات لدى مقدّم الخدمات.
كيف تُدمجون الذكاء الاصطناعي التوليدي في مسار عمل، خطوة بخطوة
- اختيار مسار واحد: كبير الحجم، ومتكرر، وقائم على النصوص، حيث يظهر الخطأ ويمكن تداركه. فرز الشكايات يصلح لذلك؛ أما قرار منح قرض فلا يصلح للبداية.
- قياس الوضع الحالي: مدة المعالجة، وأجل الرد، ونسبة إعادة العمل. فبدون نقطة انطلاق، لا مكسب يمكن إثباته.
- إطلاق مشروع تجريبي مؤطَّر: فريق واحد، ووثائق حقيقية، ومعطيات مصنّفة، ومصادقة بشرية منهجية، وتسجيل مفعَّل للعمليات.
- المقارنة: المؤشرات نفسها، إضافة إلى كلفة كل معالجة ونسبة الأجوبة التي صحّحها المستعملون.
- القرار: التوسيع، أو التعديل، أو التوقف. فإيقاف مشروع تجريبي لم يفِ بوعوده نتيجةٌ، لا فشل.
- التعميم: الإدماج في نظام المعلومات، والإشراف، والميزانية، ومواكبة المستعملين.
حدّدوا النطاق كتابةً قبل استشارة مقدّمي الخدمات: إعداد دفتر التحملات يسري على الذكاء الاصطناعي أيضًا. وبعد استقرار الحالة الأولى، كثيرًا ما تتمثل الخطوة التالية في تسلسل عدة إجراءات: وهذا موضوع وكلاء الذكاء الاصطناعي في المقاولة. وللرؤية الشاملة، انظروا التحول الرقمي للمقاولات الصغرى والمتوسطة في المغرب.
نماذج LLM في المقاولة بالدار البيضاء: ما الضمانات التي تطلبونها من مقدّم الخدمات؟
قبل التوقيع، اطرحوا أسئلة دقيقة:
- أين تُستضاف النماذج والفهارس والسجلات، وما المعطيات التي تمر عبر خدمات طرف ثالث؟
- هل تسمح شروط مزوّد النموذج بإعادة استعمال معطياتكم، في التدريب مثلًا؟
- كيف تُعزل صلاحيات الولوج، وما الذي يُسجَّل؟
- كيف تُتتبَّع الكلفة ويُحدَّد سقفها؟
- لمن تعود ملكية الشيفرة والتعليمات والإعدادات المسلَّمة، وهل يمكنكم تغيير النموذج أو مقدّم الخدمات دون إعادة بناء كل شيء؟
تعمل Codevista Innovations، ومقرّها الدار البيضاء والحاصلة على شهادة ISO/IEC 27001:2022، على إدماج الذكاء الاصطناعي التوليدي ونماذج LLM في مسارات العمل القائمة، مع التزام معلن: عدم المساس بالأمن. ولتأطير حالة استخدام أولى، تواصلوا معنا.
أسئلة شائعة
هل يمكن استعمال أداة ذكاء اصطناعي موجّهة للعموم مع معطيات الزبناء في المغرب؟
لا يُنصح بذلك دون إطار. فمعطيات الزبناء كثيرًا ما تكون معطيات شخصية بمفهوم القانون 09-08، والأدوات الموجّهة للعموم تعالجها في الغالب على خوادم توجد خارج المغرب، وفق شروطها الخاصة. صنّفوا المعطيات أولًا، وتحقّقوا من استضافة الخدمة وعقدها، وفضّلوا إخفاء الهوية، واستشيروا CNDP أو مستشاركم القانوني بشأن الإجراءات المطلوبة.
هل يجب تدريب نموذج ذكاء اصطناعي خاص لاستعماله على وثائق المقاولة؟
في أغلب الحالات، لا. فمقاربة RAG تزوّد النموذج مع كل سؤال بالمقاطع ذات الصلة من وثائقكم، دون أي تدريب على معطياتكم. وهي أسرع في الإرساء، وتواكب تحيينات وثائقكم، وتتيح عرض مصادر كل جواب. ويكون التدريب الخاص مبرَّرًا أساسًا في حالة صيغ أو مصطلحات خاصة جدًا.
كيف نحدّ من هلوسات نموذج LLM داخل مسار عمل؟
لا يمكن القضاء عليها، لكن يمكن تأطيرها. زوّدوا النموذج بالمصادر واشترطوا أن يلتزم بها، واسمحوا له بأن يجيب بأنه لا يعرف، وراقبوا آليًا المبالغ والتواريخ والمراجع المستخرجة، واجعلوا شخصًا يصادق على كل مُخرَج يُلزم المقاولة. وسجّلوا الأجوبة لرصد الأخطاء المتكررة.
بأي حالة استخدام نبدأ مع الذكاء الاصطناعي التوليدي في المقاولة؟
اختاروا مسارًا كبير الحجم، ومتكررًا، وقائمًا على النصوص، حيث يظهر الخطأ ويسهل تصحيحه: فرز الشكايات، أو استخراج بيانات الفواتير، أو مسودات ردود الدعم، أو البحث في المساطر الداخلية. قيسوا المدة والجودة الحاليتين، وأطلقوا مشروعًا تجريبيًا يقتصر على فريق واحد، ثم قارنوا النتائج قبل اتخاذ قرار التوسيع.