حوكمة الذكاء الاصطناعي

ذكاء اصطناعي يصمد أمام مراجعة الامتثال

كل نظام ذكاء اصطناعي نسلّمه يأتي مع التوثيق والهندسة التي يسأل عنها القانونيون والأمن وممثلو الموظفين: أي نموذج يعمل وأين، من تحقق منه، ماذا يحدث عندما يخطئ، وكيف تخرجون منه. تصف هذه الصفحة كيف نحوكم الذكاء الاصطناعي في أنظمة عملائنا بالعمق نفسه الذي نبنيها به.

كيف نحوكم الذكاء الاصطناعي في أنظمة العملاء

كل نظام ذكاء اصطناعي نسلّمه يأتي مع وثائق قانون الذكاء الاصطناعي الأوروبي والهندسة التي تدعمها. نصنّف كل حالة استخدام أثناء تحديد النطاق، ونُبقي إنساناً في الحلقة حيث تكون القرارات مهمة، ونسجّل كل قرار آلي بحيث يمكن مراجعته، ولا ندرّب أي نموذج عام على بياناتكم. تبقى الاستضافة في المنطقة التي تطلبونها، داخل الاتحاد الأوروبي حصراً عند الطلب، وتملكون الكود والبيانات منذ أول التزام برمجي. والنتيجة نظام واحد يستطيع القسم القانوني والأمن ومجلس العمل والمشتريات الموافقة عليه، محوكَم بالعمق نفسه الذي نبنيه به.

تصنيف حالات الاستخدام وفق قانون الذكاء الاصطناعي الأوروبي والتوثيق التقني الداعم له
الإنسان يبقى المتحكّم: كل قرار آلي قابل للإلغاء ومسجَّل
بياناتكم لا تدرّب أي نموذج عام أو مشترك، واستضافة داخل الاتحاد الأوروبي حصراً عند الطلب
تملكون الكود والبيانات منذ اليوم الأول، مع خروج موثَّق

أربعة التزامات

البشر يبقون مسؤولين

كل مسار قرار آلي له نقطة إشراف بشري محددة. الوكلاء يعملون ضمن حدود صريحة ويسلّمون عندما تنخفض الثقة أو يرتفع حجم المخاطرة.

بياناتكم لا تدرّب شيئاً

نهيّئ المزودين باتفاقيات عدم تدريب ونوثق ذلك. بيانات العملاء لا تُستخدم لتدريب النماذج الأساسية، تعاقدياً وتقنياً.

أدلة لا ادعاءات

الجودة تُقاس بمجموعات تقييم ومعايير قبول متفق عليها قبل الإطلاق، لا بالعروض التجريبية. وما لا نستطيع قياسه نقوله صراحة.

الخروج جزء من التصميم

خيارات النماذج والمزودين موثقة وقابلة للاستبدال. تحصلون على الموجهات وبيانات التقييم وأدلة التشغيل. يجب أن يكون تركنا ممكناً دون خسارة النظام.

كيف يتدفق طلب الذكاء الاصطناعي الخاضع للحوكمة

كل طلب يسلك المسار المُدقَّق ذاته: مصادر معتمدة، واسترجاع يراعي الصلاحيات، وخطوة نموذجية محدودة النطاق، وموافقة بشرية، وسجل تدقيق.

Approved sources

Permission-aware retrieval

Model / agent (bounded tools)

Human approval

Audit log

ضوابط الحماية والتغذية الراجعة في كل خطوة

تحيط الضوابط وحلقات التغذية الراجعة بكل خطوة. تنتظر الإجراءات ذات التبعات موافقة بشرية قبل اعتماد أي شيء.

موقفنا من قانون الذكاء الاصطناعي الأوروبي

بحسب تقييمنا حتى الآن، تقع الأنظمة التي نبنيها عادة (أتمتة داخلية واسترجاع ومساعدون مع إفصاح) في فئتي الخطر الأدنى أو المحدود من قانون الذكاء الاصطناعي الأوروبي؛ ونصنف كل حالة استخدام على حدة أثناء تحديد النطاق. وعندما تمس حالة استخدام فئة عالية الخطورة نقول ذلك في مرحلة العرض ونصمم الضوابط المطلوبة: إدارة المخاطر والتسجيل والإشراف البشري والتوثيق التقني. وكشريك تطوير ندعمكم في التزاماتكم كجهة نشر ونوثق كل ما تحتاجونه لتقييمكم الخاص. نحن لا نبيع شهادات؛ نسلّم الأساس التقني الذي يجعل عمل الامتثال لديكم ممكناً.

من يوافق، وماذا ينال كل طرف

يمرّ نظام الذكاء الاصطناعي على عدة جهات مراجعة قبل إطلاقه. نمنح كل جهة الأدلة التي يتطلّبها دورها.

القانون وحماية البيانات (مسؤول حماية البيانات)

عليكم تأكيد الموقف من اللائحة العامة لحماية البيانات وقانون الذكاء الاصطناعي الأوروبي قبل أن يعالج النظام بيانات حقيقية.

تصنيف للمخاطر لكل حالة استخدام، وسجلّ لأنشطة المعالجة، واتفاقية معالجة بيانات وتدابير تقنية وتنظيمية عند الطلب، واستضافة داخل الاتحاد الأوروبي حصراً حيث تحتاجون.

مراجعة الثقة ومعالجة البيانات

الأمن وتقنية المعلومات

تحتاجون إلى معرفة أي نموذج وأي مزوّد يعالج كل طلب وأين تقع البيانات فعلياً.

سجلّ للنماذج والمزوّدين، واستضافة داخل الاتحاد الأوروبي على Render في فرانكفورت، وقائمة مُسمّاة بالمعالجين الفرعيين، وسجلّات لكل قرار آلي.

الاطلاع على الوضع الأمني

مجلس العمل

عليكم تأكيد أن النظام لا يقرّر بشأن الموظفين دون إنسان وأنه يبقى شفافاً.

إشراف بشري على القرارات التي تمسّ الأشخاص، وسجلّات كاملة يمكنكم تفتيشها، ولا إجراء آلي يُطلق دون إنسان في الحلقة حيث يكون ذلك مهماً.

اقرأ كيف نحوكم الذكاء الاصطناعي

المشتريات

عليكم اعتماد مزوّد جديد وتأكيد السعر والملكية والخروج قبل تحريك أي ميزانية.

شركة GmbH ألمانية بسجلّ نشر كامل، وارتباطات بسعر ثابت ابتداءً من 25 ألف يورو، والكود في مستودعاتكم الخاصة، وتسليم موثَّق.

الاطلاع على شروط التعاون

هندسة عامة يمكنك فحصها

يعمل على هذا الموقع

مباشر

المساعد على هذا الموقع نظام وكيلي يستخدم الأدوات، بنيناه ونشغّله في الإنتاج، وليس عرضاً خلف تسجيل دخول.

Vendure Data Hub

مفتوح المصدر

إضافة تجارة لـ Vendure بنيناها ونشرناها، عامة على GitHub. اثنتان من إحدى عشرة حزمة طوّرناها عامة.

عرض على GitHub

Pimcore Asset Pilot

مفتوح المصدر

حزمة أصول لـ Pimcore بنيناها ونشرناها، عامة على GitHub وقابلة للفحص بالكامل.

عرض على GitHub

سجل النماذج والمزودين

كل مشروع يحمل سجلاً حياً يُسلَّم كجزء من التوثيق:

النموذج والإصدار

أي نموذج يعمل، بإصدارات مثبتة وسجل تغييرات عند كل ترقية.

المزود والمنطقة

أين يحدث الاستدلال، وبأي عقد، وفي أي ولاية قضائية.

الغرض في النظام

ما يُسمح للنموذج بفعله في النظام وما لا يُسمح.

فئات البيانات

أي فئات بيانات تصل إلى النموذج، مطابقةً مع توثيق الخصوصية لديكم.

حالة عدم التدريب

الإعداد التعاقدي والتقني الذي يُبقي بياناتكم خارج التدريب.

سلوك الاحتياط

ماذا يفعل النظام عندما يفشل النموذج أو تنتهي المهلة أو يعيد نتائج بلا معنى.

ما الذي نفعله ببياناتكم، وما الذي لا نفعله أبدا

تنال الحوكمة الثقة بسهولة أكبر حين تكون محددة. هذا هو الخط الذي نلتزم به بشأن بياناتكم.

ما الذي نفعله

نحفظ بياناتكم في المنطقة التي تطلبونها، بما في ذلك الاستضافة داخل EU حصرا
نمرر إلى النموذج السياق الذي تحتاجه المهمة فقط، لا أكثر
نسجل كل قرار آلي ليتسنى مراجعته وتفسيره
نتيح لإنسان تجاوز أي إجراء آلي أو إيقافه
نحذف البيانات وفق الجدول الزمني المتفق عليه، ونثبت أن ذلك قد حدث

ما الذي لا نفعله أبدا

تدريب نماذج عامة أو مشتركة على بياناتكم
إرسال بيانات شخصية إلى طرف ثالث دون موافقتكم
نقل قرار AI إلى الإنتاج دون إشراف بشري حيث يكون ذلك مهما
إخفاء النموذج أو المزود الذي عالج الطلب
تركّكم دون مخرج: يبقى النظام وبياناته ملككم

الحوكمة عبر دورة الحياة

النطاق وتصنيف الخطر

قبل البناء: ماذا يقرر النظام، من يتأثر، كيف يبدو أسوأ فشل معقول، وأي فئة من قانون الذكاء الاصطناعي الأوروبي تنطبق.

خريطة البيانات

أي بيانات تصل إلى أي نموذج وبأي عقد. بالتنسيق مع مسؤول حماية البيانات لديكم قبل أن يتدفق أول رمز.

التقييم والقبول

مجموعة تقييم ومعايير قبول متفق عليها معكم. يُطلق النظام عندما يجتازها، وتدخل الأرقام في توثيق التسليم.

تصميم الإشراف البشري

طوابير مراجعة محددة وعتبات ثقة ومسارات تصعيد. من يشرف على النظام يحصل على أدوات لا على مسؤولية فقط.

الإصدارات وضبط التغيير

ترقيات النماذج تغييرات لا مفاجآت: تُختبر على مجموعة التقييم وتُسجل في السجل وتكون قابلة للتراجع.

معالجة الحوادث

درجات خطورة محددة ومفتاح إيقاف أو مسار تخفيض وتشريح صادق بعد الحادث. حوادث الذكاء الاصطناعي تُعامل كحوادث إنتاج لأنها كذلك.

أربعة التزامات

البشر يبقون مسؤولين
بياناتكم لا تدرّب شيئاً
أدلة لا ادعاءات
الخروج جزء من التصميم

تحدث إلى مهندس

المعايير والممارسات التي نلتزم بها

نحن لا نبتكر الحوكمة من الصفر. نحن نتوافق مع الأطر التي يعرفها مدققوكم بالفعل.

GDPR

تقليل البيانات وتحديد الغرض والحق في المحو مبنية داخل النظام بدل إضافتها لاحقا. تبقى المعالجة موثقة ومشروعة.

EU AI Act

نصنف كل استخدام لـ AI بحسب المخاطر، ونطبق ما تتطلبه تلك الدرجة من شفافية وإشراف وتوثيق، لتكونوا جاهزين مع دخول القواعد حيز التنفيذ تدريجيا.

OWASP LLM Top 10

حقن الأوامر وتسرب البيانات والمعالجة غير الآمنة للمخرجات تهديدات نصمم لمواجهتها، بالدقة نفسها التي نتبعها في أي عمل آخر لأمن التطبيقات.

إقامة البيانات

استضافة في منطقة EU، وحيث تحتاجون، نشر محلي أو على سحابة خاصة، لتبقى بياناتكم حيث تفرضه سياستكم.

أسئلة تطرحها فرق القانون والأمن

هل يمكنكم تشغيل النماذج داخل الاتحاد الأوروبي فقط؟

نعم. نختار افتراضياً مناطق الاتحاد الأوروبي حيث يوفرها المزود ونوثق المنطقة لكل نموذج في السجل. وعندما توجد قدرة خارج الاتحاد فقط نشير إلى ذلك وأنتم تقررون.

ماذا يحدث لموجهاتنا ومخرجاتنا؟

تُعالج لتشغيل النظام وتُسجل للتشغيل والتدقيق وفق قواعد الاحتفاظ لديكم. وبموجب شروط المزود التي نتعاقد عليها والإعدادات التي نوثقها في السجل، لا تُستخدم لتدريب النماذج الأساسية. والتسجيل موثق ليتمكن مسؤول حماية البيانات لديكم من التحقق منه.

من يتحمل المسؤولية عندما يخطئ الذكاء الاصطناعي؟

النظام مصمم بحيث تمر القرارات ذات الأثر بنقطة إشراف بشري. العقد يحدد المسؤوليات بدقة؛ والمعمارية تجعل الإجابة قابلة للتدقيق وسجل القرارات يُظهر ما حدث.