كل الأعمال
منتجات أورونتس2024Ongoing

OGuardAI

Semantic data protection runtime for AI systems. Policy engine, PII detection and reversible tokenization between your application and any LLM.

العميل: Oronts GmbH

لمحة سريعة

99.7%
PII detection recall on our test corpus
<50ms
Rejection latency target for blocked content
3
Validation layers: policy, PII, tokenization
0
Raw PII values exposed to the model after tokenization

التحدي

Production LLM systems share a failure class: PII leaking into prompts and outputs, hallucinated data reaching customers, and generated text violating communication policies. Ad-hoc filters solve one incident and break on the next edge case. GDPR makes this an architecture problem, not a patching problem.

نهجنا

OGuardAI runs as a synchronous filter in the LLM request and response path. Three validation layers: content policy classification against hot-reloadable YAML rule sets, PII detection combining pattern matching with named entity recognition, and semantic tokenization that swaps sensitive values for reversible tokens so the model never sees raw data. Restoration happens per output channel policy.

بنية النظام

جاري تحميل الرسم البياني...

بنية النظام: LLM Response, OGuardAI, Policy Check, Pass, Deliver to User, Violation, Content Classifier, PII Found?, Yes, Redact / Tokenize, No, Block + Reason, Upstream Retry

طبقة الذكاء الاصطناعي

OGuardAI هو طبقة حماية الذكاء الاصطناعي نفسها: بيئة تشغيل مكتوبة بلغة Rust تتموضع بين التطبيق وأي نموذج LLM، فتكتشف البيانات الحساسة وتستبدلها برموز دلالية مصنفة الأنواع يظل بإمكان النموذج الاستدلال عليها، ثم تعيد القيم الأصلية في الاستجابة وفق السياسة المعتمدة.

الاكتشاف

تعمل دائماً طبقة أساسية من التعبيرات النمطية مكتوبة بلغة Rust وتكتشف البيانات ذات الصيغ المحددة (البريد الإلكتروني، الهاتف، IBAN، بطاقات الائتمان، جوازات السفر، الأرقام الضريبية وأرقام الضمان الاجتماعي، وغيرها) في نصوص بأي لغة. وتضيف خدمة مرافقة مكتوبة بلغة Python التعرف على الكيانات المسماة (GLiNER وspaCy) للأشخاص والمؤسسات والمواقع والعناوين في نحو 20 لغة. تُدمج التطابقات المتداخلة بحسب درجة الثقة، وأي كيان مطلوب لا يُعثر عليه يؤدي إلى إخفاق الطلب بوضع الإغلاق الآمن.

الترميز الدلالي

تُستبدل القيم المكتشفة برموز دلالية مصنفة الأنواع، فيتحول الاسم إلى رمز اسم ويتحول IBAN إلى رمز IBAN. وهكذا يحتفظ النموذج بالسياق الذي يحتاجه بدلاً من رؤية فراغات. تُزال الرموز المكررة وتُربط بالكيانات، مع نظامين للهوية (عشوائي لكل جلسة أو حتمي لكل مجموعة نصوص)، ولا يُمرر إلى نموذج LLM في أي حال سوى النص المرمّز الآمن.

محرك السياسات

السياسات ملفات YAML تصريحية تدعم الوراثة. وهي تحدد لكل نوع كيان ما إذا كان يجب ترميزه أو حجبه أو منعه أو السماح به، وتحدد لكل قناة إخراج مقدار ما يُستعاد. تحسم النواة السياسة الفعلية عند كل طلب، بحيث يمكن لبيئة التشغيل نفسها فرض قواعد مختلفة لرد في محادثة أو بريد إلكتروني أو سجل داخلي.

إعادة الإحلال ومتانة الرموز

في طريق العودة، تعيد آلية إصلاح رموز ثلاثية المراحل (صارمة وإصلاحية وتقريبية) كل رمز إلى قيمته الأصلية عبر 6 أوضاع استعادة، وترفض الرموز التي اختلقها النموذج. الاستعادة حتمية ولا يغيّر تكرارها النتيجة، وأي قيمة جرى إبطالها تعود دائماً على أنها محذوفة.

الجلسات وأمن الموجهات وحارس المخرجات

تُختم الجلسات بتشفير AES-256-GCM أو تُخزن في Redis، مع رفض هجمات إعادة الإرسال وربط خاص بكل مستأجر وجدول إبطال. تفحص مرحلة أمن الموجهات المدخلات بحثاً عن محاولات الاستخراج وتحقن مقدمة نظام محصنة، ويجري حارس مخرجات اختياري جولة اكتشاف ثانية على إجابة النموذج لالتقاط البيانات الشخصية التي ولّدها النموذج نفسه.

RAG والمستندات والبث

تغطي الحماية نفسها التوليد المعزز بالاسترجاع RAG (الاستيعاب والاستعلام والسياق والإجابة، مع هوية رموز محصورة النطاق بمجموعة النصوص وتصفية بحسب مستوى الوصول)، واستيعاب المستندات مع OCR والحجب البصري للصور وملفات PDF، والاستجابات المتدفقة مع تخزين مؤقت يراعي حدود الرموز بحيث لا يُقسم أي رمز أبداً بين الأجزاء.

جاري تحميل الرسم البياني...

طبقة الذكاء الاصطناعي: App request, Detect: regex floor + NER sidecar, Policy per entity, block or required missing, Fail closed, tokenize, Semantic tokens, safe text, Any LLM provider, Token repair: strict, repair, fuzzy, Rehydrate under output-channel policy, Output guard: catch model-generated PII, App response, PII-safe audit and metrics

البنية التحتية والنشر

يعمل OGuardAI باستضافة ذاتية وهو محايد تجاه المزودين، فلا تغادر البيانات الحساسة نطاق العميل أبداً. يُوزع على شكل صور Docker، ويعمل في أي بيئة، من حاوية واحدة إلى عنقود متعدد النسخ.

بيئة التشغيل والخدمات

تعمل نواة Rust كخادم HTTP مبني على axum، وكوكيل مزود شفاف يُركّب مباشرة أمام واجهة LLM API قائمة، وكأداة سطر أوامر oguardai، وكلها مبنية على نواة حماية واحدة. وتقدم خدمة Python منفصلة نماذج التعرف على الكيانات المسماة. ويُوزع على شكل صور Docker مع حزمة Docker Compose كاملة.

الحالة والتوسع

تعمل الجلسات ورفض إعادة الإرسال والإبطال في الذاكرة عند التشغيل بنسخة واحدة، أو في Redis مشترك عبر النسخ المتعددة، بحيث تتوسع بيئة التشغيل أفقياً. تُشفر الجلسات أثناء التخزين بواسطة AES-256-GCM، ويُنهى تشفير TLS عند الخادم.

المصادقة والوصول

تدعم المصادقة أوضاع التطوير ومفتاح API و JWT و OIDC مع فرض النطاقات لكل مسار. تُحمى الوصلة بين الخادم والمكتشف بسر مشترك، وتتطلب نقطة نهاية المقاييس نطاق صلاحيات إداري بينما تبقى فحوص الحالة الصحية مفتوحة.

قابلية المراقبة

مقاييس Prometheus (التحويل وإعادة الإحلال والاكتشاف والكيانات المكتشفة والمحجوبة ومحفزات حارس المخرجات وأمن الموجهات ومخططات توزيع زمن الاستجابة) خالية من بيانات PII بحكم التصميم. ويربط تتبع OpenTelemetry الطلب الواحد عبر مراحل الاكتشاف وLLM وإعادة الإحلال بمعرّف تتبع مبصوم لا يكشف الهوية.

حزم SDK والتكامل

تتوفر حزم SDK للعملاء بلغات TypeScript وPython وGo وJava، إلى جانب خادم MCP مكتوب بلغة TypeScript ومحولات لأطر العمل، بحيث تتبنى التطبيقات طبقة الحماية دون المساس بالنواة.

جاري تحميل الرسم البياني...

البنية التحتية والنشر: Client SDKs: TS, Python, Go, Java, Rust server or proxy, MCP server, Python NER sidecar: GLiNER + spaCy, Redis: sessions, replay, revocation, Any LLM provider, Prometheus + OpenTelemetry

قرارات هندسية

A synchronous filter in the request and response path

Guardrails only work if they run before the model sees data and before output reaches a user. OGuardAI sits inline rather than as an after-the-fact audit, accepting a small, bounded latency cost for enforcement that cannot be skipped.

Reversible tokenization over blunt redaction

Redaction destroys the context a model needs to answer well. OGuardAI swaps sensitive values for structure-preserving tokens, so the model reasons over coherent text and never sees raw data. Restoration happens per output-channel policy, which makes the token vault the asset to secure.

Hot-reloadable YAML policies

Communication and data rules change faster than release cycles. Policies are YAML that reloads without a restart, so operations can tighten or relax rules live instead of waiting for a deploy.

Pattern matching and NER together

Regular expressions catch known formats; named-entity recognition catches contextual PII a pattern misses. Running both raises detection recall instead of betting on one technique.

التقنيات

الخلفية
RustaxumPythonFastAPITypeScript
البنية التحتية
DockerRedisPrometheusGitHub Actions
الذكاء الاصطناعي
PII detectionNER (GLiNER + spaCy)Semantic tokenizationPolicy engine
الواجهة الأمامية
Next.js

النتائج الرئيسية

  • GDPR-aware AI architecture by design, not by patching
  • Hot-reloadable YAML policies without restarts or redeployments
  • Reversible tokenization keeps LLM output quality while protecting data
  • The pattern is documented publicly in our engineering guides

النتيجة

طبقة ضوابط حماية قابلة لإعادة الاستخدام ومستقلة عن أطر العمل، تحوّل الذكاء الاصطناعي الملتزم بلائحة GDPR من معالجة طارئة تتكرر في كل مشروع إلى بنية تحتية. منتج خاص من Oronts، مستضاف ذاتياً ومحايد تجاه المزودين، مع بنية معمارية موثقة في دليلنا حول تسرب البيانات.

What an OGuardAI deployment looks like

OGuardAI drops into a client's AI stack as the layer between the application and any model provider.

  • It sits between your application and any LLM, inside your infrastructure
  • Your content and data rules live as YAML that you control
  • EU or private hosting keeps data in your tenancy; the model never sees raw PII
  • Reversible tokens preserve output quality while protecting sensitive values
  • We integrate it into your pipeline and hand over a layer your team operates