الكمون مقابل الدقة في أنظمة الذكاء الاصطناعي: أرقام حقيقية من الإنتاج

ميزانية الكمون

المستخدمين عندهم تحمل مختلف لوقت استجابة الذكاء الاصطناعي حسب السياق:

الـ Pipeline لازم يناسب الميزانية. إذا الشات بوت عندك ميزانية 3 ثواني والبحث المتجهي ياخذ 500ms، وإعادة الترتيب 200ms، والتوليد 2,000ms، يبقى لك 300ms لكل شي ثاني (المصادقة، التوكنة، التحقق من المخرجات).

للهندسة المعمارية الكاملة لـ RAG pipeline، شوف دليل موثوقية RAG. لمراقبة الذكاء الاصطناعي بما فيها تتبع الكمون، شوف دليل المراقبة.

البث المباشر: متى يفيد ومتى هو مجرد استعراض

بث ردود الـ LLM يرسل tokens للمستخدم أول ما تتولد. أول token يظهر خلال 200-500ms حتى لو الرد الكامل ياخذ 2-5 ثواني. هذا يغير الكمون المحسوس بشكل كبير.

// بدون بث: المستخدم ينتظر الرد الكامل
const response = await llm.generate(prompt); // 2,500ms انتظار كلي
return response.text; // المستخدم ما يشوف شي لمدة 2.5 ثانية

// مع بث: المستخدم يشوف أول token خلال ~300ms
const stream = llm.stream(prompt);
for await (const chunk of stream) {
    sendToClient(chunk.text); // المستخدم يشوف التوكنات تظهر تدريجياً
}

متى البث يفيد

• الشات بوتات وواجهات المحادثة: المستخدم يقرأ وتوكنات توصل. الانتظار المحسوس ينزل من 3 ثواني لـ 300ms.
• التوليد الطويل: للردود فوق 500 token، البث يمنع إحساس "هل تعطل؟".
• العرض التدريجي: خلي الجواب يتشكل بالوقت الحقيقي. المستخدمين يحسون إن النظام أسرع وأكثر استجابة.

متى البث مجرد استعراض

• المخرجات المهيكلة: إذا تحتاج تحلل الرد الكامل كـ JSON قبل ما تعرض أي شي، البث يزيد التعقيد بدون فائدة.
• الردود القصيرة: رد من 50 token يخلص بـ 500ms على كل حال. حمل البث الزائد يخليه أبطأ مش أسرع.
• Backend لـ Backend: ما حد يتابع. البث يزيد تعقيد الـ Pipeline بدون فائدة للمستخدم.
• معالجة لاحقة مطلوبة: إذا تشغل output guard أو تحقق من الاقتباسات أو كشف PII على الرد، تحتاج النص الكامل قبل التسليم. بث المخرجات الخام وبعدين الحجب للتحقق يلغي الغرض.

التخزين المؤقت الدلالي

أسئلة متشابهة من مستخدمين مختلفين تشغل pipeline الذكاء الاصطناعي الكامل كل مرة. التخزين المؤقت الدلالي يعترض الاستعلامات المتطابقة دلالياً مع استعلامات سبق الرد عليها ويرجع الرد المخزن.

async function querywithSemanticCache(query: string): Promise<string> {
    // تضمين الاستعلام
    const queryEmbedding = await embedder.embed(query);

    // البحث في فهرس الكاش عن استعلامات متشابهة دلالياً
    const cached = await cacheIndex.search(queryEmbedding, {
        minSimilarity: 0.95,  // عتبة عالية: فقط استعلامات شبه متطابقة
        limit: 1,
    });

    if (cached.length > 0 && !isExpired(cached[0])) {
        metrics.increment('cache_hit');
        return cached[0].response;
    }

    // ما لقينا بالكاش: نشغل الـ Pipeline الكامل
    metrics.increment('cache_miss');
    const response = await fullPipeline(query);

    // التخزين في الكاش
    await cacheIndex.upsert({
        embedding: queryEmbedding,
        query: query,
        response: response,
        createdAt: Date.now(),
        ttl: 3600, // ساعة وحدة
    });

    return response;
}

معدلات إصابة الكاش

المعدل يعتمد على حالة الاستخدام:

للأسئلة الشائعة وشات بوتات الدعم، التخزين المؤقت الدلالي يقلل التكاليف بـ 40-60% ويحسن الكمون للاستعلامات المخزنة من 2-3 ثواني لأقل من 100ms.

عتبة التشابه

0.95 هي البداية الآمنة. العتبات الأقل تزيد معدل الإصابة لكن تخاطر بإرجاع أجوبة غلط لاستعلامات مختلفة بما فيه الكفاية:

ابدأ بـ 0.95، راقب إصابات الكاش الخاطئة (ردود المستخدمين: "هذا مش اللي سألت عنه")، وعدّل.

حجم النموذج: المنحنى الحقيقي

البنشماركات تقول GPT-4 أدق بـ 20% من GPT-4o-mini. في الإنتاج، الفرق يعتمد كلياً على المهمة:

النموذج الصح هو الأرخص اللي يحقق معيار الجودة للمهمة المحددة. مش الأدق. مش الأغلى. الأرخص اللي يكون كافي.

توجيه متعدد النماذج

وجّه مهام مختلفة لنماذج مختلفة حسب التعقيد:

function selectModel(task: string, complexity: 'low' | 'medium' | 'high'): ModelConfig {
    if (complexity === 'low') {
        return { provider: 'openai', model: 'gpt-4o-mini', maxTokens: 500 };
    }
    if (complexity === 'medium') {
        return { provider: 'anthropic', model: 'claude-haiku-4-5-20251001', maxTokens: 1000 };
    }
    return { provider: 'anthropic', model: 'claude-sonnet-4-20250514', maxTokens: 4000 };
}

لمزيد عن استراتيجيات النماذج المتعددة واستقلالية المزود، شوف دليل تجنب الارتباط بمزود الذكاء الاصطناعي.

تحسين الـ Pipeline

الاسترجاع المتوازي

لما استعلام يحتاج بيانات من مصادر متعددة، اجلبها بالتوازي:

// تسلسلي: 500ms + 500ms + 200ms = 1,200ms
const docs = await vectorSearch(query);      // 500ms
const products = await productSearch(query);  // 500ms
const history = await getHistory(userId);     // 200ms

// متوازي: max(500ms, 500ms, 200ms) = 500ms
const [docs, products, history] = await Promise.all([
    vectorSearch(query),      // 500ms
    productSearch(query),     // 500ms
    getHistory(userId),       // 200ms
]);

تخطي الخطوات غير الضرورية

مش كل استعلام يحتاج الـ Pipeline الكامل:

async function processQuery(query: string): Promise<string> {
    // الخطوة 1: تصنيف النية (سريع، نموذج صغير)
    const intent = await classifyIntent(query); // 50ms

    if (intent === 'greeting') {
        return 'Hello! How can I help you?'; // ما نحتاج LLM
    }

    if (intent === 'faq') {
        const cached = await faqCache.match(query); // 30ms
        if (cached) return cached;
    }

    // بس للاستعلامات المعقدة نشغل الـ Pipeline الكامل
    return await fullRagPipeline(query);
}

التنفيذ التخميني

ابدأ استدعاء الـ LLM قبل ما يخلص الاسترجاع، واستخدم الاستعلام كسياق أولي. لما نتائج الاسترجاع توصل، حقنها في التوليد الجاري.

هذا معقد في التطبيق وما يستاهل إلا للشات بوتات التفاعلية وين كل 100ms كمون تفرق. لمعظم حالات الاستخدام، التسلسلي (استرجع بعدين ولّد) أبسط وكافي.

إطار قرار "الكافي"

أخطاء شائعة

1. التحسين للبنشماركات بدل مهمتك. GPT-4 يتفوق على GPT-4o-mini بالبنشماركات. لمهمة التصنيف المحددة عندك، الفرق ممكن يكون 2%. اختبر على بياناتك أنت.

2. بث كل شي. الردود القصيرة، المخرجات المهيكلة، واستدعاءات Backend لـ Backend ما تستفيد من البث. يزيد التعقيد بس.

3. عتبة الكاش الدلالي منخفضة جداً. تحت 0.90، استعلامات مختلفة دلالياً ترجع أجوبة مخزنة غلط. ابدأ بـ 0.95 وانزل بحذر.

4. Pipeline تسلسلي لما المتوازي ممكن. الاسترجاع من مصادر متعددة لازم دائماً يكون متوازي. التسلسلي يزيد الكمون بدون فائدة.

5. نفس النموذج لكل مهمة. التصنيف ما يحتاج GPT-4. استخدم الأرخص اللي يحقق معيار الجودة لكل مهمة محددة.

6. بدون ميزانية كمون. بدون ميزانية، كل تحسين عشوائي. حدد الكمون المقبول لكل حالة استخدام واشتغل بالعكس.

النقاط الرئيسية

• حدد ميزانية الكمون أولاً. شات بوت: 3 ثواني إجمالي، 500ms لأول token. بحث: 500ms. خلفية: دقائق. اشتغل بالعكس من الميزانية.

• البث يغير الكمون المحسوس، مش الفعلي. أول token بـ 300ms يحسسك بالسرعة حتى لو الرد الكامل ياخذ 3 ثواني. استخدمه لواجهات المستخدم التفاعلية.

• التخزين المؤقت الدلالي هو التحسين الأعلى عائداً للاستعلامات المتكررة. 40-60% معدل إصابة للأسئلة الشائعة/الدعم. يقلل التكلفة والكمون بنفس الوقت.

• الأرخص الكافي هو النموذج الصح. اختبر على بياناتك، مش البنشماركات. وجّه مهام مختلفة لنماذج مختلفة حسب التعقيد.

• وازي الاسترجاع. لا تجلب من مصادر متعددة بالتسلسل لما المتوازي ممكن.

نحسّن أداء pipeline الذكاء الاصطناعي كجزء من خدمات الذكاء الاصطناعي عندنا. إذا تحتاج مساعدة بتحسين كمون أو تكاليف الذكاء الاصطناعي، تكلم مع فريقنا أو اطلب عرض سعر.