البث مثل ChatGPT

الانتظار لمدة 10 ثوانٍ للحصول على إجابة كاملة أمر ممل. تتيح تقنية البث (Streaming) للذكاء الاصطناعي إرسال النص كلمة بكلمة فور إنتاجها.

الفوائد:

• تحسين الأداء الملحوظ (يبدو التطبيق أسرع).
• يمكن للمستخدمين البدء في القراءة فوراً.

التنفيذ:

سنستخدم الخاصية stream: true في إعدادات الـ API ونتعامل مع أجزاء البيانات (chunks) فور وصولها من الخادم.