كيف تعمل LLMs: أهم 10 أسئلة على المستوى التنفيذي

في عملي في كلية سلون للإدارة بمعهد ماساتشوستس للتكنولوجيا، قمت بتدريس أساسيات كيفية عمل نماذج اللغات الكبيرة (LLMs) للعديد من المديرين التنفيذيين خلال العامين الماضيين.

يفترض بعض الأشخاص أن قادة الأعمال لا يريدون ولا يحتاجون إلى معرفة كيفية عمل حاملي شهادات الماجستير وأدوات الذكاء الاصطناعي التوليدية التي يدعمونها - وهم مهتمون فقط بالتكنولوجيا. نتائج يمكن للأدوات تقديم.

في هذا العمود، أشارك أسئلة حول 10 مواضيع غالبًا ما يُساء فهمها والتي كثيرًا ما يُسأل عنها، بالإضافة إلى إجاباتها.

10 أسئلة وأجوبة أساسية حول GenAI وLLMs

1. أدرك أن حاملي شهادات LLM يقومون بإنشاء مخرجات نصية واحدة في كل مرة.

وبعبارة أخرى، متى تقرر LLM إعطاء المستخدم الإجابة النهائية على السؤال؟

عندما يجيب LLM على سؤال، فإنه ينتج نصًا قطعة صغيرة واحدة في كل مرة. رمز مميز.1 يمكن أن تكون الرموز كلمات أو أجزاء من الكلمات. و ما كتبته بالفعل حتى الآن.2

يقوم نظام خارجي بتشغيل LLM في حلقة "إنشاء الرمز المميز التالي؛ إلحاقه بالإدخال؛ إنشاء الرمز المميز التالي" حتى حالة التوقف يتم تشغيله.

يتم استخدام العديد من شروط التوقف في الممارسة العملية. تسلسل التوقف.

عندما نستخدم إصدار الويب لأداة مثل ChatGPT كمستهلكين، فإننا لا نرى هذه العملية - فقط النص النهائي.

النقطة المهمة هنا هي أن "قرار" التوقف هو تفاعل بين تنبؤات LLM المميزة ومنطق التحكم الخارجي، وليس قرارًا اتخذته LLM.

2. إذا ارتكبت LLM خطأ وقمت بتصحيحه، فهل ستقوم بتحديث نفسها على الفور؟

لا، لن يقوم LLM بتحديث نفسه على الفور إذا قمت بتصحيحه.

تحتوي بعض التطبيقات، مثل ChatGPT، على ميزة ذاكرة يمكن تحديثها في الوقت الفعلي لتذكر المعلومات الشخصية مثل اسمك أو تفضيلاتك أو موقعك.

3. إذا قامت LLM بشكل متكرر بإنشاء رمز مميز واحد في كل مرة بناءً على المحادثة الحالية، فلماذا رأيته يستخدم معلومات من محادثة سابقة (على سبيل المثال، من أسبوع مضى) في الرد؟

يقوم حاملو شهادات LLM بإنشاء استجابات رمزية واحدة في كل مرة، بناءً على المدخلات المقدمة لهم في تلك المحادثة.

عند بدء محادثة جديدة، قد تكون هناك أجزاء ذات صلة من هذه الذاكرة المخزنة تلقائيا تمت إضافته إلى الموجه وراء الكواليس.

تختلف تفاصيل ما يتم تخزينه ومتى يتم استخدامه حسب البائع، ولم يتم الكشف عن الطرق الدقيقة.

RAG، إذا لم تكن على دراية بها، هي تقنية تستخدم لتزويد LLM بإمكانية الوصول إلى مجموعة محددة من بيانات الملكية.

4. أدرك أن الحاصلين على ماجستير إدارة الأعمال لديهم موعد نهائي للتدريب، وأنهم لا "يعلمون" بالأشياء التي حدثت بعد ذلك التاريخ. يستطيع الإجابة على الأسئلة حول الأحداث التي حدثت بعد تاريخ القطع.

عندما تطرح سؤالاً حول شيء ما حدث بعد الموعد النهائي للتدريب في LLM، فإن النموذج نفسه لا "يعرف" بالحدث ما لم يكن لديه إمكانية الوصول إلى أحدث المعلومات.

في تلك الحالات، قد يقوم LLM بإنشاء استعلام بحث بناءً على سؤالك، ويقوم جزء منفصل من النظام (خارج النموذج نفسه) بإجراء البحث.

5. إذا قمت بتضمين المستندات كجزء من المطالبة، هل يمكنني التأكد من أن LLM يستخدم المستندات المقدمة فقط عند إنشاء الرد؟

لا. في حين أن التحفيز الدقيق والتقنيات مثل RAG يمكن أن تشجع نموذج الذكاء الاصطناعي على تحديد أولويات مجموعة من المستندات المقدمة، لا يمكن إجبار حاملي شهادات LLM القياسية على استخدام هذا المحتوى فقط.

6. يستشهد حاملو الماجستير في القانون أحيانًا بالمصادر التي تم استخدامها لتوليد الإجابة على سؤال ما.

لا، يمكن لحاملي شهادة الماجستير في القانون اختلاق (الهلوسة) الاستشهادات أو استخدام مصادر حقيقية بطرق غير دقيقة أو مضللة.

7. عندما يكون لدينا العديد من المستندات، فإننا نستخدم RAG، حيث نجمع أولاً المعلومات ذات الصلة من المستندات وندرج فقط تلك الموجودة في الموجه. الجميع الوثائق.

توفر شهادات LLM الحديثة مثل GPT-4.1 وGemini 2.5 نوافذ سياقية تحتوي على مليون رمز — وهو ما يكفي لاستيعاب كتب كاملة.

على الرغم من أن نوافذ السياق الموسعة هذه قوية، إلا أن تضمين كافة المستندات في الموجه ليس دائمًا فكرة جيدة.

أولاً، لا يتعلق RAG فقط بإبقاء الرسالة قصيرة. التحميل الزائد على السياق فالمعلومات الكثيرة أو غير ذات الصلة يمكن أن تضر بالأداء، كما أن الحفاظ على السياق والموجز ذي الصلة والموجزة والدقيقة غالبًا ما يؤدي إلى إجابات أفضل.

ثانيًا، على الرغم من أن حاملي شهادة الماجستير في القانون يمكنهم قبول السياقات الطويلة، إلا أنهم لا يعالجون جميع الأجزاء بشكل متساوٍ.

وأخيرًا، تعني المطالبات الأطول المزيد من الرموز المميزة، مما يزيد من تكاليف واجهة برمجة التطبيقات (API) ويبطئ الاستجابات.

باختصار، تعد نوافذ السياق الطويلة مفيدة، ولكنها لا تجعل عملية الاسترجاع أمرًا عفا عليه الزمن. تقييمها بناءً على احتياجات تطبيقك المحدد.

8. هل يمكن القضاء على الهلوسة LLM؟

لا، لا يمكن القضاء على الهلوسة بشكل كامل باستخدام تقنية LLM الحالية.

ومع ذلك، يمكن للهندسة والاستراتيجيات السريعة الدقيقة مثل RAG، والضبط الدقيق للبيانات الخاصة بالمجال، والمعالجة اللاحقة من خلال عمليات التحقق المستندة إلى القواعد أو التحقق الخارجي تقليل الهلوسة في حالات استخدام محددة.3 في حين أن هذه الاستراتيجيات لا تضمن القضاء على الهلوسة، إلا أنها يمكن أن تحسن من موثوقية LLM بما يكفي للعديد من التطبيقات العملية.

9. بما أنه لا يمكن القضاء على الهلوسة والأخطاء في LLM، فنحن بحاجة إلى التحقق من الإجابات.

يعتمد التحقق من مخرجات LLM بكفاءة على نوع المهمة ومستوى المخاطرة المقبول.

بالنسبة للمهام ذات النهايات المفتوحة مثل الملخصات أو المقالات أو التقارير أو التحليلات، توفر المراجعة البشرية الرقابة الأكثر موثوقية.

أحد البدائل الشائعة بشكل متزايد هو استخدام "قاضي الذكاء الاصطناعي"، والذي عادةً ما يكون ماجستير إدارة أعمال آخر يمكنه تقييم مخرجات الأداة الأولى أو التحقق منها.

إن المهام المنظمة، مثل إنشاء التعليمات البرمجية، أو تصنيف المعلومات، أو إنتاج بيانات منظمة بتنسيقات مثل SQL أو JSON، تصلح بسهولة أكبر للأتمتة.

باختصار، تجمع استراتيجيات التحقق الأكثر كفاءة بين الأتمتة والرقابة البشرية.

10. نحن نبني برنامج دردشة قائمًا على LLM ونرغب في ضمان بقاء إجابته على السؤال دون تغيير عندما يسأل مستخدمون مختلفون نفس السؤال (أو يسأل مستخدم واحد نفس السؤال في أوقات مختلفة).

إذا كنت تقصد بـ "الضمان". بالضبط نفس الصياغة في كل مرة، والإجابة المختصرة هي لا.

إذا تم طرح نفس السؤال في مناسبات مختلفة باستخدام كلمات مختلفة، فمن المرجح جدًا أن تتغير إجابات LLM. بالضبط سيتم إنشاء نفس الإجابة في كل مرة.

يمكنك تقليل التباين عن طريق تكوين إعدادات LLM معينة (على سبيل المثال، ضبط "درجة الحرارة" على الصفر)، وقفل إصدار النموذج الدقيق، وحتى الاستضافة الذاتية حتى تتمكن من التحكم في مجموعة الأجهزة والبرامج بالكامل.4 وبالتالي، ستظل ترى أحيانًا تغييرات صغيرة في الصياغة أو التركيز لا تغير معنى الإجابة الأساسية.

الطريقة الوحيدة لضمان مطابقة الصياغة حقًا هي تخزين (ذاكرة التخزين المؤقت) للإجابة في المرة الأولى التي يتم إنشاؤها فيها وتقديم هذا النص المخزن كلما تم اكتشاف نفس السؤال.

باختصار: يمكنك جعل الإجابات متسقة للغاية، ولكن ضمان الصياغة بنسبة 100% لا يمكن تحقيقه باستخدام التكنولوجيا الحالية.