ضريبة التخزين الخفية على كل محادثة ذكاء اصطناعي

في كل مرة تدخل فيها مطالبة قصيرة إلى أداة الذكاء الاصطناعي الخاصة بمؤسستك، خلف مؤشر النبض الذي تراه على الشاشة، تعمل مجموعة من الآليات والعمليات غير المرئية في البنية التحتية. بينما ترفق الأداة سياسات المؤسسة، وسجل الجلسة، والمستندات المستردة، وجميع البيانات السياقية الأخرى التي تحتاجها لتوليد مخرجات مفيدة وموثوقة، تتحول الكلمات العشر التي كتبتها بشكل منهجي إلى عبء عمل مكون من 40,000 رمز.

الآن ضع في اعتبارك أن آلاف المستخدمين والعملاء قد يصلون إلى النظام في وقت واحد، كل مطالبة تصل إلى قاعدة معرفة مؤسسية يمكن أن تصل، في أكبر الشركات في العالم، إلى 100 بيتابايت. يؤدي الخدمة من هذا الأرشيف إلى إنشاء مخزن نشط ثانٍ، وهو ذاكرة التخزين المؤقت للمفتاح والقيمة، التي لا تتوسع مع كمية البيانات التي لديك ولكن مع عدد المستخدمين الذين يستفسرون عنها في نفس الوقت.

يصبح الحساب المكلف على تلك الرموز ذاكرة تخزين مؤقت تستحق الحفظ وإعادة الاستخدام لمنع التكرار وعدم الكفاءة التي تسبب اختناقًا في المخرجات. لكن الأداة لا يمكنها فعل ذلك إلا إذا كانت البنية التحتية التقنية تحتوي على مكان للاحتفاظ بتلك الذاكرة المؤقتة. والعديد من المؤسسات لا تأخذ في الاعتبار الحاجة إلى هذا التخزين عند بناء بنية تحتية للذكاء الاصطناعي - حتى ينفد لديها المساحة.

لضمان قدرة أدوات الذكاء الاصطناعي للمؤسسات على التوسع، يجب أن تمتلك الأسس المصممة لتوليد مخرجات الذكاء الاصطناعي القدرة والسعة لتخزين حسابات العمليات المعقدة التي تدخل في إنشائها.

والخيارات التقليدية تقصر عند هذا النطاق: ذاكرة الوصول العشوائي الديناميكية السريعة ولكن محدودة السعة باهظة الثمن لتحمل هذه البيانات، ومحركات الأقراص الصلبة بطيئة جدًا لخدمتها. تعتمد معالجة الذكاء الاصطناعي للمؤسسات على مستوى الأسطول على محركات الأقراص ذات الحالة الصلبة عالية السعة، التي توفر السعة لتحملها والسرعة لخدمتها - مع كفاءة الطاقة والبصمة التي تجعل عوائد الاستثمار في الذكاء الاصطناعي قابلة للتحقيق.

تأثير استدلال الذكاء الاصطناعي

بينما تطبق المؤسسات الذكاء الاصطناعي بشكل متزايد في استراتيجية نموها، يظل الكثير من تركيزها على تدريب نماذج أكبر وأكثر قدرة والاستثمار في وحدات معالجة الرسوميات القوية. لكن التحدي الأكبر الآن هو الاستدلال: عملية تقديم استجابات الذكاء الاصطناعي بدقة وموثوقية وسرعة على نطاق واسع.

في أنظمة الذكاء الاصطناعي الحديثة، كل مطالبة تنشئ حزمة تتكون من تعليمات السياسة، وسجل الجلسة، والمستندات المستردة، ومخرجات الأداة، ومكونات سياقية أخرى. يتم تغذية هذه الحزمة بأكملها في نظام الذكاء الاصطناعي حيث تقوم وحدات معالجة الرسوميات باهظة الثمن بإجراء الحسابات. تصبح هذه الحسابات - ذاكرة التخزين المؤقت للمفتاح والقيمة - أصولًا قابلة لإعادة الاستخدام حتى لا يضطر النظام إلى إعادة حسابها مرارًا وتكرارًا. تمثل ذاكرة التخزين المؤقت للمفتاح والقيمة "حالة" داخل نظام الذكاء الاصطناعي، ومع نضوج عمليات نشر الذكاء الاصطناعي، تصبح إدارة تلك الحالة أمرًا بالغ الأهمية للأداء.

يتفاقم تحدي التخزين فقط مع اعتماد المؤسسات على التوليد المعزز بالاسترجاع، وسير العمل الوكيل، والاستدلال طويل السياق على قواعد المعرفة الداخلية. كل منها يزيد من حجم المعلومات التي يجب على النظام تخزينها والوصول إليها في وقت واحد. ولأن الكثير من تلك المعلومات يجب استرجاعها قبل أن يتمكن الذكاء الاصطناعي من الاستجابة، فإن سرعة التخزين، وليس السعة فقط، تشكل مدى سرعة النظام بالنسبة للأشخاص الذين يستخدمونه: التأخير قبل أن يرى المستخدم أول استجابة، المعروف باسم الوقت حتى الرمز الأول.

على الرغم من أن قادة المؤسسات يفترضون غالبًا أن سعة وحدة معالجة الرسوميات الأكبر تمكن ذكاء اصطناعي أسرع، إلا أنه في الواقع، غالبًا ما تظل وحدات معالجة الرسوميات والمعجلات الأخرى خاملة بينما تسترجع أنظمة الذكاء الاصطناعي المستندات، وتحميل السياق، وتستعيد الحسابات المخزنة مؤقتًا، أو تنتظر اختناقات نقل البيانات والتخزين.

الرياضيات تتوسع بسرعة. يمكن أن يتطلب طلب واحد طويل السياق 312 جيجابايت من ذاكرة التخزين المؤقت للمفتاح والقيمة. اضرب ذلك عبر ثمانية مستخدمين متزامنين ويقفز المتطلب إلى 2.5 تيرابايت. أضف سير العمل الوكيل ويتضخم الرقم إلى 10 تيرابايت - وكلها تحتاج إلى التخزين والوصول والإدارة بزمن انتقال منخفض.

عبء العمل الذي قد يبدو في البداية متطلب ذاكرة معقولًا لكل جلسة يصبح تحديًا هائلاً عندما يتفاعل عدة مستخدمين مع الذكاء الاصطناعي في وقت واحد. تصبح تلك الحسابات المحفوظة واحدة من أكبر مستهلكي موارد البنية التحتية.

هذه هي "ضريبة التخزين الخفية": المشكلات التي تصبح واضحة فقط عندما يتم وضع أنظمة الذكاء الاصطناعي في الإنتاج على نطاق واسع. حتى المهمة التي بدت قابلة للتنفيذ في النماذج الأولية تصبح غير مستدامة عمليًا مع زيادة عدد المستخدمين أو جلسات الذكاء الاصطناعي التي تعمل في وقت واحد بشكل كبير، والمعروف باسم التزامن. النتيجة: استجابات أبطأ، واختناقات غير متوقعة، وبنية تحتية غير مستغلة، وتكاليف تشغيل أعلى.

لماذا التخزين أمر بالغ الأهمية

تاريخيًا، تعاملت المؤسسات مع التخزين كمستودع سلبي لبياناتها - مكان لحفظ البيانات في حالة السكون. نجح هذا النهج عندما كانوا يستخدمون التخزين بشكل أساسي لأنظمة النسخ الاحتياطي والأرشيفات وقواعد البيانات. لكن في بيئات الذكاء الاصطناعي، يعد تخزين SSD جزءًا نشطًا من التطبيقات، وهو أمر بالغ الأهمية للاستجابة وقابلية التوسع وتجربة المستخدم وكفاءة التكلفة. المؤسسات التي تستمر في استخدام مقاييس الأداء التقليدية على الرغم من هذا التحول تخاطر باستثمارات الذكاء الاصطناعي التي لا يمكنها التوسع وفشل النماذج الأولية للذكاء الاصطناعي.

لا تزال هذه التحولات ناشئة في الاستدلال، لكن المبدأ الأساسي مرئي بالفعل أينما يعمل الذكاء الاصطناعي على نطاق واسع: بنية التخزين، وليس الحوسبة فقط، هي التي تقرر ما إذا كان النظام يقدم الأداء.

تعمل PEAK:AIO، وهي مزود تخزين محدد بالبرمجيات، مع المؤسسات الطبية التي تستخدم الذكاء الاصطناعي لتحليل فحوصات التصوير بالرنين المغناطيسي لتحديد علامات السرطان. تولد هذه المؤسسات كميات هائلة من بيانات التصوير، لكن العديد منها يفتقر إلى البنية التحتية التي تحتاجها لتخزين هذه البيانات والوصول إليها وتحليلها بكفاءة. تقدم PEAK:AIO لعملائها محركات أقراص SSD عالية السعة حتى يتمكنوا من تخزين ومعالجة مجموعات البيانات الكبيرة داخل أنظمتهم وشبكاتهم الخاصة.

بالنسبة لمراكز البيانات المعيارية المعبأة في حاويات، تستخدم DUG Technology، وهي مزود حلول الحوسبة عالية الأداء والبنية التحتية للذكاء الاصطناعي، محركات أقراص SSD للسماح لعملائها بتشغيل أنظمة الذكاء الاصطناعي في مواقع تكون فيها القدرة على نشر البنية التحتية للتخزين محدودة، مثل المواقع الصناعية ومنشآت الطاقة والمناطق النائية الأخرى.

قرار ذكاء اصطناعي من اليوم صفر

يمكن لبنية التخزين الصحيحة تحسين الاستجابة وكفاءة البنية التحتية وقابلية التوسع للاستدلال طويل السياق والتوليد المعزز بالاسترجاع وسير العمل الوكيل للذكاء الاصطناعي.

مع توسع المؤسسات في مبادرات الذكاء الاصطناعي، أصبح من المهم بشكل متزايد لمهندسي الذكاء الاصطناعي - بالإضافة إلى القادة في مجال المشتريات والمالية ومهندسي المنصات وغيرهم من صانعي القرار - بناء أسس تقنية مع تخزين SSD عالي السعة كافٍ للتعامل مع عملياتهم ومنع الاختناقات اليوم وفي السنوات القادمة.

وهذا يعني أن التخزين يجب أن يكون جزءًا من محادثة التصميم منذ البداية - حتى تتمكن مؤسساتهم من تجنب الحاجة إلى الاستثمار في تعديل بنيتها التحتية لاحقًا.

اقرأ مقال Solidigm "تشريح المطالبة" والورقة الفنية لتعرف لماذا يعمل الذكاء الاصطناعي طويل السياق والتوليد المعزز بالاسترجاع وسير العمل الوكيل على تحويل تصميم المطالبة إلى قرار بنية تحتية - وكيف يمكن للمؤسسات تقييم التخزين قبل ظهور مشكلات زمن الانتقال والتكلفة والاستخدام في الإنتاج.