Xlera8

Google AI کمپیوٹ نوڈس کے لیے منتخب کردہ SiFive RISC-V کور

RISC-V چپ biz SiFive کا کہنا ہے کہ اس کے پروسیسرز کو گوگل ڈیٹا سینٹرز میں کچھ حد تک AI کام کے بوجھ کو منظم کرنے کے لیے استعمال کیا جا رہا ہے۔

SiFive کے مطابق، زیربحث پروسیسر اس کی ذہانت ہے۔ X280، ویکٹر ایکسٹینشن کے ساتھ ملٹی کور RISC-V ڈیزائن، ڈیٹا سینٹر میں AI/ML ایپلیکیشنز کے لیے بہتر بنایا گیا ہے۔ جب گوگل کے ٹینسر پروسیسنگ یونٹس سے اٹھائے گئے میٹرکس ضرب اکائیوں (MXU) کے ساتھ ملایا جائے (TPUs)، یہ پروگرامنگ مشین لرننگ ورک بوجھ کے لیے زیادہ لچک فراہم کرنے کا دعویٰ کیا جاتا ہے۔

بنیادی طور پر، پروسیسر رن کوڈ میں X280 کا عمومی مقصد RV64 کور جو ڈیوائس کا انتظام کرتا ہے، اور کام کو مکمل کرنے کے لیے ضرورت کے مطابق Google کے MXUs میں مشین لرننگ حسابات فیڈ کرتا ہے۔ X280 میں اس کا اپنا ویکٹر ریاضی یونٹ بھی شامل ہے جو ان کارروائیوں کو سنبھال سکتا ہے جو ایکسلریٹر یونٹ نہیں کرسکتے ہیں۔

سی فائیو اور گوگل تھوڑا سا بے چین تھے، شاید تجارتی وجوہات کی بناء پر، بالکل اس بارے میں کہ یہ کس طرح پیک کیا جاتا ہے اور استعمال کیا جاتا ہے، حالانکہ یہ ہمیں ایسا لگتا ہے جیسے گوگل نے اپنے کسٹم ایکسلریشن یونٹس کو ملٹی کور X280 سسٹم آن چپ میں رکھا ہوا ہے۔ گوگل کا ڈیزائن کردہ MXU براہ راست RISC-V کور کمپلیکس میں بلاک کرتا ہے۔ مشین لرننگ کے کام کو تیز کرنے کے لیے یہ چپس گوگل کے ڈیٹا سینٹرز میں، SiFive کے مطابق "AI کمپیوٹ ہوسٹس" میں استعمال ہوتی ہیں۔

ہم تصور کرتے ہیں کہ اگر یہ پیداوار میں استعمال ہوتے ہیں، تو یہ چپس خدمات کے اندر کاموں کو سنبھال رہی ہیں۔ ہم نوٹ کرتے ہیں کہ آپ اس ہارڈ ویئر کو براہ راست گوگل کلاؤڈ پر کرایہ پر نہیں لے سکتے ہیں، جو روایتی x86، بازو، TPU، اور GPU ٹیک سے چلنے والی AI-آپٹمائزڈ ورچوئل مشینیں پیش کرتا ہے۔

تفصیلات کا انکشاف اس ماہ کے شروع میں سلیکون ویلی میں اے آئی ہارڈ ویئر سمٹ میں، SiFive کے شریک بانی اور چیف آرکیٹیکٹ کرسٹی اسانوویچ اور گوگل ٹی پی یو آرکیٹیکٹ کلف ینگ کی ایک گفتگو میں کیا گیا۔ سی فائیو بلاگ پوسٹ اس ہفتے.

SiFive کے مطابق، اس نے دیکھا کہ X280 کے متعارف ہونے کے بعد، کچھ صارفین نے اسے ایک ایکسلریٹر کے ساتھ ساتھ ایک ساتھی کور کے طور پر استعمال کرنا شروع کر دیا، تاکہ گھر کی دیکھ بھال اور عمومی مقصد کے پروسیسنگ کے تمام کاموں کو سنبھالا جا سکے جنہیں انجام دینے کے لیے ایکسلریٹر ڈیزائن نہیں کیا گیا تھا۔

چپ بز کا کہنا ہے کہ بہت سے لوگوں نے پایا کہ ایکسلریٹر کو منظم کرنے کے لیے ایک مکمل خصوصیات والے سوفٹ ویئر اسٹیک کی ضرورت ہے، اور صارفین کو احساس ہوا کہ وہ اسے اپنے بڑے ایکسلریٹر کے ساتھ والے X280 کور کمپلیکس کے ساتھ حل کر سکتے ہیں، RISC-V CPU کور تمام دیکھ بھال کو سنبھالتے ہیں اور آپریشنز کوڈ، ریاضی کی کارروائیوں کو انجام دینا جو بڑا ایکسلریٹر نہیں کر سکتا، اور مختلف دیگر افعال فراہم کرتا ہے۔ بنیادی طور پر، X280 ایکسلریٹر کے لیے ایک قسم کے انتظامی نوڈ کے طور پر کام کر سکتا ہے۔

اس سے فائدہ اٹھانے کے لیے، سی فائیو نے گوگل جیسے صارفین کے ساتھ مل کر کام کیا جس کو وہ ویکٹر کوپروسیسر انٹرفیس ایکسٹینشن (VCIX) کہتا ہے، جو صارفین کو ایکسلریٹر کو براہ راست X280 کی ویکٹر رجسٹر فائل سے مضبوطی سے لنک کرنے کی اجازت دیتا ہے، جس سے کارکردگی میں اضافہ اور زیادہ ڈیٹا فراہم ہوتا ہے۔ بینڈوڈتھ.

Asanović کے مطابق، فائدہ یہ ہے کہ گاہک اپنے کوپروسیسر کو RISC-V ایکو سسٹم میں لا سکتے ہیں اور ایک مکمل سافٹ ویئر اسٹیک اور پروگرامنگ ماحول چلا سکتے ہیں، جس میں مکمل ورچوئل میموری اور کیشے مربوط سپورٹ کے ساتھ لینکس کو بوٹ کرنے کی صلاحیت کے ساتھ، ایک چپ پر عام مقصد کے CPU کور اور ایکسلریشن یونٹس کا مرکب۔

گوگل کے نقطہ نظر سے، وہ اپنے ٹی پی یو ٹیکنالوجیز کے خاندان کو بہتر بنانے پر توجہ مرکوز کرنا چاہتا تھا، اور اپنے ایپلیکیشن پروسیسر کو شروع سے تیار کرنے میں وقت ضائع نہیں کرنا چاہتا تھا، اور اس لیے ان ایکسلریشن فنکشنز کو تیار شدہ عام مقصد کے پروسیسر کے ساتھ جوڑنا درست طریقہ لگتا تھا۔ جانے کے لئے، ینگ کے مطابق.

VCIX بنیادی طور پر MXUs کو کم لیٹنسی کے ساتھ RISC-V cores سے چپکاتا ہے، CPU اور ایکسلریشن یونٹ کے درمیان ڈیٹا کو میموری، کیشے، یا PCIe کے ذریعے شٹل کرنے کے انتظار میں بہت سے سائیکل گزارنے کی ضرورت کو چھوڑتا ہے۔ اس کے بجائے، ہمیں بتایا گیا ہے، یہ ویکٹر رجسٹر تک رسائی کے ذریعے صرف دسیوں چکروں کا ہے۔ یہ سب کچھ بھی تجویز کرتا ہے – RISC-V CPU کمپلیکس اور کسٹم ایکسلریٹر – سبھی ایک ہی ڈائی پر ہیں، جو سسٹم آن چپ کے طور پر پیک کیے گئے ہیں۔

ایپلیکیشن کوڈ عام مقصد کے RISC-V cores پر چلتا ہے، اور کوئی بھی کام جسے MXU کے ذریعے تیز کیا جا سکتا ہے اسے VCIX کے ذریعے پاس کیا جاتا ہے۔ ینگ کے مطابق، کارکردگی کے ساتھ ساتھ اس نقطہ نظر کے دیگر فوائد بھی ہیں۔ پروگرامنگ ماڈل کو آسان بنایا گیا ہے، جس کے نتیجے میں اسکیلر، ویکٹر اور کو-پروسیسر کی ہدایات کو ایک دوسرے سے منسلک کیا جاتا ہے، اور ایک واحد سافٹ ویئر ٹول چین کی اجازت دیتا ہے جہاں ڈویلپر ترجیحی طور پر C/C++ یا اسمبلر میں کوڈ کر سکتے ہیں۔

"Google MXUs کے ساتھ SiFive VCIX پر مبنی عمومی مقصد کے کور 'ہائبرڈائزڈ' کے ساتھ، آپ ایک ایسی مشین بنا سکتے ہیں جو آپ کو MXU کی تمام کارکردگی اور ایک جنرل کی پروگرامیبلٹی کا بھرپور فائدہ اٹھاتے ہوئے 'اپنا کیک لے اور اسے بھی کھا سکے'۔ سی پی یو کے ساتھ ساتھ X280 پروسیسر کی ویکٹر کارکردگی، "ینگ نے کہا۔

اس طرح کی اپنی مرضی کے مطابق چپ بنانے کی صلاحیت گوگل جیسے ہائپر اسکیلرز، یا مخصوص ضروریات اور گہری جیبوں کے حامل افراد کے ڈومین میں رہنے کا امکان ہے، لیکن یہ ظاہر کرتا ہے کہ اوپن ایکو سسٹم RISC-V ماڈل کی لچک کی بدولت کیا حاصل کیا جا سکتا ہے۔ .

یہ لچک اور کشادگی گوگل کو راغب کرنے کے لیے کافی دکھائی دیتی ہے - RISC-V کا ایک طویل عرصے سے حامی، RV cores کے ساتھ اس کی کچھ دوسری مصنوعات میں استعمال کیا جاتا ہے - اپنے کسٹم کاپروسیسر کو x86 چپس یا بازو میں جوتے سے ہارنے کے برخلاف اپ اسٹارٹ فن تعمیر کو استعمال کرنے کے لیے۔ - لائسنس یافتہ ڈیزائن۔ ®

PS: یاد رکھیں جب گوگل تھا۔ توبہ کرنا اپنے ڈیٹا سینٹرز میں POWER CPU فن تعمیر کو استعمال کرنے کے ساتھ؟

ہمارے ساتھ بات چیت

ہیلو وہاں! میں آپ کی کیسے مدد کر سکتا ہوں؟