RISC-V kiip biz SiFive ütleb, et selle protsessoreid kasutatakse AI töökoormuse teatud määral haldamiseks Google'i andmekeskustes.
SiFive sõnul on kõnealune protsessor selle intelligentsus X280, vektorlaienditega mitmetuumaline RISC-V disain, mis on optimeeritud andmekeskuse AI/ML rakenduste jaoks. Kombineerituna maatrikskorrutusühikutega (MXU), mis on eemaldatud Google'i tensoritöötlusühikutest (TPU-d), pakub see väidetavalt suuremat paindlikkust masinõppe töökoormuste programmeerimiseks.
Põhimõtteliselt käitavad X280 üldotstarbelised protsessoris olevad RV64 tuumad koodi, mis haldab seadet ja edastab masinõppe arvutused Google'i MXU-desse, kui see on vajalik tööde lõpetamiseks. X280 sisaldab ka oma vektormatemaatikaseadet, mis saab hakkama toimingutega, mida kiirendiseadmed ei suuda.
SiFive ja Google suhtusid võib-olla ärilistel põhjustel pisut vaenulikult selle kohta, kuidas see täpselt pakendatakse ja kasutatakse, kuigi meile tundub, et Google on paigutanud oma kohandatud kiirendusseadmed mitmetuumalisse X280 süsteemi kiibile, mis ühendab Google'i loodud MXU blokeerib otse RISC-V tuumakompleksi. Neid kiipe kasutatakse masinõppe töö kiirendamiseks Google'i andmekeskustes, SiFive'i järgi "AI-arvutushostides".
Kujutame ette, et kui neid kasutatakse tootmises, siis tegelevad need kiibid teenuste siseste ülesannetega. Pange tähele, et te ei saa seda riistvara otse rentida teenuses Google Cloud, mis pakub tehisintellektile optimeeritud virtuaalmasinaid, mis töötavad traditsioonilisel x86-, Arm-, TPU- ja GPU-tehnoloogial.
Üksikasjad avalikustati selle kuu alguses Silicon Valleys toimunud tehisintellekti riistvara tippkohtumisel SiFive'i kaasasutaja ja peaarhitekti Krste Asanovići ning Google'i TPU arhitekti Cliff Youngi kõnes ning SiFive ajaveebi postitus sel nädalal.
SiFive'i sõnul märkas ta, et pärast X280 kasutuselevõttu hakkasid mõned kliendid seda kasutama kiirendi kõrval kaastuumana, et tulla toime kõigi majapidamis- ja üldotstarbeliste töötlemisülesannetega, milleks kiirendi ei olnud mõeldud.
Paljud leidsid, et kiirendi haldamiseks on vaja täisfunktsionaalsusega tarkvarapakki, teatab kiibibiz, ja kliendid mõistsid, et saavad selle lahendada X280 tuumakompleksiga, mis asub nende suure kiirendi kõrval, RISC-V protsessori tuumad, mis tegelevad kogu hooldusega ja tehtekoodi, sooritades matemaatilisi tehteid, mida suur kiirendi ei suuda, ja pakkudes mitmesuguseid muid funktsioone. Põhimõtteliselt võib X280 toimida kiirendi omamoodi haldussõlmena.
Selle ärakasutamiseks töötas SiFive selliste klientidega nagu Google, et arendada välja nn Vector Coprocessor Interface eXtension (VCIX), mis võimaldab klientidel tihedalt siduda kiirendi otse X280 vektorregistrifailiga, pakkudes paremat jõudlust ja rohkem andmeid. ribalaius.
Asanovići sõnul on eeliseks see, et kliendid saavad RISC-V ökosüsteemi tuua oma kaasprotsessori ja käitada täielikku tarkvarapinu ja programmeerimiskeskkonda, mis võimaldab käivitada Linuxi täieliku virtuaalmälu ja vahemälu sidusa toega kiibil, mis sisaldab segu üldotstarbelistest CPU tuumadest ja kiirendusüksustest.
Google'i vaatenurgast soovis ta keskenduda oma TPU-tehnoloogiate perekonna täiustamisele ja mitte raisata aega oma rakendusprotsessori nullist meisterdamisele, mistõttu tundus nende kiirendusfunktsioonide sidumine valmis üldotstarbelise protsessoriga õige tee. Youngi sõnul minna.
VCIX liimib MXU-d sisuliselt madala latentsusega RISC-V tuumade külge, jättes vahele vajaduse kulutada palju tsükleid, oodates, et protsessori ja kiirendusseadme vahel mälu, vahemälu või PCIe kaudu andmeid edastada. Selle asemel öeldakse meile, et see on vaid kümneid tsükleid läbi vektorregistri juurdepääsu. See viitab ka sellele, et kõik – RISC-V protsessorikompleks ja kohandatud kiirendid – on kõik samal kujul, pakitud süsteem-kiibile.
Rakenduse kood töötab üldotstarbelistel RISC-V tuumadel ja kõik tööd, mida MXU saab kiirendada, edastatakse VCIX-i kaudu. Youngi sõnul on sellel lähenemisel ka muid eeliseid ja lisaks tõhusus. Programmeerimismudel on lihtsustatud, mille tulemuseks on üks programm, mille skalaar-, vektor- ja kaasprotsessorikäsud on põimitud, ning võimaldab üht tarkvaratööriistaahelat, kus arendajad saavad eelistatult kodeerida C/C++ või assembleris.
"SiFive VCIX-põhiste üldotstarbeliste tuumadega, mis on hübridiseeritud Google'i MXU-dega, saate luua masina, mis võimaldab teil "süüa oma kooki ja seda ka süüa", kasutades ära MXU kogu jõudluse ja üldise programmeeritavuse. CPU ja X280 protsessori vektorjõudlus, "ütles Young.
Sellise kohandatud kiibi valmistamise võimalus jääb tõenäoliselt selliste hüperskaalarite nagu Google või nišinõuete ja sügavate taskutega inimeste pärusmaaks, kuid see näitab, mida on võimalik saavutada tänu avatud ökosüsteemi RISC-V mudeli paindlikkusele. .
See paindlikkus ja avatus näib olevat piisav, et meelitada Google'it – RISC-V pikaajalist toetajat, mille mõnes muus tootes on kasutatud RV-tuumasid – kasutama uuemat arhitektuuri, mitte kohandama oma kaasprotsessoreid x86-kiipideks või Armiks. - litsentsitud kujundused. ®
PS: Pidage meeles, kui Google oli Toying kasutades oma andmekeskustes POWER CPU arhitektuuri?