Intel Labs revealed its largest neuromorphic computer on Wednesday, a 1.15 billion neuron system, which it reckons is roughly analogous to an owl’s brain.
Men bare rolig, Intel har ikke genskabt Fallouts Robobrain. I stedet for et netværk af organiske neuroner og synapser emulerer Intels Hala Point dem alle i silicium.
Med omkring 20 W er vores hjerner overraskende effektive til at behandle de store mængder information, der strømmer ind fra hver af sanserne på ethvert givet tidspunkt. Området neuromorphics, som Intel og IBM har brugt de sidste par år på at udforske, har til formål at efterligne hjernens netværk af neuroner og synapser for at bygge computere, der er i stand til at behandle information mere effektivt end traditionelle acceleratorer.
How efficient? According to Intel, its latest system – delivered to Sandia National Labs in the US – is a 6U box roughly the size of a microwave that consumes 2,600 W, can reportedly achieve deep neural network efficiencies as high as 15 TOPS/W at 8-bit precision. To put that in perspective, Nvidia’s most powerful system, the Blackwell-based GB200 NVL72, which has yet to even ship, administrerer kun 6 TOPS/W ved INT8, mens dets nuværende DGX H100-systemer kan klare omkring 3.1 TOPS/W.
Forskere ved Sandia National Labs tager imod Intels 1.15 milliarder neuron Hala Point neuromorfe computer – klik for at forstørre
Denne ydeevne opnås ved hjælp af 1,152 af Intels Loihi 2-processorer, som er syet sammen i et tredimensionelt gitter til i alt 1.15 milliarder neuroner, 128 milliarder synapser, 140,544 behandlingskerner og 2,300 indlejrede x86-kerner, der håndterer de nødvendige beregninger hold sagen kørende.
For at være klar, er det ikke typiske x86-kerner. "De er meget, meget simple, små x86-kerner. De er ikke noget som vores seneste kerner eller Atom-processorer,” fortalte Mike Davies, direktør for neuromorphic computing hos Intel, Registret.
Hvis Loihi 2 ringer en klokke, er det fordi chippen har været det banker rundt i et stykke tid efter at have haft sin debut tilbage i 2021 som en af de første chips produceret ved hjælp af Intels 7nm procesteknologi.
På trods af sin alder siger Intel, at de Loihi-baserede systemer er i stand til at løse visse AI-inferens- og optimeringsproblemer så meget som 50x hurtigere end konventionelle CPU- og GPU-arkitekturer, mens de bruger 100x mindre strøm. Disse tal ser ud til at have været det opnået [PDF] ved at sætte en enkelt Loihi 2-chip til Nvidias lille Jetson Orin Nano og en Core i9 i9-7920X CPU.
Smid ikke dine GPU'er ud endnu
Selvom det kan lyde imponerende, indrømmer Davies, at dets neuromorfe acceleratorer endnu ikke er klar til at erstatte GPU'er for hver arbejdsbyrde. "Dette er ikke en generel AI-accelerator på nogen måde," sagde han.
For det første vil AI's uden tvivl mest populære applikation, de store sprogmodeller (LLM'er), der driver apps som ChatGPT, ikke køre på Hala Point, i hvert fald ikke endnu.
"Vi kortlægger ikke nogen LLM til Hala Point på nuværende tidspunkt. Vi ved ikke, hvordan man gør det. Helt ærligt, det neuromorfe forskningsfelt har ikke en neuromorf version af transformatoren," sagde Davies og bemærkede, at der er noget interessant forskning i, hvordan det kan opnås.
Når det er sagt, har Davies' team haft succes med at køre traditionelle dybe neurale netværk, en flerlagsperceptron, på Hala Point med nogle forbehold.
"Hvis du kan sparre netværksaktiviteten og ledningsevnen i det netværk, er det, når du kan opnå virkelig, virkelig store gevinster," sagde han. "Det betyder, at det skal behandle et kontinuerligt inputsignal ... en videostream eller en lydstream, noget hvor der er en vis sammenhæng fra sample til sample til sample."
Intel Labs demonstrerede Loihi 2's potentiale for video- og lydbehandling i et papir offentliggjort [PDF] sidst sidste år. I test fandt de ud af, at chippen opnåede betydelige gevinster i energieffektivitet, latens og gennemløb til signalbehandling, nogle gange over tre størrelsesordener sammenlignet med konventionelle arkitekturer. De største gevinster kom dog på bekostning af lavere nøjagtighed.
Evnen til at behandle data i realtid med lav effekt og latency har gjort teknologien attraktiv for applikationer som autonome køretøjer, droner og robotteknologi.
En anden use case, der er vist lovende, er kombinatoriske optimeringsproblemer, såsom ruteplanlægning for et leveringskøretøj, som skal navigere i en travl bymidte.
Disse arbejdsbyrder er utrolig komplekse at løse, da små ændringer som køretøjets hastighed, ulykker og vognbanespærringer skal tages i betragtning undervejs. Konventionelle computerarkitekturer er ikke velegnede til denne form for eksponentiel kompleksitet, hvilket er grunden til, at vi har set så mange kvantecomputerleverandører rettet mod optimeringsproblemer.
Davies hævder dog, at Intels neuromorfe computerplatform er "langt mere moden end disse andre eksperimentelle forskningsalternativer."
Plads til at vokse
Ifølge Davies er der også stadig masser af frihøjde, der skal låses op. "Jeg er ked af at sige, at det ikke engang er fuldt udnyttet den dag i dag på grund af softwarebegrænsninger," sagde han om Loihi 2-chippene.
At identificere hardwareflaskehalse og softwareoptimeringer er en del af grunden til, at Intel Labs har implementeret prototypen hos Sandia.
"Forståelse af begrænsningerne, især på hardwareniveau, er en meget vigtig del af at få disse systemer derude," sagde Davies. "Vi kan løse hardwareproblemerne, vi kan forbedre det, men vi skal vide, hvilken retning vi skal optimere."
Dette ville ikke være første gang, Sandia boffins har fået fingrene i Intels neuromorfe teknologi. I et papir offentliggjort i begyndelsen af 2022 fandt forskere ud af, at teknologien havde potentiale for HPC og AI. Disse eksperimenter brugte imidlertid Intels første generation af Loihi-chips, som har omtrent en ottendedel af neuronerne (128,000 mod 1 million) af dens efterfølger. ®
- SEO Powered Content & PR Distribution. Bliv forstærket i dag.
- PlatoData.Network Vertical Generative Ai. Styrk dig selv. Adgang her.
- PlatoAiStream. Web3 intelligens. Viden forstærket. Adgang her.
- PlatoESG. Kulstof, CleanTech, Energi, Miljø, Solenergi, Affaldshåndtering. Adgang her.
- PlatoHealth. Bioteknologiske og kliniske forsøgs intelligens. Adgang her.
- Kilde: https://go.theregister.com/feed/www.theregister.com/2024/04/17/intel_hala_point_neuromorphic_owl/