Лабораторії Intel представили свій найбільший нейроморфний комп’ютер у середу, систему з 1.15 мільярда нейронів, яка, на її думку, приблизно аналогічна мозку сови.
Але не хвилюйтеся, Intel не відтворювала Fallout Робомозок. Замість мережі органічних нейронів і синапсів, Hala Point від Intel емулює їх усі в кремнії.
Маючи приблизно 20 Вт, наш мозок напрочуд ефективно обробляє велику кількість інформації, що надходить від кожного органу чуття в будь-який момент. Сфера нейроморфології, яку Intel і IBM досліджували останні кілька років, спрямована на імітацію мережі нейронів і синапсів мозку для створення комп’ютерів, здатних обробляти інформацію ефективніше, ніж традиційні прискорювачі.
Наскільки ефективно? За словами Intel, її остання система, доставлена до Sandia National Labs у США, являє собою коробку 6U розміром приблизно з мікрохвильову піч, яка споживає 2,600 Вт і, як повідомляється, може досягти глибокої ефективності нейронної мережі до 15 TOPS/W при 8-бітній версії. точність. Щоб поглянути на це в перспективі, найпотужніша система Nvidia GB200 NVL72 на базі Blackwell, яка ще навіть не постачалася, управляє лише 6 TOPS/W на INT8, тоді як його поточні системи DGX H100 можуть керувати приблизно 3.1 TOPS/W.
Дослідники з Sandia National Labs отримують нейроморфний комп’ютер Intel Hala Point із 1.15 мільярдами нейронів – натисніть, щоб збільшити
Ця продуктивність досягається за допомогою 1,152 процесорів Intel Loihi 2, які з’єднані разом у тривимірну сітку для загальної кількості 1.15 мільярда нейронів, 128 мільярдів синапсів, 140,544 2,300 процесорних ядер і 86 вбудованих ядер xXNUMX, які обробляють допоміжні обчислення, необхідні для продовжуйте цю справу.
Щоб було зрозуміло, це не типові ядра x86. «Вони дуже, дуже прості, маленькі ядра x86. Вони зовсім не схожі на наші новітні ядра чи процесори Atom», — сказав Майк Дейвіс, директор відділу нейроморфних обчислень Intel. Реєстр.
Якщо Loihi 2 дає дзвіночок, це тому, що чіп був стукаючи навколо якийсь час дебютував у 2021 році як один із перших чіпів, вироблених за 7-нм техпроцесом Intel.
Незважаючи на свій вік, Intel стверджує, що системи на основі Loihi здатні вирішувати певні проблеми ШІ та оптимізації в 50 разів швидше, ніж звичайні архітектури ЦП і ГП, споживаючи при цьому в 100 разів менше енергії. Схоже, ці цифри були досягнутий [PDF], зіставивши один чіп Loihi 2 з крихітним Jetson Orin Nano від Nvidia та процесором Core i9 i9-7920X.
Поки що не викидайте свої графічні процесори
Хоча це може здатися вражаючим, Девіс визнає, що його нейроморфні прискорювачі ще не готові замінити графічні процесори для кожного робочого навантаження. «Це ні в якому разі не прискорювач ШІ загального призначення», — сказав він.
Для одного, мабуть, найпопулярнішого додатка штучного інтелекту, великих мовних моделей (LLM), які працюють у додатках, таких як ChatGPT, не працюватимуть на Hala Point, принаймні поки.
«Зараз ми не відображаємо жодного LLM із Hala Point. Ми не знаємо, як це зробити. Відверто кажучи, у галузі нейроморфних досліджень немає нейроморфної версії трансформатора», — сказав Дейвіс, зазначивши, що є кілька цікавих досліджень того, як цього можна досягти.
Сказавши це, команда Дейвіса успішно запустила традиційні глибокі нейронні мережі, багатошаровий персептрон, на Hala Point із деякими застереженнями.
«Якщо вам вдасться зменшити мережеву активність і провідність у цій мережі, тоді ви зможете досягти дійсно, дуже великих успіхів», — сказав він. «Це означає, що він має обробляти безперервний вхідний сигнал... відеопотік або аудіопотік, щось, де є певна кореляція від зразка до зразка».
Intel Labs продемонструвала потенціал Loihi 2 для обробки відео та аудіо в статті опублікований [PDF] наприкінці минулого року. Під час тестування вони виявили, що мікросхема досягла значного приросту енергоефективності, затримки та пропускної здатності для обробки сигналів, іноді перевищуючи три порядки, порівняно зі звичайними архітектурами. Однак найбільші переваги були отримані за рахунок нижчої точності.
Здатність обробляти дані в реальному часі з низьким енергоспоживанням і затримкою зробила цю технологію привабливою для таких додатків, як автономні транспортні засоби, дрони та робототехніка.
Ще один багатообіцяючий варіант використання — це проблеми комбінаторної оптимізації, як-от планування маршруту для транспортного засобу доставки, який має рухатися по жвавому центру міста.
Вирішувати ці робочі навантаження надзвичайно складно, оскільки невеликі зміни, як-от швидкість транспортного засобу, аварії та закриття смуг руху, потрібно враховувати на ходу. Звичайні обчислювальні архітектури погано підходять для такої експоненціальної складності, тому ми бачили так багато постачальників квантових обчислень націлювання проблеми оптимізації.
Проте Дейвіс стверджує, що нейроморфна обчислювальна платформа Intel є «набагато зрілішою, ніж ці інші експериментальні дослідницькі альтернативи».
Кімната для вирощування
За словами Девіса, ще є багато простору, який потрібно розблокувати. «Мені сумно констатувати, що донині він навіть не повністю використовується через програмні обмеження», — сказав він про чіпи Loihi 2.
Виявлення апаратних вузьких місць і оптимізація програмного забезпечення є частиною причин, чому Intel Labs розгорнула прототип у Sandia.
«Розуміння обмежень, особливо на апаратному рівні, є дуже важливою частиною впровадження цих систем», — сказав Дейвіс. «Ми можемо вирішити проблеми з апаратним забезпеченням, ми можемо покращити його, але нам потрібно знати, у якому напрямку оптимізувати».
Це був би не перший раз, коли Sandia boffins потрапили в руки нейроморфної технології Intel. У папері опублікований на початку 2022 року дослідники виявили, що ця технологія має потенціал для HPC та AI. Однак у цих експериментах використовували чіпи Intel Loihi першого покоління, які мають приблизно вісім нейронів (128,000 1 проти XNUMX мільйона) у своєму наступнику. ®
- Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
- PlatoData.Network Vertical Generative Ai. Додайте собі сили. Доступ тут.
- PlatoAiStream. Web3 Intelligence. Розширення знань. Доступ тут.
- ПлатонЕСГ. вуглець, CleanTech, Енергія, Навколишнє середовище, Сонячна, Поводження з відходами. Доступ тут.
- PlatoHealth. Розвідка про біотехнології та клінічні випробування. Доступ тут.
- джерело: https://go.theregister.com/feed/www.theregister.com/2024/04/17/intel_hala_point_neuromorphic_owl/