EdgeCortix memperkenalkan SAKURA-II, pemecut AI untuk Edge dengan prestasi mengagumkan 60 TOPS (INT8) dan penggunaan kuasa yang rendah iaitu 8 watt. Cip direka bentuk untuk tugas AI yang kompleks, seperti memproses model bahasa besar (LLM), model penglihatan besar (LVM), dan aplikasi multimodal berasaskan pengubah, serta untuk aplikasi di pinggir rangkaian, seperti peranti IoT dan kenderaan autonomi .
Ia membolehkan fleksibiliti dari segi perkakasan, dengan kemungkinan mengintegrasikannya ke dalam kedua-duanya Kad pengembangan PCIe dengan satu atau dua kerepek SAKURA-II, atau juga dalam modul M.2 2280 (antara muka PCIe x8 atau x16) Jika anda lebih suka. Oleh itu, kuasa sehingga 120 TOPS boleh dicapai dengan INT8 atau 60 TFLOPS dengan BF16.
Platform AI juga menawarkan sebahagian daripada perisian canggih, dengan suite MERA untuk pengaturcaraan dan pengoptimuman, platform kompilasi heterogen, teknik kuantifikasi lanjutan, dan keupayaan penentukuran model. Ia juga menampilkan penyepaduan dengan rangka kerja pembangunan popular seperti PyTorch, TensorFlow Lite dan ONNX, serta akses kepada perpustakaan luas model transformatif termaju dan model konvolusi.
Di samping itu, syarikat EdgeCortix juga telah memikirkan untuk mengambil reka bentuk pemecut AInya dengan lebih jauh, dapat disepadukan ke dalam SoC daripada syarikat lain, seperti AMD.
Spesifikasi teknikal IA SAKURA-II
Sebagai Spesifikasi teknikal EdgeCortix SAKURA-II, adalah berikut:
- NPU dengan seni bina DNA-II atau Generasi kedua Dynamic Neural Accelerator.
- Prestasi sehingga 60 TOPS dengan INT8 atau 30 TFLOPS dengan BF16.
- Memori DRAM dengan dwi saluran 64-bit jenis LPDDR4x (8GB, 16GB, 32GB on-board) dengan lebar jalur sehingga 68 GB/s.
- Memori SRAM 20MB bersepadu.
- Kecekapan penggunaan sehingga 90%, dengan penggunaan tenaga 8W.
- Pembungkusan BGA.
Jika kita merujuk kepada Modul SAKURA-II dengan format M.2, kami ada:
- Memori DRAM
- 8GB (2x bank 4GB LPDDR4)
- 16GB (2x bank 8GB LPDDR4)
- Antara muka PCIe Gen 3.0 x4
- Prestasi maksimum 60 TOPS pada INT8, 30 TFLOPS pada BF16
- Kuasa modul 10W
- Dimensi M.2 2280 (22x80mm)
Untuk Kad pengembangan PCIe, spesifikasi adalah seperti berikut untuk pemecut AI:
- Antara muka PCIe Gen 3.0 x8
- Untuk model cip tunggal SAKURA-II:
- Memori DRAM 16GB (2x bank 8GB LPDDR4)
- Prestasi 60 TOPS pada INT8, 30 TFLOPS pada BF16
- Kuasa 10W.
- Untuk model dengan dua cip SAKURA-II:
- Memori DRAM 32GB (2x bank 16GB LPDDR4)
- Prestasi 120 TOPS pada INT8, 60 TFLOPS pada BF16
- Kuasa 20W
- 1x Slot
- Termasuk heatsink
Mengenai harga, jika anda tertanya-tanya, mereka akan tiba dari suku kedua 2024 dengan:
- M.2 8GB: $249
- M.2 16GB: $299
- PCIe 1xSAKURA-II: $429
- PCIe 2xSAKURA-II: $749