Kit di calcolo LLM630

SCHEMA

Il kit di elaborazione LLM630 è una piattaforma di sviluppo per l'inferenza di modelli linguistici di grandi dimensioni basata su intelligenza artificiale, progettata per applicazioni di edge computing e interazione intelligente. La scheda madre del kit è dotata del processore SoC Aixin AX630C, che integra una NPU ad alta efficienza con una potenza di calcolo di 3.2 TOP a INT8, offrendo potenti capacità di inferenza AI per eseguire in modo efficiente attività di visione (CV) e modelli linguistici di grandi dimensioni (LLM), soddisfacendo le esigenze di vari scenari applicativi intelligenti. La scheda madre è inoltre dotata di un chip Gigabit Ethernet JL2101-N040C e di un chip di comunicazione wireless ESP32-C6, che supporta Wi-Fi 6 a 2.4 GHz, utilizzato come scheda di rete del dispositivo, offrendo capacità di trasmissione dati ad alta velocità e funzionalità di bridging Wi-Fi ed Ethernet. Sia tramite connessioni cablate per lo scambio di dati su larga scala, sia tramite comunicazione wireless per l'interazione in tempo reale con server remoti o altri dispositivi intelligenti, questa piattaforma garantisce un'interazione efficiente dei dati. La scheda madre integra anche un'interfaccia per antenna SMA per migliorare ulteriormente la stabilità del segnale wireless e la distanza di trasmissione, garantendo comunicazioni stabili in ambienti di rete complessi. È dotata di 4 GB di memoria LPDDR4 integrata (2 GB per l'utente, 2 GB dedicati all'accelerazione hardware) e 32 GB di storage eMMC, che supportano il caricamento parallelo e l'inferenza di più modelli, garantendo un'elaborazione efficiente e fluida delle attività.
La scheda base, che si integra perfettamente con la scheda madre, amplia significativamente le funzionalità e l'applicabilità del kit di elaborazione LLM630. Integra un sensore a sei assi BMI270, che fornisce capacità di rilevamento preciso dell'assetto e del movimento, adatte a varie applicazioni dinamiche. Il modulo NS4150B Classe D integrato ampLe interfacce del lifier, del microfono e dell'altoparlante supportano input vocali e output audio di alta qualità, consentendo una modalità di comunicazione full-duplex e migliorando l'esperienza di interazione dell'utente. La scheda madre è inoltre dotata di doppie interfacce Grove e interfacce LCD/DSI e CAM/CSI MIPI, facilitando l'espansione di periferiche come display e moduli fotocamera. Inoltre, la scheda madre integra un'interfaccia per antenna esterna e una porta Gigabit Ethernet, offrendo connessioni di rete flessibili e prestazioni wireless migliorate per il dispositivo. I pulsanti utente del dispositivo abilitano funzioni come l'accensione/spegnimento e la commutazione di modalità, migliorando l'usabilità e l'interattività del dispositivo. Il chip di ricarica e l'alloggiamento per la batteria riservata della scheda madre supportano configurazioni di batteria personalizzate, garantendo il funzionamento stabile della piattaforma per un lungo periodo anche senza alimentazione esterna. Il chip di rilevamento della batteria integrato monitora lo stato della batteria in tempo reale. Lo slot per schede MicroSD supporta l'espansione della memoria, nonché il supporto futuro per le funzioni di aggiornamento dei modelli AI. Le doppie interfacce USB Type-C non solo supportano un'efficiente trasmissione dei dati, ma forniscono anche la funzionalità OTG, rendendo le connessioni dei dispositivi più flessibili e garantendo un'elevata efficienza nello scambio di dati e nella connessione dei dispositivi.
Il Compute Kit LLM630 supporta il framework StackFlow, consentendo agli sviluppatori di implementare facilmente applicazioni edge intelligenti con poche righe di codice, avviando rapidamente varie attività di intelligenza artificiale. La piattaforma supporta una varietà di applicazioni di intelligenza artificiale, tra cui riconoscimento visivo, riconoscimento vocale, sintesi vocale e riconoscimento delle parole di attivazione, e supporta l'invocazione separata o il flusso automatico della pipeline, facilitando lo sviluppo. La piattaforma supporta anche modelli di visione come Yolo11 DepthAnything, modelli di grandi dimensioni multimodali come InternVL2.5-1B, modelli di linguaggio di grandi dimensioni come Qwen2.5-0.5/1.5B Llama3.2-1B e modelli vocali come Whisper Melotts, supportando aggiornamenti rapidi e continuerà a supportare i modelli di grandi dimensioni più avanzati e diffusi in futuro, potenziando il riconoscimento e l'analisi intelligenti, garantendo che la piattaforma sia al passo con lo sviluppo tecnologico e le tendenze della comunità. Il Compute Kit LLM630 è adatto a settori come il monitoraggio della sicurezza, le vendite intelligenti, l'agricoltura intelligente, il controllo della casa intelligente, i robot interattivi e l'istruzione, offrendo potenti capacità di elaborazione e un'espandibilità flessibile per applicazioni edge intelligenti.

1.1. Kit di elaborazione LLM630
1. Capacità di comunicazione

• Rete cablata: dotata di chip Gigabit Ethernet JL2101-N040C per lo scambio di dati ad alta velocità.
• Rete wireless: integra un chip ESP32-C6 che supporta Wi-Fi 6 (2.4 GHz) e BLE, garantendo un'interazione efficiente dei dati wireless.
• Funzione bridge: consente il bridging da Ethernet a Wi-Fi, facilitando la trasmissione dei dati in vari ambienti di rete.
• Interfaccia antenna esterna: connettore SMA per antenne esterne, che migliora la stabilità del segnale wireless e la portata di trasmissione.

2. Processore e prestazioni

• SoC principale: AX630C di AXERA, dotato di un Cortex-A53 dual-core (1.2 GHz).
• NPU (Neural Processing Unit): fornisce una potenza di calcolo di 3.2 TOPS@INT8 (1.2T@FP16), gestendo in modo efficiente le attività di inferenza dell'IA (ad esempio, visione artificiale e inferenza di modelli linguistici di grandi dimensioni).
• Parallelismo multi-modello: la solida capacità di elaborazione supporta il caricamento e l'esecuzione simultanea di più modelli, ideale per scenari complessi di edge intelligence.

3. Visualizzazione e input

• Sensori: sensore a sei assi BMI270 integrato (accelerometro + giroscopio) per il rilevamento del movimento e della postura.
• Audio:
  • NS4150B Classe D integrato amppiù vivace
  • Interfaccia microfono e altoparlante integrati per I/O audio di alta qualità e comunicazione vocale full-duplex
• Interfacce:
  • LCD/DSI (MIPI) per display esterni
  • CAM/CSI (MIPI) per moduli telecamera
• Pulsanti utente: consentono il controllo dell'alimentazione, la commutazione della modalità e migliorano l'interattività del dispositivo.

4. Memoria

• Memoria RAM:
  • 4 GB LPDDR4 totali (2 GB per il sistema utente, 2 GB dedicati agli acceleratori hardware come NPU)
• Magazzinaggio:
  • eMMC da 32 GB per sistemi operativi, modelli di intelligenza artificiale e dati delle applicazioni
  • Slot per schede MicroSD per una maggiore capacità di archiviazione e futuri aggiornamenti del modello AI

5. Gestione energetica

• Supporto batteria:
  • Chip di ricarica integrato e connettore della batteria per configurazioni della batteria personalizzabili
  • Il chip di monitoraggio dell'alimentazione fornisce feedback sullo stato della batteria in tempo reale
• Alimentazione elettrica:
  • Supporta l'ingresso di alimentazione USB Type-C
  • Può funzionare a batteria per un tempo di esecuzione prolungato senza alimentazione esterna

6. Pin GPIO e interfacce programmabili

• Interfacce di espansione:
  • Due porte Grove per una facile connessione a sensori e periferiche
  • Interfacce MIPI DSI/CSI per display e telecamere
  • Due porte USB Type-C per il trasferimento dati ad alta velocità e funzionalità OTG, migliorando la connettività
• Sviluppo e programmazione:
  • Compatibile con il framework StackFlow di M5Stack, che consente lo sviluppo rapido di applicazioni AI edge con una codifica minima
  • Supporta vari algoritmi e modelli di intelligenza artificiale per visione, parlato, testo e altro ancora

7. Altri

• Supporto modello AI:
  • Modelli precaricati o caricabili come Yolo11, DepthAnything per la visione, InternVL2.5-1B per multimodale e grandi
  • modelli linguistici (Qwen2.5-0.5/1.5B, Llama3.2-1B, ecc.) più Whisper Melotts per il parlato
  • Capacità di aggiornamento rapido per mantenere la piattaforma aggiornata con gli ultimi sviluppi dell'intelligenza artificiale
• Scenari applicativi:
  • Adatto per la sorveglianza di sicurezza, la vendita al dettaglio intelligente, l'agricoltura intelligente, il controllo della casa intelligente, la robotica interattiva, l'istruzione e altro ancora
  • Offre un'elaborazione potente e un'espansione flessibile per un'ampia gamma di casi d'uso AIoT
• Dimensioni e peso del dispositivo: fattore di forma compatto per una facile integrazione in diverse applicazioni e una rapida prototipazione.

SPECIFICHE

2.1. Specifiche

Parametro e specifiche	Valore
Processore	AX6300Dual Cortex A53 1.2 GHz MAX. 12. 8 TOP @INT4 e 3.2 TOP @INT8
NPU	3.2TOP @ INT8
Memoria RAM	4 GB LPDDR4 (2 GB di memoria di sistema + 2 GB di memoria dedicata per accelerazione hardware)
eMMC	eMMC5 da 1 GB
Rete cablata	IL2101B-N040C a 1 GbE
Rete senza fili	ESP32-C6 @ Wi-Fi6 2.4G
Interfaccia USB UART	CH9102F @ Porta USB a seriale
USB-OTG	Host o dispositivo USB 2.0
Interfaccia antenna	Foro interno SMA
Interfaccia audio	Connettore MIC e SPK 5P a 1.25 mm
Interfaccia del display	MIPI DSI lx 2Lane MAX 1080p 0 30fps 0 1.25mm
Interfaccia della fotocamera	MIPI CSI lx 4Lane MAX 4K 0 30fps 0 1.25mm
Caratteristiche aggiuntive	LED RGB programmabile per controllo a basso consumo. Cicalino. Pulsante di reset.
Gestione della batteria	Terminale di interfaccia della batteria con specifiche da 1.25 mm
Terminale di interfaccia della batteria	4 motori coreless ad alta velocità
Specifiche della batteria compatibile	Batteria al litio da 3.7 V (agli ioni di litio o ai polimeri di litio)
Interfaccia USB	2 interfacce Tvpe-C (trasferimento dati, funzionalità OTG)
Ingresso alimentazione USB	5V 0 2A
Interfaccia Grove	Intestazione PortA 4P 0 2.0 mm (I2C) Intestazione PortC 4P 0 2.0 mm (UART)
Interfaccia di espansione dell'archiviazione	Slot per scheda Micro SD
Interfaccia di funzione esterna	Intestazione FUNC 8P @ 1.25 mm per il riavvio del sistema, gestione dell'alimentazione, controllo LED esterno e comunicazione I2C, ecc.
Pulsanti	2 pulsanti per accensione/spegnimento, interazione con l'utente e funzioni di reset
Sensore	BMI270 0 6 assi
Produttore	M5Stack Technology Co., Ltd

2.2. Dimensioni del modulo

AVVIO RAPIDO

3.1 Interfaccia UART

1. Collega l'interfaccia UART del kit di elaborazione LLM630 al tuo computer. Puoi utilizzare strumenti di debug come Putty per accedere al terminale del dispositivo tramite porta seriale per il debug e il controllo. (Predefinito: 115200 bps 8N1, nome utente predefinito è root, password predefinita è root.)

3.2. Cavo Ethernet

1. Il kit di elaborazione LLM630 fornisce un'interfaccia Ethernet per un facile accesso alla rete e un debug funzionale.

3.3. Wi-Fi

1. Il kit di elaborazione LLM630 è dotato di un ESP32-C6 integrato come chip Wi-Fi, che semplifica la connessione alle reti wireless.
   Per abilitare il Wi-Fi e configurare la connessione, seguire i passaggi seguenti. Installare l'antenna esterna SMA in dotazione prima dell'uso.

configurazione principale

Lo strumento di configurazione di rete predefinito nel kit di elaborazione LLM630 è ntmui. È possibile utilizzare lo strumento nmtui per configurare facilmente le connessioni Wi-Fi.

nmtui

Avviso FCC

Attenzione FCC:
Eventuali modifiche o alterazioni non espressamente approvate dalla parte responsabile della conformità potrebbero invalidare il diritto dell'utente a utilizzare l'apparecchiatura.
Questo dispositivo è conforme alla parte 15 delle Norme FCC. Il funzionamento è soggetto alle due condizioni seguenti: (1) Questo dispositivo non può causare interferenze dannose e (2) questo dispositivo deve accettare qualsiasi interferenza ricevuta, comprese le interferenze che possono causare un funzionamento indesiderato.

NOTA IMPORTANTE:
Nota: questa apparecchiatura è stata testata e ritenuta conforme ai limiti per un dispositivo digitale di Classe B, ai sensi della parte 15 delle Norme FCC. Questi limiti sono concepiti per fornire una protezione ragionevole contro interferenze dannose in un'installazione residenziale.
Questa apparecchiatura genera, utilizza e può irradiare energia a radiofrequenza e, se non installata e utilizzata in conformità alle istruzioni, può causare interferenze dannose alle comunicazioni radio. Tuttavia, non vi è alcuna garanzia che non si verifichino interferenze in una particolare installazione. Se questa apparecchiatura causa interferenze dannose alla ricezione radiofonica o televisiva, il che può essere determinato accendendo e spegnendo l'apparecchiatura, si consiglia all'utente di provare a correggere l'interferenza con una o più delle seguenti misure:

• Riorientare o riposizionare l'antenna ricevente.
• Aumentare la distanza tra l'apparecchiatura e il ricevitore.
• Collegare l'apparecchiatura a una presa di corrente appartenente a un circuito diverso da quello a cui è collegato il ricevitore.
• Per assistenza, consultare il rivenditore o un tecnico radio/TV esperto.

Dichiarazione FCC sull'esposizione alle radiazioni: questa apparecchiatura è conforme ai limiti di esposizione alle radiazioni FCC stabiliti per un ambiente non controllato.

Documenti / Risorse

Kit di elaborazione M5STACK LLM630 [pdf] Manuale d'uso M5LLM630COMKIT, 2AN3WM5LLM630COMKIT, Kit di elaborazione LLM630, LLM630, Kit di elaborazione, Kit

Riferimenti

• Manuale d'uso