Aizip, Inc. in collaborazione con SoftBank Corp. ha annunciato il rilascio di soluzioni personalizzate Small Language Model (SLM) e Retrieval Augmented Generation (RAG) per applicazioni aziendali. Il sistema funziona localmente su dispositivi mobili o su server on-premises, rispondendo alle pressanti preoccupazioni della sicurezza dei dati aziendali.

Messi a punto con dati specifici del dominio, questi SLM possono affrontare compiti aziendali unici con una precisione paragonabile a quella di LLM cloud 100 volte più grandi. Questo annuncio arriva mentre molte aziende hanno implementato dei divieti sugli LLM basati sul cloud per le attività legate al business, a causa delle preoccupazioni per le fughe di informazioni private. Un recente sondaggio di Menlo Ventures ha rilevato che il 21% dei progetti pilota di IA falliti erano dovuti a ostacoli legati alla privacy dei dati. Gli SLM perfezionati sono un'alternativa agli LLM generali, offrendo sicurezza e privacy delle informazioni insieme ai vantaggi del lavoro abilitato dall'AI.

Molte aziende hanno esplorato l'uso di Small Language Models open-source che funzionano localmente e in modo efficiente on-premise, in sostituzione degli LLM basati su cloud. Tuttavia, questi modelli si sono rivelati in genere troppo affidabili per soddisfare i requisiti di performance a livello di produzione. Aizip e SoftBank affrontano questa sfida con nuove soluzioni innovative. Il team congiunto ha sviluppato e consegnato un SLM personalizzato integrato in un sistema RAG, funzionante localmente come applicazione mobile.

Applicata ai documenti interni di SoftBank, l'applicazione offre ai dipendenti una piattaforma Q&A che genera risposte accurate e aggiornate, funzionando interamente su un iPhone 14. I test dimostrano che il sistema risponde in modo soddisfacente al 97% delle domande dei dipendenti, e la qualità delle risposte misurata su un set di 22.000 domande corrisponde alle risposte generate da un sistema RAG basato su GPT-4o. La chiave di questa affidabilità unica è la pipeline di personalizzazione SLM di Aizip, che comprende la generazione di dati di alta qualità, la messa a punto e la valutazione multiforme.

Sebbene il primo prodotto sia stato sviluppato per l'iPhone, gli strumenti di implementazione SLM flessibili di Aizip consentono agli SLM e ai sistemi RAG di funzionare su una varietà di piattaforme edge, compresi i server on-premise, i PC e persino i dispositivi IoT come i microprocessori (MPU), come annunciato nel giugno 2024. In prospettiva, il team congiunto mira a sfruttare la ricca esperienza di SoftBank nei servizi aziendali e la tecnologia AI all'avanguardia di Aizip per espandere le soluzioni SLM personalizzate a una gamma più ampia di applicazioni e clienti. Aizip rimane impegnata a fornire soluzioni AI di livello produttivo per una varietà di applicazioni on-device.

Con una vasta esperienza nello sviluppo di modelli AI robusti ed efficienti nelle linee di prodotti Aizip Intelligent Audio (AIA), Vision (AIV) e Time-Series (AIT), Aizip continua a essere pioniere della tecnologia SLM, concentrandosi su una maggiore precisione, affidabilità, velocità ed efficienza di sviluppo.