Cloudera ha annunciato l'ampliamento della sua collaborazione con NVIDIA. Cloudera Powered by NVIDIA integrerà i microservizi NVIDIA NIM di livello enterprise, parte della piattaforma software NVIDIA AI Enterprise, in Cloudera Machine Learning, un servizio di Cloudera Data Platform per i workflow AI/ML, per offrire workflow AI generativi end-to-end veloci, sicuri e semplificati in produzione. I dati aziendali, combinati con una piattaforma full-stack completa e ottimizzata per i modelli linguistici di grandi dimensioni (LLM), svolgono un ruolo fondamentale nel far progredire le applicazioni di AI generativa di un'organizzazione dalla fase pilota alla produzione.

I microservizi NVIDIA NIM e NeMo Retriever consentono agli sviluppatori di collegare i modelli di AI ai loro dati aziendali - inclusi testo, immagini e visualizzazioni, come grafici a barre, grafici a linee e grafici a torta - per generare risposte altamente accurate e contestualmente rilevanti. Gli sviluppatori che utilizzano questi microservizi possono distribuire le applicazioni attraverso NVIDIA AI Enterprise, che offre runtime ottimizzati per la costruzione, la personalizzazione e la distribuzione di LLM di livello aziendale. Sfruttando i microservizi NVIDIA, Cloudera Machine Learning consentirà ai clienti di liberare il valore dei loro dati aziendali sotto la gestione di Cloudera, portando i flussi di lavoro AI ad alte prestazioni, il software della piattaforma AI e l'elaborazione accelerata ai dati - ovunque risiedano. Cloudera introdurrà molteplici integrazioni con i microservizi NVIDIA.

Cloudera Machine learning integrerà il servizio di modelli e applicazioni alimentato dai microservizi NVIDIA per aumentare le prestazioni di inferenza dei modelli su tutti i carichi di lavoro. Con questa nuova funzionalità di model-serving dell'AI, i clienti possono ottenere fault-tolerance, servizio a bassa latenza e auto-scaling per i modelli distribuiti ovunque - da cloud pubblici e privati. Inoltre, Cloudera Machine learning offrirà microservizi NVIDIA NeMo Retriever integrati per semplificare la connessione di LLM personalizzati ai dati aziendali.

Questa capacità consentirà agli utenti di creare applicazioni basate sulla generazione di retrieval-augmented (RAG) per l'uso in produzione. In precedenza, Cloudera ha collaborato con NVIDIA per sfruttare l'elaborazione dei dati ottimizzata su GPU attraverso l'integrazione dell'acceleratore NVIDIA RAPIDS per Apache Spark nella Cloudera Data Platform. Ora, con l'aggiunta pianificata dei microservizi NVIDIA e l'integrazione con NVIDIA AI Enterprise, Cloudera Data Platform offrirà in modo unico pipeline di AI ibride end-to-end semplificate.