NVIDIA ha annunciato un nuovo servizio NVIDIA AI Foundry e i microservizi di inferenza NVIDIA NIM? per potenziare l'AI generativa per le imprese di tutto il mondo con la collezione di modelli Llama 3.1, anch'essa presentata oggi. Con NVIDIA AI Foundry, le imprese e le nazioni possono ora creare "super modelli" personalizzati per i loro casi d'uso specifici del settore, utilizzando Llama 3.1 e il software, il computing e l'esperienza di NVIDIA.

Per potenziare le implementazioni aziendali dei modelli Llama 3.1 per l'AI di produzione, i microservizi di inferenza NVIDIA NIM per i modelli Llama 3.1 sono ora disponibili per il download da ai.n NVIDIA.com. NVIDIA e Meta hanno anche collaborato per fornire una ricetta di distillazione per Llama 3.1 che gli sviluppatori possono utilizzare per costruire modelli Llama 3.1 personalizzati più piccoli Per le aziende, le piattaforme di dati e di infrastrutture possono ora integrare i nuovi microservizi nelle loro soluzioni di AI per potenziare l'AI generativa Per la comunità NVIDIA di oltre 5 milioni di sviluppatori e 19.000 startup.