Amdocs ha svelato i progressi significativi dei suoi sforzi per promuovere l'adozione dell'AI generativa nel settore delle telecomunicazioni, che vale 1,7 trilioni di dollari, in collaborazione con NVIDIA. L'ultima fase di questa collaborazione ha raggiunto progressi significativi verso la produzione su scala carrier che abbraccia latenza, precisione e consumo di token. Amdocs ha lavorato a stretto contatto con NVIDIA per integrare il servizio di AI foundry full-stack di NVIDIA - una raccolta di modelli NVIDIA AI Foundation, framework e strumenti NVIDIA NeMo?

e strumenti, e NVIDIA DGX? Cloud che offre alle aziende una soluzione end-to-end per la creazione di modelli AI generativi personalizzati - con la piattaforma AI generativa di Amdocs, amAIz. La collaborazione si è concentrata sullo sfruttamento dell'AI generativa per trasformare le esperienze dei clienti e offrire efficienza operativa.

Amdocs ha sfruttato NVIDIA DGX? Cloud per testare e mettere a punto più modelli, mentre ha utilizzato i microservizi NVIDIA NIM, una parte della piattaforma software NVIDIA AI Enterprise, per distribuire rapidamente i modelli per un'inferenza senza soluzione di continuità e scalabile con API standard del settore. Nei progetti GenAI congiunti che utilizzano la tassonomia delle telco e l'esperienza di AI generativa di Amdocs, il lavoro di collaborazione ha ottenuto: Riduzione dei costi operativi: La generazione di RAG (retrieval-augmented generation) di Amdocs sulle infrastrutture NVIDIA ha permesso di ridurre i token consumati per i casi d'uso implementati fino al 60% nella pre-elaborazione dei dati e al 40% nell'inferenza, offrendo lo stesso livello di precisione con un costo per token significativamente inferiore a seconda delle varie influenze e dei volumi utilizzati.

Miglioramenti della latenza: La collaborazione ha ridotto con successo la latenza delle query di circa l'80%, garantendo agli utenti finali risposte quasi in tempo reale. Questa accelerazione migliora le esperienze degli utenti nei settori del commercio, dell'assistenza, delle operazioni e oltre. Miglioramenti della precisione: L'impegno ha anche fornito un notevole aumento dell'accuratezza delle risposte generate dall'AI, migliorando l'accuratezza delle risposte fino al 30%.

Questo tipo di miglioramento è fondamentale per ottenere un'adozione diffusa nel settore delle telecomunicazioni e per soddisfare le esigenze dei servizi AI generativi direct-to-consumer.