New Relic ha annunciato la disponibilità generale del monitoraggio New Relic AI con una suite di nuove potenti funzionalità per soddisfare le esigenze in evoluzione delle organizzazioni che sviluppano applicazioni AI. Le nuove funzionalità includono approfondimenti sul tracciamento delle risposte AI con feedback degli utenti in tempo reale e confronto dei modelli per aiutare a migliorare continuamente le prestazioni, la qualità e i costi delle applicazioni AI, garantendo al contempo la sicurezza e la privacy dei dati. Con oltre 60 integrazioni, il monitoraggio di New Relic AI è una delle soluzioni più complete che aiuta le organizzazioni a trovare più rapidamente la causa dei problemi delle applicazioni AI, favorisce l'adozione dell'AI e le supporta in ogni fase del loro percorso AI.

Le organizzazioni sono desiderose di adottare l'AI per offrire esperienze digitali migliori ai loro clienti. Secondo Gartner, oltre l'80% delle aziende utilizzerà API di AI generativa o implementerà applicazioni abilitate all'AI generativa entro il 2026. Sebbene vi sia una forte e crescente domanda di AI, le organizzazioni faticano a introdurre l'AI nei loro stack tecnologici a causa della complessità che introduce.

Il monitoraggio AI di New Relic affronta direttamente questa sfida e semplifica la gestione delle complessità del loro stack AI, fornendo una visione unificata dell'intero ecosistema AI insieme al resto dei dati sulle prestazioni. Le caratteristiche principali includono: Strumentazione automatica: Gli agenti New Relic offrono una facile configurazione per i framework più diffusi, come OpenAI, AWS Bedrock e LangChain, attraverso i linguaggi Python, Node.js, Ruby, Go e .NET. Visibilità completa dello stack AI: visione olistica dell'applicazione, dell'infrastruttura e del livello AI, comprese le metriche AI come il numero di richieste, il tempo di risposta e l'utilizzo dei token.

Vista della risposta dell'AI con il feedback dell'utente finale: Identificare rapidamente tendenze e anomalie nelle risposte dell'AI, analizzare il sentiment e vedere il feedback degli utenti in un'unica vista consolidata. Approfondimenti di tracciamento per ogni risposta: Traccia il ciclo di vita delle risposte AI con strumenti come LangChain, per risolvere problemi di performance e di qualità come pregiudizi, tossicità e allucinazioni. Maggiore sicurezza dei dati: Mantiene la sicurezza organizzativa e le politiche di conformità escludendo dal monitoraggio i dati sensibili (PII) nelle richieste e nelle risposte di AI.

Confronto dei modelli: Confronta le prestazioni e i costi dei modelli fondamentali in produzione in un'unica vista, per scegliere il modello più adatto alle esigenze. Integrazioni Quickstart: Una delle soluzioni più complete per il monitoraggio dell'ecosistema AI con 60 integrazioni per componenti critici come le GPU NVIDIA e i database vettoriali come Pinecone, Weaviate e altri. Il monitoraggio di New Relic AI è generalmente disponibile come parte della sua piattaforma di osservabilità all-in-one e offerto come parte del suo modello di prezzo basato sull'uso.

Per iniziare, contatti il rappresentante dell'account New Relic o si registri per un account gratuito.