Robust Intelligence ha annunciato una partnership con MongoDB per aiutare i clienti a proteggere in modo approfondito ed efficiente i modelli di AI generativa potenziati con i dati aziendali. L'offerta combina l'AI Firewall in tempo reale di Robust Intelligence con MongoDB Atlas Vector Search per una soluzione pronta per l'impresa che consente un'innovazione responsabile. I recenti progressi nell'AI generativa hanno motivato le aziende a sperimentare potenziali applicazioni, ma la mancanza di controlli di sicurezza, etici e operativi può esporre le aziende a rischi non gestiti.

Questa sfida si aggrava quando le informazioni aziendali sensibili vengono utilizzate per arricchire i modelli pre-addestrati, come i database vettoriali di connessione, al fine di aumentare la rilevanza per l'utente finale. La partnership tecnologica tra Robust Intelligence e MongoDB aiuta a risolvere queste sfide. I clienti possono collegare con fiducia MongoDB Atlas Vector Search a qualsiasi modello linguistico di grandi dimensioni (LLM) commerciale o open-source per la generazione aumentata del reperimento, sapendo che l'AI Firewall di Robust Intelligence convalida gli input e gli output.

Ciò fornisce una protezione in tempo reale contro la prompt injection, l'estrazione di PII, l'allucinazione e molti altri rischi. Grazie all'integrazione, i clienti potranno anche passare i log dell'AI Firewall a MongoDB per archiviare i dati storici. Questo può essere utilizzato per identificare gli attacchi di sicurezza avanzati che spesso si manifestano su un cluster di punti di dati anziché su un singolo punto di dati, come l'avvelenamento dei dati e l'estrazione di modelli.