AI Observability per modelli linguistici di grandi dimensioni e AI generativa

di Redazione TecnoGazzetta

Dynatrace ha annunciato di aver esteso la propria piattaforma di analisi e automazione per fornire osservabilità e sicurezza globale per i modelli linguistici di grandi dimensioni (LLM) e le applicazioni basate sull’AI generativa.

Questo miglioramento della piattaforma Dynatrace® consente alle organizzazioni di tutto il mondo di adottare l’AI generativa in modo sicuro e conveniente, nell’ambito dei loro obiettivi di crescere in innovazione, produttività e ricavi.

Dynatrace® AI Observability

Dynatrace® AI Observability è una soluzione completa. Copre lo stack AI end-to-end, comprese le infrastrutture, come le GPU Nvidia®, i modelli di fondazione, come GPT4, le cache semantiche e i database vettoriali, come Weaviate, e i framework di orchestrazione, come LangChain. Supporta inoltre le principali piattaforme per la creazione, la formazione e la fornitura di modelli di AI, tra cui Microsoft® Azure OpenAI Service, Amazon® SageMaker e Google® AI Platform.

Dynatrace AI Observability sfrutta Davis® AI e altre tecnologie core della piattaforma per offrire una visione precisa e completa delle applicazioni basate sull’intelligenza artificiale. In questo modo, le organizzazioni possono offrire esperienze utente eccellenti, identificando automaticamente i colli di bottiglia delle prestazioni e le cause principali. Dynatrace AI Observability with Davis AI aiuta anche le aziende a rispettare le normative sulla privacy e sulla sicurezza e gli standard di governance, tracciando con precisione le origini dell’output creato dalle loro applicazioni. Inoltre, le aiuta a prevedere e controllare i costi monitorando il consumo di token, che sono le unità di base che i modelli di AI generativa utilizzano per elaborare le query.

Gartner® afferma: “Entro il 2028, l’adozione dell’AI culminerà in oltre il 50% delle risorse di calcolo cloud dedicate a carichi di lavoro di AI, rispetto a meno del 10% nel 2023”. Questo sviluppo riflette in parte l’interesse crescente delle organizzazioni per l’AI generativa per migliorare l’efficienza e la produttività, guidare l’automazione e promuovere l’innovazione. Nonostante questo slancio, molte organizzazioni sono preoccupate per i costi associati ai servizi basati sull’AI generativa. Questi possono essere molto più costosi dei servizi cloud tradizionali e sono difficili da prevedere perché si basano sul consumo di token di AI generativa da parte di applicazioni non ancora in produzione. Allo stesso tempo, i governi di tutto il mondo stanno stabilendo normative incentrate sull’utilizzo delle tecnologie di AI in modo responsabile ed etico e nel rispetto delle leggi vigenti.

“L’AI generativa è la nuova frontiera della trasformazione digitale”, ha dichiarato Bernd Greifeneder, CTO di Dynatrace. “Questa tecnologia consente alle aziende di creare soluzioni innovative che aumentano la produttività, la redditività e la competitività. Pur essendo una trasformazione, pone anche nuove sfide in termini di sicurezza, trasparenza, affidabilità, esperienza e gestione dei costi. Per superare queste sfide, le organizzazioni hanno bisogno di un’osservabilità dell’AI che copra ogni aspetto delle loro soluzioni di AI generativa. Dynatrace sta estendendo la sua osservabilità e la sua leadership nel campo dell’AI per soddisfare questa esigenza, aiutando i clienti ad abbracciare l’AI in modo sicuro e fiducioso con insights senza precedenti sulle loro applicazioni basate sull’AI generativa”.

Foto di Tara Winstead da Pexels

Vuoi ricevere gli aggiornamenti delle news di TecnoGazzetta? Inserisci nome ed indirizzo E-Mail:


Acconsento al trattamento dei dati personali (Info Privacy)