Adesso, le imprese che trattano dati sensibili possono integrare nelle loro applicazioni un’IA generativa affidabile ospitata nel cuore dell’Europa che garantisce il controllo dei dati. Più competitiva di Mistral e OpenAI, al momento, l’IA offerta da Infomaniak come servizio si basa sul modello francese Mixtral, l’alternativa free più potente a ChatGPT. Disponibile on-demand sotto forma di API per gli sviluppatori, fin dal suo lancio, l’IA interpreta fino a 32000 token per prompt e consente di modellare, classificare e analizzare dati complessi, nonché di sintetizzare, riformulare, correggere, tradurre e creare testi anch’essi di tipo complesso.
Un’IA open source ospitata nel cuore dell’Europa
Contrariamente a ChatGPT, il modello di linguaggio commercializzato dal provider cloud svizzero Infomaniak è basato su Mixtral 8x7B, una tecnologia free il cui algoritmo e funzionamento possono essere verificati da ingegneri di tutto il mondo. Questa peculiarità rende possibili anche adattamenti specifici per progettare nuovi servizi e contenere l’uso dell’IA per azioni dannose come la creazione di messaggi indesiderati.
Le informazioni trattate e inviate all’IA non vengono conservate da Infomaniak e sono utilizzate esclusivamente per le esigenze del cliente. Ospitata esclusivamente nell’infrastruttura di Infomaniak in Svizzera, questa IA generativa garantisce alle imprese un controllo totale dei dati e la perfetta conformità alla legislazione europea.
Performante come ChatGPT 3,5
L’IA di Infomaniak è in grado di elaborare testi in francese, tedesco, spagnolo, italiano e inglese per eseguire rapidamente operazioni complesse di programmazione e analisi dei dati.
“È solo una questione di tempo affinché le IA open source siano più performanti delle migliori soluzioni proprietarie attuali per usi comuni. Non dobbiamo dimenticare che oggi il cloud computing si basa essenzialmente su tecnologie free come OpenStack, Kubernetes e sistemi operativi basati su Linux” spiega Marc Oehler, CEO di Infomaniak.
A livello operativo, la documentazione fornita consente agli sviluppatori di integrare facilmente l’IA negli ambienti di lavoro delle imprese per creare assistenti virtuali, rispondere a domande, riassumere, classificare, correggere, generare, tradurre o fare analisi del sentiment dei contenuti, ad esempio.
Più eco-responsabile possibile
L’intelligenza artificiale consuma molta elettricità. Le attività di Infomaniak sono alimentate esclusivamente da energie rinnovabili. L’indicatore di efficienza energetica (PUE) dei data center di Infomaniak in produzione è di 1,09 in media rispetto all’1,8 in Europa, in quanto raffreddati esclusivamente tramite aria naturale filtrata, senza climatizzazione. Attualmente sottoposto a test intensivi, il nuovo data center di Infomaniak, nel quale verranno installate le GPU più potenti, valorizzerà integralmente l’energia che consuma per riscaldare fino a 6000 abitazioni domestiche in inverno e oltre 100000 in estate.
Mixtral è inoltre più efficiente dal punto di vista energetico delle sue alternative proprietarie: la sua architettura gestisce complessivamente 45 miliardi di parametri, ma ne utilizza solo 12 miliardi per token, riducendo notevolmente il consumo energetico e fornendo risultati superiori a Llama 2 e ChatGPT 3,5 secondo la startup francese.
Tariffe molto vantaggiose con 1 milione di token gratuiti
L’utente paga solo ciò che consuma su base mensile. La fatturazione del servizio funziona con un sistema di token che è un’unità di misura corrispondente a circa 4 caratteri.
Al suo lancio, l’IA offerta da Infomaniak come servizio include un totale di 1 milione di token e le tariffe sono più vantaggiose rispetto a Mistral o OpenAI:
| Infomaniak LLM API | Mistral small | GPT-3.5 Turbo | ||
| Token in entrata* (EUR) | 0.00053/1000 token | 0.0006/1000 token | 0.0014/1000 token | |
| Token in uscita* (EUR) | 0.0016/1000 token | 0.0018/1000 token | 0.0019/1000 token |
Dopo la creazione del proprio account, il servizio è immediatamente disponibile e una dashboard consente di monitorare il consumo in tempo reale.
*I token in entrata indicano le domande fatte all’IA e quelli in uscita le risposte da essa generate.
In continua evoluzione
Con la sua IA come servizio, Infomaniak si impegna a offrire costantemente la migliore tecnologia free in materia di intelligenza artificiale. Inizialmente lanciato con Falcon LLM, il servizio è adesso commercializzato con Mixtral 8x7B e continuerà a evolversi in base ai progressi del settore.
Già implementata come assistente di scrittura nel proprio Servizio Mail e come assistente personale nella propria messaggistica istantanea kChat, Infomaniak implementa attivamente l’IA nel proprio ecosistema.
“Il passo successivo è consentire agli utenti di connettere la nostra IA come servizio ai loro dati per fornire risposte personalizzate al 100%. Il nostro team di R&D nel campo dell’IA sta effettuando test efficaci in tal senso e non vediamo l’ora di proporla alle aziende con le stesse garanzie di riservatezza.” annuncia Boris Siegenthaler, direttore strategico di Infomaniak
