Riassunto analitico
I Large Language Models (LLM) sono sistemi di Natural Language Processing (NLP) in grado di processare, analizzare e riprodurre il linguaggio umano. Tuttavia, presentano tre principali problemi in ambito aziendale: costi elevati, rischi per la privacy e generalizzazione dei modelli.
Per superare questi limiti, è stata creata una piattaforma software a microservizi eseguita in ambiente On-Premise, con LLM privati e utilizzabili in contesti specifici attraverso l'implementazione di un sistema di Retrieval Augmented Generation (RAG).
La piattaforma, sviluppata presso E4 Analytics, una realtà specializzata in Big Data Analytics e Artificial Intelligence, consente di proteggere i dati sensibili, limitare i costi computazionali ed erogare elevate performance per l'utilizzatore finale.
Sono stati svolti vari esperimenti per osservare il comportamento del sistema al variare delle scelte progettuali. Inoltre è stato utilizzato un approccio basato su LLM per misurare le prestazioni linguistiche del sistema. I risultati hanno permesso di analizzare come i vari componenti influenzano le prestazioni e hanno dimostrato che la piattaforma sviluppata può essere utilizzata per costruire nuove soluzioni per i clienti.
|
