Scouting Capital & Family Advisors
Scouting offre servizi di finanza straordinaria alle PMI per attività relative ai mercati nazionali ed internazionali. Mette quindi a disposizione un team di professionisti, provenienti dal mondo finanziario e dalla consulenza direzionale con esperienza internazionale e fornisce servizi personalizzati alle banche di credito cooperativo ed ai loro clienti.
La sfida
Un comune problema per moltissime aziende che gestiscono grandi quantità di dati è la possibilità di accedere in modo semplice e diretto alle informazioni. Questo ostacolo può derivare da una serie di fattori, tra cui l'integrazione di sistemi eterogenei, la mancanza di strumenti analitici adeguati e le difficoltà nell'assicurare la qualità e l'affidabilità dei dati.
Spesso le aziende utilizzano molteplici software per la gestione dei dati. Questo rende il processo poco flessibile, richiede la conoscenza di diversi strumenti e limita l’accessibilità dei dati stessi.
Esigenze
Le esigenze di Scouting erano di avere un aggregatore di informazioni che aiutasse gli operativi ad estrarre e rielaborare i dati in modo semplice. Uno strumento che consentisse di ottenere risposte puntuali a domande specifiche, supportando le onerose analisi punto per punto della grande mole di dati disponibili.
QueryBot: utilizzo del linguaggio naturale per analizzare informazioni aziendali
La proposta di Claranet per soddisfare le esigenze di Scouting è stata quella di implementare un QueryBot potenziato dall'IA. Questo potente strumento offre un nuovo modo di interfacciamento con i servizi aziendali attraverso il linguaggio naturale.
Il chatbot, prima di rispondere, cercherà le informazioni necessarie contattando i servizi e le elaborerà per fornire una risposta in base all’input testuale fornito dall’utente.
Questa tecnologia offre ulteriori vantaggi significativi. Innanzitutto, non è necessario apprendere nuove competenze per utilizzarla, il che la rende accessibile a tutti. La curva di apprendimento è bassa, permettendo a qualsiasi tipo di utente di adottarla facilmente. Inoltre, grazie alla possibilità di specificare l’output dei risultati per una necessità specifica, si riducono al minimo le operazioni manuali, rendendo il processo più efficiente e mirato.
IA Generativa e Tecnologie Abilitanti
Intelligenza Artificiale Generativa, Prompt Engineering e RAG
Ma come funziona il QueryBot e quali sono le tecnologie abilitanti?
Il QueryBot utilizza l'Intelligenza Artificiale Generativa (IA Generativa) per comprendere i prompt degli utenti e rispondere alle loro domande, sfruttando tecniche e modelli in grado di generare risposte testuali.
Sebbene l'IA generativa miri ad imitare gli esseri umani, necessita di istruzioni precise per produrre risultati pertinenti e di alta qualità. Il prompt engineering è il processo che consente di guidare le soluzioni di IA Generativa per produrre i risultati desiderati. Vengono identificati i formati, le frasi, le parole e i simboli più appropriati che guidano l'IA a interagire con gli utenti modo più significativo.
A questo punto si è rivelato necessario fornire al QueryBot una solida base di conoscenza relativa al dominio e alla knowledge base di Scouting. Tramite la Retrieval-Augmented Generation (RAG) è stato possibile estendere le capacità del LLM per abilitare il QueryBot alle informazioni dell’organizzazione e all’ottimizzazione delle risposte.
Infrastruttura
Per garantire efficienza e scalabilità abbiamo gestito la CI/CD tramite Github Actions, che automatizzano il processo di build e deployment su AWS. I container sono archiviati in Amazon Elastic Container Registry (ECR), mentre le istanze del querybot girano su Amazon Elastic Container Service (ECS). Inoltre, abbiamo integrato Bedrock per utilizzare modelli di linguaggio di grandi dimensioni (LLM), migliorando le capacità di comprensione e risposta del sistema.
Risultato
Con il nostro supporto, Scouting sta ora testando un nuovo modo per accedere e analizzare la grande mole di dati disponibile. Il nostro QueryBot sta cercando di approcciare un nuovo modo per semplificare le operazioni di lettura e aggregazione delle informazioni, permettendo agli operatori di Scouting di "chattare" in modo naturale per ottenere ciò di cui hanno bisogno. Stiamo raccogliendo feedback e valutando le prestazioni per assicurarci di fornire una soluzione efficace e affidabile.
