Glossario AI per imprenditori: LLM, prompt, RAG, AI agents

LLM, prompt, RAG, fine-tuning, agenti e wrapper spiegati semplice, con la domanda da fare al fornitore per ognuno.

Glossario AI per imprenditori: LLM, prompt, RAG, AI agents

Un fornitore ti ha proposto qualcosa "con l'AI", parlando di LLM, RAG e agenti. Qui trovi ogni parola spiegata in modo semplice, e per ognuna la domanda da fargli.

Le domande contano più delle definizioni. Ti dicono se hai davanti qualcuno che ha costruito qualcosa. Oppure qualcuno che ti rivende uno strumento che potresti attivare da solo.

Le parole di base

LLM (Large Language Model)

Un LLM è un modello addestrato su enormi quantità di testo, capace di scrivere risposte in linguaggio naturale.

Attenzione a una distinzione che serve: il modello e il prodotto non sono la stessa cosa. ChatGPT è il prodotto, e sotto ci gira un modello di OpenAI. Chi ti vende una soluzione "con l'AI" quasi sempre usa il modello di qualcun altro.

Chiedi: quale modello usate e di quale fornitore. E cosa succede al mio servizio quando esce la versione nuova.

Prompt

Il prompt è l'istruzione che dai al sistema. Una richiesta vaga produce una risposta generica, una richiesta precisa produce qualcosa di utilizzabile.

Chiedi: chi scrive le istruzioni, e se posso modificarle io senza chiamarvi ogni volta.

Token

Il token è l'unità con cui il testo viene contato, più o meno una parola o un pezzo di parola. Serve saperlo per un motivo pratico: è spesso l'unità con cui ti fatturano il consumo.

Un dettaglio che riguarda te più di altri. L'italiano consuma più token dell'inglese a parità di contenuto, quindi lo stesso lavoro costa di più.

Chiedi: pago un canone fisso o a consumo. E se l'uso raddoppia, cosa succede alla fattura.

Come entrano in gioco i tuoi documenti

RAG (Retrieval-Augmented Generation)

Il RAG collega il modello ai tuoi documenti. Le risposte partono dal tuo materiale, invece che dalla sola conoscenza generale del modello.

Qui va tolto un equivoco diffuso. Il RAG non verifica niente. Le risposte si basano sui documenti che gli dai, buoni o cattivi che siano. Se il listino caricato è quello dell'anno scorso, il sistema risponderà con i prezzi dell'anno scorso. E lo farà con la stessa sicurezza.

Chiedi: chi tiene aggiornati i documenti, con quale frequenza, e cosa succede il giorno che cambio il listino.

Fine-tuning

Il fine-tuning è un addestramento aggiuntivo del modello su materiale specifico.

Serve a capire la differenza vera con il RAG, perché quasi nessuno la spiega. Il RAG dà conoscenza, il fine-tuning dà comportamento: tono di voce, formato delle risposte, procedura da seguire sempre allo stesso modo.

Da qui un segnale utile. Ti propongono il fine-tuning "per far conoscere i tuoi documenti al modello"? Stanno usando lo strumento sbagliato per quel problema.

Chiedi: perché il fine-tuning e non un RAG. Se la risposta non è chiara, il motivo spesso è che costa di più.

Quando il software agisce da solo

AI agent

Un agente non si limita a rispondere: esegue. Manda una mail, aggiorna un foglio, modifica un ordine, apre un ticket.

Il rovescio della medaglia non viene quasi mai detto. Per agire ha bisogno di permessi sui tuoi sistemi. E quando sbaglia non sbaglia una frase, sbaglia un'azione su un cliente vero: un rimborso promesso, una consegna confermata a vuoto.

Chiedi: quali azioni esegue da solo, quali richiedono una conferma umana, e chi se ne accorge quando va storto.

No-code

Uno strumento no-code permette di costruire automazioni con interfacce visuali, senza scrivere codice.

Chiedi: dopo la consegna chi mette mano al sistema, con quali competenze e a quale costo. Se la risposta è "noi", il no-code non ti sta dando l'autonomia che promette.

Quando sbaglia

Allucinazione

Un'allucinazione è una risposta che sembra giusta ed è inventata. Succede soprattutto su numeri, date, normative e citazioni.

Non è un difetto che sparisce con la versione nuova. Questi sistemi generano testo un pezzo alla volta, non consultano un archivio come farebbe un gestionale.

Chiedi: chi controlla le risposte prima che arrivino a un cliente, e cosa succede se una sbagliata passa.

Context window

La context window è quanto testo il sistema riesce a tenere insieme in una singola richiesta. Ci stanno dentro la tua domanda, i documenti che alleghi e le risposte precedenti.

Quando si riempie, i pezzi più vecchi vengono persi. È il motivo per cui a metà di una conversazione lunga il sistema sembra dimenticare le istruzioni iniziali.

Chiedi: cosa succede con un contratto di ottanta pagine, e se il sistema lavora sull'intero documento o su una parte.

Chi te lo sta vendendo

Wrapper

Un wrapper è un fornitore che ti rivende un assistente esistente con sopra la propria interfaccia e il proprio logo.

Non è un male di per sé. Puoi pagare volentieri per la configurazione, l'integrazione con il tuo gestionale e qualcuno che risponde al telefono. Diventa un problema quando paghi cifre importanti per qualcosa che attiveresti da solo. Un abbonamento da poche decine di euro al mese.

Chiedi: cosa avete costruito voi e cosa arriva dal fornitore del modello. Poi chiedi quanto costerebbe la stessa cosa senza di voi.

Le domande da fare prima di firmare

Queste valgono per qualsiasi proposta, indipendentemente dalle parole usate.

Dove finiscono i miei documenti, su quali server e in quale paese.

I dati che carico vengono usati per addestrare il modello, e se sì come lo escludo.

Chi firma l'accordo sul trattamento dei dati personali, e quali altri fornitori sono coinvolti dietro le quinte.

Come mi fatturate: canone fisso, a utente, a consumo, o un misto. E cosa succede se l'uso cresce.

Se smetto, cosa mi riprendo. I documenti caricati, le configurazioni, le istruzioni scritte per me.

Chi mantiene il sistema quando il fornitore del modello cambia versione, e a spese di chi.

Se su una di queste domande la risposta cambia argomento, hai imparato qualcosa di utile.

Vuoi una lettura indipendente di una proposta che hai sul tavolo? Parliamone insieme.