Seleziona una pagina

Capita di entrare in un ufficio e vedere qualcuno che usa ChatGPT esattamente così: apre la chat, copia un’e-mail arrivata da un cliente, chiede di riassumerla. Copia il riassunto, lo incolla in un altro posto. Chiude la chat. La volta dopo riparte da zero: stessa chat senza memoria, stesso copia-incolla, stesso lavoro fatto a mano due volte.

È un modo legittimo di usare un’AI. Lo strumento funziona, il prompt va bene, la risposta arriva. Solo, è il 10% di quello che un’AI può fare per la tua azienda. Il restante 90% è un altro mestiere: smetti di interrogare l’AI da una chat aperta a mano e cominci a costruire intorno all’AI un’infrastruttura che fa il lavoro da sola.

Il salto non è “imparare a scrivere prompt migliori”. I prompt sono una piccola parte. Il salto vero è rendersi conto che un LLM, da solo, è un motore senza chassis: serve un orchestratore che lo invochi quando necessario, una memoria che gli passi il contesto, e un’integrazione coi sistemi dove sta già il tuo lavoro vero (gestionale, e-mail, file aziendali). Quando hai messo insieme questi quattro componenti, l’AI smette di essere “una cosa che chiedi” e diventa una cosa che lavora.

In questo articolo ti raccontiamo i quattro componenti e gli strumenti con cui li costruiamo noi in TECH.TEAM. I nostri strumenti non sono “la scelta giusta” universale: sono esempi del pattern. Quello che resta invariato è il pattern.

I quattro componenti del lavoro con un LLM

1. Il motore. L’LLM vero e proprio: un modello generativo che produce testo (o codice, o classificazioni, o estrazioni). Il motore non vive da solo: vive dentro un’API o dentro un servizio che lo espone. Per chi non vuole noie, è tipicamente un fornitore in cloud (un modello a chiave API). Per chi ha esigenze specifiche, può essere un modello che gira nei propri server (tema già raccontato qui sul lab nell’articolo sul server IA in azienda). Cambia il motore, non cambia il pattern.

2. L’orchestratore. Lo strato che invoca il motore quando serve, in autonomia o in risposta a eventi. Senza orchestratore, l’LLM aspetta che qualcuno apra una chat. Con l’orchestratore, l’LLM si attiva quando arriva un’e-mail, quando si carica un PDF, quando suona una scadenza, quando un cliente fa una richiesta. L’orchestratore tipico in PMI: un workflow tool che parla con la posta, coi gestionali, coi database, coi modelli. Non è magia, è tubazione.

3. La memoria. Quello che permette all’LLM di ricordare. Senza memoria, ogni richiesta riparte da zero, e tutta la conoscenza aziendale che gli serve va ricaricata ogni volta a mano. Con la memoria, l’LLM ha sotto mano il contesto: documenti, procedure, decisioni già prese, conversazioni precedenti. La memoria, nella pratica, è una raccolta di file (markdown, in genere) che l’LLM può leggere e scrivere. Nessuna magia: file in cartelle, indice, lettura selettiva.

4. L’integrazione. Quello che collega l’LLM ai sistemi dove sta il tuo lavoro vero. Un’AI che non parla col tuo gestionale, non legge le tue e-mail aziendali, non scrive nei tuoi file di lavoro, è un’AI con la quale puoi conversare, ma che non lavora. L’integrazione è fatta di API: l’LLM chiama una funzione, la funzione legge o scrive nel sistema reale, l’LLM riceve indietro un risultato che può elaborare. Senza integrazione, l’AI resta una macchina da scrivere intelligente.

Questi quattro componenti, messi insieme, sono “l’altro 90%”. Possono essere implementati in mille modi diversi: stack open-source, stack proprietari, stack misti. Il pattern resta invariante.

Lo stack che usiamo noi (esempio del pattern, non ricetta)

Ti raccontiamo cosa abbiamo scelto noi per ognuno dei quattro componenti. Altri possono scegliere diversamente: lo scopo qui è rendere concreto il pattern, non venderti i nostri tool.

Per il motore: Claude in cloud + il nostro server IA in ufficio. Per la chat libera e i lavori di esplorazione usiamo Claude (Anthropic): ci troviamo bene con il modo in cui tratta i contesti lunghi, i file di progetto, le chiamate a funzione. Per i compiti ripetitivi su dati interni (classificazione delle e-mail in entrata, estrazione di dati da PDF, controllo scadenze) usiamo invece il motore che gira sul nostro server in ufficio, ttserver120, di cui abbiamo già parlato qui sul lab. Due motori, due scenari, lo stesso pattern. Non è un giudizio sui concorrenti, è la nostra scelta di coerenza interna.

Per l’orchestratore: n8n. Workflow tool open-source, che gira nei nostri server. Ne abbiamo già parlato qui sul lab negli articoli sulla classificazione delle e-mail in entrata e sull’estrazione di dati da PDF. Le alternative esistono (Power Automate, Zapier, integrazioni custom in codice). Scegli quello che parla coi sistemi che usi già.

Per la memoria: file markdown + Claude Code + Cowork + Obsidian. Tre strumenti che leggono e scrivono negli stessi file. Claude Code (l’ambiente di sviluppo con LLM integrato) e Cowork (il client desktop di Anthropic) sono entrambi nativi Claude; Obsidian (editor di vault markdown) è di terzi. La cartella di file aziendale è il punto comune: chi modifica cosa, lo vede chiunque. Non serve un database. Funziona perché i file sono il formato che dà all’LLM il contesto in modo prevedibile, e perché i file restano leggibili anche senza l’LLM.

Per l’integrazione: API verso il gestionale aziendale, prima di tutto. È il punto più sottovalutato dei quattro. L’LLM non vive in vuoto: vive dentro i sistemi che usi tutti i giorni. Il gestionale, il CRM, l’archivio dei contratti, le caselle di posta aziendali. Senza l’integrazione, l’AI fa miracoli su quello che le copi a mano. Con l’integrazione, fa miracoli sul lavoro vero.

Perché lo raccontiamo

Ci capita spesso, parlando con chi gestisce l’IT in una PMI, di sentirsi dire “abbiamo provato ChatGPT, è carino ma non so se ci serve davvero”. La risposta che ci viene da dare è: avete provato solo il 10%. Il 90% è un cantiere diverso, fatto di tubazione e di integrazione, non di chat. È meno spettacolare, ma è quello che davvero cambia il modo in cui si lavora in azienda.

Su questo lab trovi già gli articoli sui workflow concreti che abbiamo costruito noi: classificazione delle e-mail in entrata, estrazione automatica di dati da PDF di documenti standard, server IA on-prem per i compiti ripetitivi. Sono esempi puntuali del pattern. Questo articolo prova a metterne insieme la cornice.

Se ti aiuta a capire dove sta il tuo “altro 90%”, avremo fatto bingo.

Domande frequenti

Chiunque può costruire questo stack?
Tecnicamente sì, non serve un team grande. Servono però: qualcuno in azienda (interno o partner) che si occupi della parte di tubazione, e una valutazione preliminare di cosa l’AI deve effettivamente fare. Lo stack si dimensiona sul caso, non si compra preconfezionato.

Quanto costa partire?
Dipende molto dai workflow. L’orchestratore è open-source: zero licenza, paghi tempo di setup e manutenzione. Il motore in cloud si paga a consumo: per i primi workflow di prova, sono cifre marginali. La memoria è un file system, costa zero. L’integrazione è la voce più variabile: dipende da quanto bene le API del tuo gestionale sono fatte.

Quali competenze servono?
Per il setup iniziale: una persona che sappia far parlare un workflow tool con un’API e con un file system. Non sviluppo da zero, integrazione. Per la manutenzione ordinaria: ore al mese, non una persona dedicata a tempo pieno.

Perché Claude e non un altro modello?
Scelta nostra di coerenza interna. Sul mercato ci sono altri modelli capaci. Quello che cambia, da un modello all’altro, non è tanto la “qualità di base”, quanto come tratta i contesti lunghi, i file, le chiamate a funzione, l’integrazione con tool esterni. Su questi assi Claude ci sembra il più adatto a quello che facciamo. Provane uno o più e scegli quello che si adatta al tuo lavoro.