Offerta Black Friday Sito e app a 500 € · Fino al 30 novembre

Automazioni e processi

Hai installato un chatbot AI in azienda: sai cosa può dire e fare?

Collegare un modello AI non basta: un assistente aziendale affidabile ha bisogno di dati verificabili, regole operative e controlli esterni al modello.

Immaginiamo una piccola pasticceria che attiva un chatbot per rispondere ai clienti anche fuori dall’orario di apertura. Una persona chiede una torta per il giorno successivo. Il chatbot conferma con entusiasmo una disponibilità che il laboratorio non ha mai previsto.

È un esempio illustrativo, ma descrive un rischio concreto: un assistente può formulare risposte plausibili anche quando non dispone di informazioni aggiornate e verificabili. E per un’attività commerciale una risposta sbagliata può trasformarsi in un cliente deluso, una promessa impossibile da mantenere o un problema organizzativo.

La soluzione non è necessariamente rinunciare all’intelligenza artificiale. È smettere di considerare l’installazione del chatbot come la fine del progetto.

Un modello linguistico non conosce automaticamente la tua azienda

Un modello può conversare con naturalezza, ma non sa per definizione quali prodotti siano disponibili oggi, quali prezzi siano validi, quali zone siano servite o quali ordini possano essere accettati. Queste informazioni appartengono ai sistemi dell’azienda e devono arrivare all’assistente da fonti appropriate.

Un buon progetto parte dalle domande dei clienti e dalle fonti di verità: catalogo prodotti, orari, condizioni di vendita, disponibilità, procedure e contatti. Solo dopo si decide come il chatbot debba consultarle.

Database, CSV e Markdown: a cosa servono davvero?

Non esiste un unico formato valido per tutte le informazioni. Una tabella o un database strutturato sono adatti a prezzi, codici prodotto, varianti e disponibilità. CSV può essere utile per importare o aggiornare dati. I file Markdown possono organizzare spiegazioni, istruzioni operative e domande frequenti.

Un assistente può recuperare contenuti pertinenti da queste fonti anziché basarsi soltanto sulle proprie conoscenze generali. In alcune architetture questo approccio rientra nella cosiddetta Retrieval-Augmented Generation (RAG); in altre, le informazioni vengono recuperate direttamente attraverso funzioni o API.

Il punto non è il nome della tecnologia. È il principio: per dichiarare un prezzo o una disponibilità, l’assistente deve consultare la fonte autorizzata e aggiornata.

E se la fonte non contiene la risposta? Deve saperlo ammettere: «Non posso confermarlo in questo momento; passo la richiesta a una persona» è molto meglio di una disponibilità inventata.

Anche il titolare deve poter aggiornare le informazioni

Un assistente utile non dovrebbe costringere il gestore a chiamare uno sviluppatore per correggere ogni orario, prodotto o regola commerciale.

Si può progettare una dashboard con campi e tabelle comprensibili: il titolare aggiorna i dati, il sistema li valida e li rende disponibili all’assistente nel formato corretto. Per le modifiche più delicate si possono prevedere approvazione, versione precedente e registro delle modifiche.

Questa parte dell’interfaccia, spesso poco visibile nelle dimostrazioni, è essenziale per la manutenzione quotidiana.

Le informazioni riservate non si proteggono solo con un’istruzione

Scrivere nel prompt «non rivelare i dati riservati» non equivale a creare una barriera di sicurezza. Se un dato non serve all’assistente, la scelta migliore è non metterlo a sua disposizione.

Per i dati necessari, occorrono verifiche di accesso applicate dal software: l’utente può vedere soltanto ciò che il suo ruolo consente. I permessi non devono dipendere dal fatto che il modello ricordi di rispettarli.

Bisogna inoltre considerare le istruzioni malevole nascoste in messaggi, documenti o pagine web consultati dall’agente: è il problema della prompt injection. I contenuti provenienti dall’esterno vanno trattati come dati non fidati, non come comandi da eseguire.

Rispondere è diverso da agire

C’è una grande differenza tra un chatbot che indica un orario e un agente che modifica un ordine, invia un preventivo o esegue un pagamento.

Per le azioni con conseguenze economiche, operative o sulla privacy servono controlli aggiuntivi: autorizzazioni minime, validazione dei parametri, limiti operativi e, quando necessario, approvazione umana prima dell’esecuzione.

Per esempio, un agente potrebbe preparare l’ordine di materiali al fornitore, ma non inviarlo prima della conferma del responsabile. Questa regola deve essere applicata dall’applicazione, non affidata a una promessa del modello.

Per definire il passaggio a una persona puoi leggere anche la guida su limiti ed escalation umana di un assistente AI.

API esterna, modello privato o server interno?

La scelta dipende dalla sensibilità dei dati, dai costi, dai requisiti di continuità e dalle competenze disponibili. Un’API esterna può essere adeguata per molte attività, con opportune verifiche contrattuali, tecniche e di trattamento dei dati. Un modello privato, ospitato in datacenter o in azienda, può offrire un maggiore controllo sui flussi informativi.

Ma un modello locale non è automaticamente sicuro: restano necessari aggiornamenti, controllo degli accessi, protezione della rete, monitoraggio e gestione degli incidenti. Un’architettura ibrida può avere senso in contesti più complessi, ma non è una soluzione obbligatoria per ogni piccolo negozio.

Se vengono trattati dati personali, occorre valutare i requisiti del GDPR e le responsabilità delle parti coinvolte. Le disposizioni applicabili dipendono dal sistema e dal suo utilizzo concreto.

Prima di pubblicare: cinque prove semplici

  1. Chiedere un prodotto o un servizio che l’attività non offre: il chatbot lo inventa o risponde correttamente che non è disponibile?
  2. Chiedere un prezzo o una disponibilità non presenti nelle fonti: sa dire «non posso verificarlo»?
  3. Tentare di ottenere informazioni non destinate ai clienti: i permessi impediscono realmente la lettura?
  4. Inserire un messaggio che prova a cambiare le istruzioni dell’agente: il sistema rispetta comunque i limiti?
  5. Simulare una richiesta che comporta un’azione importante: è prevista la conferma della persona autorizzata?

Queste prove non sostituiscono un audit di sicurezza, ma aiutano a capire perché testare l’assistente soltanto con domande facili non sia sufficiente.

Il lavoro non termina quando il chatbot va online

Un assistente aziendale deve poter essere corretto nel tempo. Servono procedure per aggiornare le informazioni, verificare gli errori segnalati, monitorare le operazioni consentite e controllare che le modifiche non compromettano comportamenti già funzionanti.

Per le piccole imprese non significa necessariamente costruire infrastrutture complesse. Significa partire da un rischio concreto, progettare il minimo sistema affidabile necessario e ampliarlo solo quando ci sono esigenze reali.

Installare un chatbot è un’operazione tecnica. Decidere cosa può sapere, dire e fare — e cosa accade quando non è sicuro — è un lavoro di progettazione.


Approfondimento: perché le competenze professionali e il pensiero critico contano anche quando utilizziamo lo stesso modello AI.

Per le imprese: scopri il servizio Econgiunzione di realizzazione chatbot AI.

Fonti per gli aspetti tecnici

Elena Durante, fondatrice di Econgiunzione

L’autrice

Fondatrice di Econgiunzione

Elena Durante guida Econgiunzione e si occupa di strategia, progettazione web e automazioni per piccole attività e professionisti. Collega obiettivi, contenuti e tecnologia al lavoro quotidiano, con un rapporto diretto dalla prima analisi.