I limiti reali dell'intelligenza artificiale nel property management (e come si progetta intorno)

Un assistente di intelligenza artificiale per gli affitti brevi è un programma basato su un modello linguistico che legge i messaggi degli ospiti e risponde, a volte compiendo anche azioni nel gestionale. Scrive bene in qualsiasi lingua, non dorme e non si stanca. Sbaglia anche, in modi diversi da come sbaglia una persona, e questo è il punto da capire prima di affidargli gli ospiti.

Questo articolo elenca i limiti che contano davvero nella gestione ricettiva, spiega da dove vengono e come si progetta un sistema che li tiene sotto controllo. Nell’ultima parte raccontiamo le scelte che abbiamo fatto in NoHost, con i limiti che restano.

Le allucinazioni: perché un modello inventa

Si chiama allucinazione una risposta sicura di sé e falsa: un orario di check-out che non esiste, una politica di cancellazione inventata, un garage che ha chiuso due anni fa.

Non è un difetto occasionale. Secondo uno studio pubblicato nel settembre 2025, i modelli linguistici inventano perché addestramento e valutazione premiano chi tira a indovinare più di chi ammette di non sapere: sono ottimizzati per andare bene ai test (Kalai e altri, Why Language Models Hallucinate). Un modello senza l’informazione giusta tende a produrre quella più plausibile.

Nell’ospitalità le conseguenze sono concrete. Nel 2024 un tribunale della Columbia Britannica ha condannato Air Canada a rimborsare un cliente a cui il chatbot aveva descritto in modo sbagliato la politica sulle tariffe per lutto, promettendo un rimborso a posteriori che la compagnia non concedeva; la compagnia aveva provato a sostenere di non rispondere di quanto detto dal chatbot, e il tribunale ha respinto la tesi (Moffatt v. Air Canada, 2024 BCCRT 149, sintesi Manatt). La nostra lettura: per l’ospite, quello che scrive l’assistente lo scrive la struttura.

Come si riducono

Le allucinazioni non si eliminano scrivendo al modello «non inventare». Si riducono cambiando quello che il modello ha davanti e controllando quello che produce.

• Dati veri al posto della memoria. Il modello deve leggere la prenotazione dal gestionale (date, persone, stato del check-in, pagamenti) e le informazioni della struttura da una base di conoscenza, non ricostruirle.
• Il permesso di non sapere. Se l’informazione non c’è, la risposta corretta è «verifico e le faccio sapere» e il passaggio a una persona. Va previsto come esito normale, non come fallimento.
• Controlli esatti su ciò che deve essere esatto. Codici d’accesso, importi, date e orari non vanno scritti dal modello: li prende il sistema dal dato, e un controllo confronta quello che parte con quello che c’è nel gestionale.
• Una seconda lettura sulle risposte a rischio. Prima che parta un testo pubblico o delicato, un secondo controllo verifica che non contenga ammissioni, accuse o dati personali.

Quello che l’AI non deve decidere da sola

Alcune decisioni hanno conseguenze economiche o legali che un errore rende difficili da annullare. Qui la regola non è «l’AI decide bene o male», ma «l’AI non decide».

Decisione	Perché non delegarla	Cosa può fare l’assistente
Rimborsi e sconti	Impegna denaro, crea un precedente	Raccogliere la richiesta e passarla a una persona
Cancellazioni	Dipende da politica, portale, caso specifico	Spiegare dove trovare la politica, passare il caso
Consegna dell’accesso	Un codice al momento sbagliato è un rischio di sicurezza	Dire quando arriverà e cosa manca
Accuse all’ospite (danni, rumore, persone in più)	Serve una prova, e il tono conta	Raccogliere i fatti per chi decide
Promesse su unità, orari, servizi	Creano un obbligo	Proporre solo ciò che il sistema ha verificato come fattibile

Non è sfiducia nella tecnologia. È lo stesso criterio con cui non si dà la firma sul conto a un collaboratore appena assunto.

Conferme umane e supervisione

Tra «tutto automatico» e «tutto a mano» ci sono tre modalità che un buon sistema deve offrire.

1. Automatico per le risposte informative su dati certi: Wi-Fi, orari, indicazioni.
2. Con conferma per le azioni che costano: l'AI prepara, una persona approva.
3. Solo umano per le conversazioni che una persona decide di prendere in mano, spegnendo l'automazione su quella chat.

Serve poi un livello di supervisione: qualcuno che legge a campione le conversazioni, vede quelle passate a una persona e corregge la base di conoscenza quando una domanda torna senza risposta. Uno studio NBER su oltre 5.000 operatori di assistenza clienti ha misurato un aumento medio di produttività del 14% (problemi risolti all’ora) quando l’AI suggeriva le risposte alle persone: 34% per i meno esperti, effetto minimo per i più esperti (NBER w31161). È un indizio che il rendimento migliore viene dall’AI che lavora con il team, non al posto del team.

Le lingue

Nella nostra esperienza i modelli linguistici scrivono bene nelle lingue più diffuse e con meno sicurezza in quelle meno rappresentate. Nella pratica di una struttura i problemi veri sono altri: la lingua sbagliata scelta dal profilo dell’ospite invece che dalla conversazione, un nome proprio tradotto, un’istruzione tecnica («tenere premuto tre secondi») resa in modo ambiguo. Il rimedio è scrivere la base di conoscenza in una lingua sola, precisa, e lasciare al modello la traduzione.

Costi e latenza

Ogni risposta generata ha un costo, pagato al fornitore del modello, e richiede tempo: più il modello è grande e più testo deve leggere, più la risposta arriva tardi, e un secondo controllo allunga ancora l’attesa. Per un ospite che scrive in chat qualche secondo non cambia nulla; per un sistema che deve rispondere a centinaia di conversazioni contemporaneamente sì. Le scelte progettuali tipiche: modelli più piccoli per i compiti semplici (classificare un messaggio, tradurre), modelli più capaci solo dove servono, e nessuna chiamata al modello quando la risposta è un dato che il sistema già conosce.

Privacy e GDPR

Un assistente che legge le prenotazioni tratta dati personali: nomi, telefoni, date, a volte documenti. Il Regolamento (UE) 2016/679 non cambia perché c’è di mezzo l’AI. Tre principi pesano più degli altri:

• Minimizzazione (articolo 5, paragrafo 1, lettera c): i dati devono essere adeguati, pertinenti e limitati a ciò che serve (art. 5 GDPR). Al modello si passa la prenotazione dell’ospite che scrive, non l’archivio.
• Limitazione della conservazione (articolo 5, paragrafo 1, lettera e): i dati identificativi si tengono solo per il tempo necessario.
• Fornitori come responsabili del trattamento (articolo 28): chi tratta i dati per tuo conto deve offrire garanzie sufficienti ed essere vincolato da un contratto che fissa istruzioni, riservatezza, sicurezza, sub-responsabili e cancellazione dei dati a fine servizio (art. 28 GDPR). Vale per il gestionale e, a cascata, per il fornitore del modello.

Quando scegli uno strumento chiedi dove vengono elaborati i dati, chi sono i sub-responsabili e quanto restano conservati i documenti. Non è consulenza legale: verifica con il tuo consulente privacy.

AI Act: dire che si parla con un’AI

L’articolo 50, paragrafo 1, del Regolamento (UE) 2024/1689 stabilisce che i fornitori di sistemi AI destinati a interagire direttamente con le persone li progettino in modo che queste siano informate di stare interagendo con un’AI, a meno che sia evidente per una persona ragionevolmente informata, attenta e avveduta, tenuto conto del contesto. Il paragrafo 5 aggiunge che l’informazione va data in modo chiaro e distinguibile al più tardi alla prima interazione (testo dell’articolo 50).

Questi obblighi si applicano dal 2 agosto 2026. Il regolamento di modifica noto come Omnibus digitale sull’AI, Regolamento (UE) 2026/1744, ha rinviato al 2 dicembre 2027 gli obblighi per i sistemi ad alto rischio ma non quelli di trasparenza dell’articolo 50, salvo una deroga limitata sull’etichettatura dei sistemi generativi già sul mercato (Goodwin, 3 agosto 2026).

Due osservazioni pratiche. L’obbligo del paragrafo 1 è scritto per il fornitore del sistema: se usi uno strumento di terzi, chiedi come lo rispetta. E «evidente dal contesto» è una valutazione caso per caso: un assistente che firma con un nome di persona in una chat WhatsApp difficilmente lo è. Aggiornato al 23 ottobre 2026; le norme e le linee guida della Commissione possono cambiare, verifica con un legale.

La dipendenza dai fornitori di modelli

Quasi nessun gestionale addestra il proprio modello: usa quelli di pochi grandi fornitori. Questo crea tre rischi:

• Indisponibilità. Un fornitore può essere lento, fuori servizio o rifiutare richieste per limiti di spesa.
• Cambi di comportamento. Una nuova versione del modello può rispondere diversamente alle stesse istruzioni.
• Cambi di condizioni. Prezzi, limiti e regole d’uso li decide il fornitore.

Le contromisure sono note: un secondo fornitore pronto a subentrare quando il primo non risponde, un insieme di conversazioni reali su cui provare ogni cambio prima di metterlo in produzione, e regole critiche (accessi, soldi) scritte nel codice del gestionale, non affidate alle istruzioni del modello. Se il modello sparisse domani, il codice della porta deve comunque partire all’ora giusta.

Come NoHost affronta questi limiti

Le scelte che seguono sono funzioni presenti oggi in NoHost.

• Dati veri. L’assistente AI risponde su WhatsApp e nelle chat di Booking.com e Airbnb con i dati della prenotazione e le informazioni della struttura raccolte in un’intervista guidata. Alle domande prima della prenotazione risponde con disponibilità e prezzi calcolati dal sistema; se non ha dati certi passa la domanda a una persona.
• Niente conoscenza in automatico. Le informazioni nuove che il gestore scrive diventano proposte da approvare.
• Soldi e cancellazioni a una persona. Le richieste di cancellazione o rimborso restano al team. Per le contestazioni dei pagamenti NoHost prepara il fascicolo delle prove, ma nulla parte senza che il gestore lo legga e lo invii.
• Accesso solo a check-in completo. Il codice della porta parte all’orario di check-in e solo a registrazione e pagamenti completati.
• Verifica prima di proporre. Early check-in e late check-out si propongono solo se l’ospite li chiede e se il sistema li verifica fattibili; altrimenti la risposta è «non disponibile».
• Controllo sui testi pubblici. Le risposte alle recensioni di Booking.com e Airbnb passano un controllo che esclude scuse, ammissioni, accuse senza prove e dati personali; se non lo superano non vengono pubblicate.
• Tracce non modificabili. Con le serrature TTLock ogni apertura della porta finisce in un registro che non si può modificare né cancellare; annunci, termini e politica di cancellazione vengono archiviati con data e impronta digitale.
• Privacy. Documenti e firme del check-in vengono cancellati da soli 18 mesi dopo la partenza.
• Controllo umano su ogni chat. La risposta automatica si spegne conversazione per conversazione.

Cosa non facciamo, oggi: l’assistente non risponde via email, perché NoHost non riceve le email degli ospiti; la ripresa automatica delle domande rimaste senza risposta è spenta di base e riguarda solo quelle prima della prenotazione; non esiste una catena di reperibilità che passa un’urgenza a un’altra persona se il tecnico non risponde. Sono limiti dichiarati, e preferiamo che tu li conosca prima di scegliere.

Per la parte pratica, cioè quali messaggi automatizzare e come scrivere la base di conoscenza, vedi Automatizzare le comunicazioni con gli ospiti.