Il tuo chatbot deve dire che è un'AI. Cosa chiede l'AI Act da agosto

Se la tua azienda assiste i clienti con un chatbot sul sito o su WhatsApp, c'è una regola nuova già in vigore.

Cosa dice la norma

L'articolo 50 dell'AI Act, il regolamento europeo sull'intelligenza artificiale, si applica dal 2 agosto 2026. Chiede tre cose principali:

• I chatbot devono dichiarare di essere un'AI, a meno che non sia evidente per una persona attenta.
• Audio, immagini e video che imitano persone reali, come una voce clonata, vanno indicati come contenuti generati o modificati con l'AI.
• I testi generati con l'AI e pubblicati per informare il pubblico su temi di interesse generale vanno indicati anch'essi, salvo revisione umana.

Le sanzioni possono arrivare a 15 milioni di euro o al 3% del fatturato mondiale, se superiore, secondo l'analisi dello studio Cooley.

L'eccezione dell'"evidente" è stretta

Molte aziende danno per scontato che il cliente sappia di parlare con un bot. Secondo lo studio Travers Smith, la Commissione europea ritiene che un chatbot di assistenza che può essere scambiato per una persona debba dichiararlo.

La norma riguarda anche le aziende extra UE il cui chatbot assiste persone in Europa.

Chi ne risponde

La legge distingue tra chi crea il sistema e chi lo usa. Il fornitore dello strumento di chatbot deve consentire l'avviso. L'azienda che mette il chatbot ad assistere i propri clienti deve assicurarsi che compaia.

In pratica, anche con uno strumento già pronto, verifica che l'avviso si veda e che il contratto con il fornitore affronti il tema.

Cosa sistemare

1. Un primo messaggio chiaro, come "Stai parlando con l'assistente virtuale dell'azienda", sul sito e su WhatsApp.
2. Niente nome e foto che fingono una persona. L'agente può avere un nome, senza nascondere di essere un'AI.
3. Un modo semplice per parlare con qualcuno del team, ogni volta che il cliente lo chiede.
4. L'avviso anche a voce, se l'assistenza è telefonica o via audio.
5. Indicare i contenuti con voce clonata o persone generate dall'AI, come video di prodotto o corsi doppiati.

Oltre a rispettare la legge, dire che è un'AI crea fiducia. Il cliente si sente più sicuro quando sa con chi sta parlando.

Come lavoriamo

Negli agenti AI per WhatsApp che costruiamo, l'avviso che si tratta di un'AI arriva nel primo messaggio e il cliente può chiedere una persona in qualsiasi momento. Nei corsi doppiati con la voce dell'autore, concordiamo con te come indicare agli studenti l'uso dell'AI.

Questo testo è informativo e non sostituisce una consulenza legale sul tuo caso.