AI Act e assistenti RAG: quali obblighi riguardano le basi di conoscenza

Se ha costruito o sta valutando un assistente che risponde interrogando i Suoi documenti (un sistema RAG), è legittimo chiedersi se il Regolamento europeo sull'IA (AI Act) La riguardi. La risposta breve: quasi sempre sì, ma raramente nella forma più severa. Questo articolo spiega come l'AI Act classifica i sistemi di IA, dove si colloca tipicamente un assistente su base di conoscenza e quali passi pratici ha senso compiere, senza sostituirsi a una consulenza legale.

Cos'è l'AI Act e perché può riguardare anche un assistente RAG

Il Regolamento (UE) 2024/1689, noto come AI Act, è la prima cornice normativa organica sull'intelligenza artificiale a livello europeo. Entra in vigore in modo progressivo tra il 2024 e il 2027, con obblighi che diventano applicabili per fasi: i divieti sulle pratiche vietate sono scattati nel 2025, mentre le regole sui sistemi ad alto rischio e sui modelli di uso generale seguono un calendario più lungo. Il testo integrale è consultabile su EUR-Lex.

Un assistente RAG (retrieval augmented generation) non è un modello di IA a sé stante: è un sistema che combina un motore di ricerca sui Suoi documenti con un modello linguistico che genera la risposta a partire dai passaggi recuperati. L'AI Act non parla esplicitamente di RAG, ma regola i «sistemi di IA» in base a cosa fanno e a che rischio comportano, non in base alla tecnologia sottostante. Quindi la domanda giusta non è «uso il RAG?» ma «cosa fa concretamente il mio assistente e per chi?».

Le quattro categorie di rischio dell'AI Act

L'impianto del regolamento si basa su una piramide del rischio. Più un sistema può incidere su diritti, salute o sicurezza delle persone, più obblighi comporta.

La maggior parte degli assistenti costruiti su una base di conoscenza aziendale, un chatbot per il supporto clienti, un motore di domande e risposte su policy HR o su documentazione tecnica, ricade nella fascia «rischio limitato» o «rischio minimo». Diventa alto rischio solo se il suo output incide direttamente su decisioni elencate nell'Allegato III del regolamento: assunzione, accesso al credito, accesso a servizi pubblici essenziali, valutazione di candidati o dipendenti, ambito giudiziario o sanitario con effetti diretti sulle persone.

Dove si colloca tipicamente un assistente RAG

Immaginiamo tre casi concreti per capire come cambia la classificazione.

• Un assistente che risponde ai dipendenti su regolamento interno, CCNL e policy ferie: rischio limitato o minimo, perché informa ma non decide nulla al posto di una persona (si veda il nostro approfondimento su Assistente IA per le policy HR).
• Un assistente di supporto clienti che cita i passaggi del manuale prodotto o dei termini contrattuali: rischio limitato, obbligo principale di trasparenza (si veda RAG per il customer support).
• Un sistema che, a partire dai CV, produce uno score automatico di idoneità a un ruolo senza intervento umano: qui si entra nell'area alto rischio dell'Allegato III, perché il risultato condiziona direttamente una decisione di assunzione.

La differenza non è nella tecnologia (il RAG rimane lo stesso meccanismo di recupero più generazione) ma nell'uso che se ne fa. Un assistente che fornisce informazioni con fonti citate, lasciando a una persona la decisione finale, resta quasi sempre in una fascia di rischio contenuta. È anche per questo che impostare un sistema che risponde sempre citando i passaggi di origine, come avviene nelle basi di conoscenza che adottano la modalità con citazioni, aiuta sia dal punto di vista della qualità sia da quello della trasparenza richiesta dal regolamento. Il tema della verificabilità delle risposte è approfondito in Risposte dell'IA con citazioni: come verificare una risposta sui propri documenti.

Gli obblighi di trasparenza che probabilmente La riguardano

Per i sistemi a rischio limitato, l'articolo 50 dell'AI Act introduce obblighi di trasparenza mirati, non l'intera impalcatura di conformità prevista per l'alto rischio. In pratica, per un assistente RAG rivolto a utenti esterni o interni, questo tende a tradursi in:

1. Informare chiaramente l'utente che sta interagendo con un sistema di IA e non con una persona, salvo che ciò sia evidente dal contesto.
2. Se il sistema genera contenuti (testo, audio, immagini) destinati a sembrare prodotti da una persona o a diffondersi come informazione, prevedere un'indicazione che si tratta di contenuto generato o manipolato artificialmente, nei casi previsti dal regolamento.
3. Mantenere una documentazione minima su come funziona il sistema: quali documenti alimentano la base di conoscenza, come vengono aggiornati, quali limiti ha la risposta.
4. Prevedere un canale per segnalare risposte errate o fuorvianti, e un processo per correggerle o per aggiornare i documenti sorgente.

Cosa l'AI Act non copre (per evitare falsi allarmi)

È altrettanto utile sapere cosa l'AI Act non richiede, perché molte PMI italiane rinunciano a progetti utili per un eccesso di prudenza basato su letture imprecise del regolamento.

• Non impone di usare solo modelli europei o open source: la nazionalità del fornitore del modello non è, di per sé, un criterio del regolamento.
• Non vieta di usare l'IA per rispondere su documenti interni (policy, manuali, contratti) a meno che la risposta non diventi la base automatica di una decisione ad alto impatto su una persona.
• Non sostituisce il GDPR: le due normative sono complementari e vanno verificate separatamente. Il tema specifico della protezione dei dati nei sistemi RAG è trattato in GDPR e RAG: cosa verificare prima di partire e in Creare un chatbot conforme al GDPR sui propri documenti.
• Non obbliga a pubblicare il codice sorgente o i pesi del modello utilizzato dal fornitore del servizio.
• Non si applica retroattivamente in modo uniforme: i termini di adeguamento sono scaglionati fino al 2027 a seconda della categoria di obbligo.

AI Act e GDPR: due normative distinte da verificare entrambe

Un errore comune è trattare AI Act e GDPR come la stessa cosa. Il GDPR regola il trattamento dei dati personali (chi può accedervi, per quanto tempo, con quale base giuridica), indipendentemente dal fatto che il trattamento avvenga con o senza IA. L'AI Act regola invece il funzionamento e l'uso del sistema di IA in sé, a prescindere dal fatto che tratti o meno dati personali. Un assistente RAG che risponde su un manuale tecnico privo di dati personali può comunque avere obblighi di trasparenza secondo l'AI Act; viceversa, un trattamento di dati personali con un sistema RAG richiede comunque una verifica GDPR anche se il sistema rientra nella fascia di rischio minimo dell'AI Act. Le due checklist vanno quindi tenute separate, anche se spesso convergono sugli stessi documenti di governance interna.

Passi pratici per mettersi in regola senza bloccare il progetto

Ecco una sequenza di verifiche ragionevole per chi sta costruendo o ha già un assistente RAG su documenti aziendali, che non sostituisce un parere legale ma aiuta a strutturare la conversazione con il proprio consulente o DPO.

1. Mappi l'uso finale: l'output del sistema informa una persona o decide automaticamente qualcosa che la riguarda (assunzione, accesso a un servizio, punteggio)? Questo determina la fascia di rischio.
2. Verifichi se il caso d'uso rientra nell'Allegato III del regolamento (consultabile su EUR-Lex): se sì, serve un percorso di conformità più strutturato, con il supporto di un legale.
3. Se il caso ricade in rischio limitato o minimo, implementi comunque un'informativa chiara che l'utente sta parlando con un assistente IA, non con una persona.
4. Scelga, dove possibile, una modalità di risposta con fonti citate: facilita sia la trasparenza sia la verifica umana, e riduce il rischio di contenuti fuorvianti (si veda anche Come ridurre le allucinazioni dell'IA con risposte basate sulle fonti).
5. Documenti la base di conoscenza: quali documenti la alimentano, chi li aggiorna, con quale frequenza, chi può correggerli in caso di errore.
6. Verifichi separatamente gli aspetti GDPR (minimizzazione dei dati, base giuridica, eventuale DPIA) prima di caricare documenti che contengono dati personali.
7. Tenga traccia delle decisioni prese (perché un certo uso è stato classificato a rischio limitato, non alto): questa tracciabilità sarà utile in caso di verifica.

Per chi parte da zero, un modo pragmatico di avvicinarsi al tema è costruire prima una base di conoscenza privata di test, verificare come risponde e con quali fonti, e solo dopo decidere se e come esporla a utenti esterni. Su Kopik è possibile creare una base caricando i propri documenti e provare da subito la modalità con risposte citate, utile proprio per valutare la trasparenza dell'output prima di qualunque decisione di messa in produzione.

Un'ultima avvertenza

Questo articolo descrive meccanismi generali dell'AI Act applicati a un caso d'uso frequente, gli assistenti RAG su basi di conoscenza, ma non costituisce consulenza legale. Il regolamento prevede eccezioni, soglie e scadenze specifiche che vanno verificate caso per caso con un legale o un DPO, soprattutto se il Suo assistente tratta dati personali sensibili o incide su decisioni che riguardano persone fisiche. Per chi vuole prima orientarsi sul vocabolario tecnico prima di parlarne con un consulente, può essere utile anche il nostro Glossario IA e LLM per professionisti, così come un ripasso su Perché gli agenti IA hanno bisogno di fonti affidabili per capire perché la trasparenza delle fonti non è solo un tema normativo ma anche di qualità del prodotto.