Pratiche di IA vietate

I divieti del testo originale

Dal 2 febbraio 2025 (art. 113, lettera a) è vietato immettere sul mercato, mettere in servizio o utilizzare sistemi che manipolano con tecniche subliminali o ingannevoli, che sfruttano vulnerabilità dovute all’età, alla disabilità o alla situazione sociale o economica, o che attribuiscono alle persone un punteggio sociale con effetti pregiudizievoli o sproporzionati.

Sono vietati anche la previsione del rischio di commettere reati basata soltanto sulla profilazione o sui tratti della personalità, la creazione di banche dati di riconoscimento facciale mediante scraping non mirato di immagini da internet o da videosorveglianza, la categorizzazione biometrica per dedurre razza, opinioni politiche, appartenenza sindacale, convinzioni od orientamento sessuale, e l’identificazione biometrica remota in tempo reale in spazi accessibili al pubblico a fini di attività di contrasto, salvo eccezioni tassative.

Quella che riguarda di più le aziende

La lettera f) vieta di inferire le emozioni di una persona sul luogo di lavoro e negli istituti di istruzione, salvo per motivi medici o di sicurezza. Un sistema che analizza il tono di voce degli operatori di call center per stimarne l’umore o una telecamera che misura il coinvolgimento di un team vi rientrano in pieno.

Al di fuori del lavoro, il riconoscimento delle emozioni non è vietato, ma è considerato ad alto rischio (allegato III, punto 1) e impone di informare le persone esposte (art. 50, par. 3).

Che cosa aggiunge l’Omnibus digitale

Il Regolamento (UE) 2026/1744 introduce due nuove lettere: la b bis), che vieta i sistemi che generano o manipolano immagini, video o audio realistici delle parti intime di una persona identificabile, o di tale persona in attività sessualmente esplicite, senza il suo consenso esplicito; e la b ter), sul materiale pedopornografico.

Per chi immette il sistema sul mercato, il divieto opera quando tale risultato è la sua finalità o è ragionevolmente prevedibile e mancano garanzie affidabili per evitarlo (art. 5, par. 1 bis). Entrambe le lettere si applicano dal 2 dicembre 2026.

Conseguenze

La violazione dell’articolo 5 è punita con sanzioni fino a 35 milioni di euro o, se l’autore è un’impresa, fino al 7 % del fatturato mondiale dell’esercizio precedente, se superiore (art. 99, par. 3). Per le PMI si applica il minore dei due importi (art. 99, par. 6).

Cosa chiede di solito l’auditor

• Inventario esaminato rispetto a ciascuna lettera dell’articolo 5
• Nessun sistema inferisce le emozioni del personale, salvo motivo medico o di sicurezza documentato
• Strumenti di generazione di immagini o video con garanzie verificate
• Verifica ripetuta quando si acquista o si estende uno strumento

Come affrontarlo in pratica

1. 1Scorra l’inventario dei sistemi e annoti, lettera per lettera, perché nessuno ricade in una pratica vietata.
2. 2Chieda espressamente ai fornitori di analisi vocale, video o di produttività se le loro funzioni inferiscono emozioni.
3. 3Inserisca la verifica dell’articolo 5 nella procedura di adozione di qualsiasi nuovo strumento.