Le sezioni “prodotti suggeriti” o “scelti per te” sono diventate, nel tempo, la spina dorsale dell’e-commerce moderno. Basate su algoritmi di apprendimento automatico, hanno garantito incrementi significativi dello scontrino medio. Tuttavia, con l’entrata in vigore delle nuove disposizioni legate all’AI Act, la musica è destinata a cambiare. Il regolamento non si limita a normare le intelligenze artificiali generiche, ma interviene direttamente sull’esperienza utente degli store online, chiedendo ai merchant di rendere intellegibile la logica dietro ogni suggerimento.
Perché un utente si vede proporre un determinato articolo? La risposta, che finora restava confinata nei server e nelle analisi dei data scientist, deve uscire allo scoperto. L’AI Act non chiede di pubblicare i parametri del modello matematico, ma esige che il consumatore sia messo in grado di comprendere perché quel prodotto è apparso in quella precisa sezione. Le diciture standard, spesso troppo vaghe, dovranno essere sostituite da messaggi che spieghino il criterio di raccomandazione in modo sintetico e veritiero.
Questa richiesta solleva sfide inedite per la gestione delle piattaforme. Spesso, gli algoritmi di raccomandazione sono forniti da software terzi di cui il merchant ha solo una comprensione superficiale. Ora, l’obbligo di responsabilità sposta l’onere della prova verso chi gestisce il sito. Se un software di terze parti suggerisce un prodotto, il merchant deve poter spiegare all’autorità di controllo, o direttamente all’utente, il funzionamento di quel meccanismo di scelta. Il rischio, in caso contrario, è quello di incorrere in pratiche commerciali ingannevoli basate su suggerimenti che non riflettono realmente le preferenze o le necessità del navigatore.
L’impatto sulla User Experience (UX) è profondo. Spiegare la logica dietro un suggerimento può sembrare un rallentamento del flusso di acquisto, eppure rappresenta una leva di coinvolgimento nuova. Un utente che legge “Prodotto consigliato in quanto simile al tuo acquisto precedente di X” percepisce una pertinenza che l’anonimo “per te” non riesce a trasmettere. La trasparenza diventa un moltiplicatore di valore, trasformando la raccomandazione da un mero calcolo statistico a un consiglio di acquisto basato su criteri condivisi.
Gli sviluppatori sono chiamati a riscrivere i messaggi di output degli algoritmi. La sfida non è tecnica, ma comunicativa: tradurre la complessità del machine learning in un linguaggio che un cliente possa comprendere in pochi secondi durante la navigazione. La trasparenza, in quest’ottica, non è un freno alla conversione, ma la nuova frontiera dell’esperienza utente consapevole. Le aziende che sapranno interpretare questo cambio di paradigma trasformeranno l’obbligo burocratico dell’AI Act in un segno distintivo di professionalità e rispetto per l’utente, consolidando un rapporto di fiducia che sarà il vero vantaggio competitivo nei prossimi anni.
