Quando l’Intelligenza Artificiale incontra le scienze comportamentali. Una riflessione sui valori morali

Questo saggio discute il problema della legittimità dell’introduzione intenzionale di «spinte gentili» negli ambienti digitali, cioè particolari aspetti del sistema digitale in cui si trova l’utente che possono orientare la sua attenzione, il suo giudizio e la sua scelta sfruttando i bias e i limiti cognitivi. Dopo aver presentato i tratti fondamentali del funzionamento di queste «architetture della scelta», l’autore discute dell’impatto di queste tecnologie su alcuni valori morali, tradizionalmente ritenuti centrali: autonomia, libertà, responsabilità e identità. La disamina di questi aspetti rivela alcune esigenze che generano vincoli nella progettazione di ambienti di scelta: ricerca empirica, trasparenza, controllo, responsabilizzazione. This paper discusses the problem of the legitimacy of the deliberate introduction of "nudges" into digital environments, i.e. particular aspects of the digital system that can direct users' attention, judgement and choice by exploiting their cognitive biases and limitations. After presenting the basic features of the functioning of these "choiche architectures", the author discusses the impact of these technologies on some moral values traditionally considered pivotal: autonomy, freedom, responsibility and identity. The analysis generates some constraints on the design of choice environments: empirical research, transparency, control, accountability.