A cosa pensano le macchine? Efficienza e opacità nelle reti neurali artificiali

Secondo alcuni, l’entusiasmo per le applicazioni delle reti neurali profonde ha portato alla loro diffusione prima ancora che allo sviluppo di una struttura concettuale in grado d’interpretare il processo che guida le loro analisi e le relative decisioni. In altre parole, i processi di apprendimento automatico sarebbero in molti casi "opachi" per gli utenti umani, non essendo "interpretabili" o "spiegabili" in termini che renderebbero "comprensibili" le procedure di categorizzazione alla base del loro funzionamento. Lo scopo di questo saggio è mostrare che, se anche esiste un problema di interpretazione riguardo al comportamento delle reti neurali profonde, tale problema non è dissimile rispetto a quello posto dalla necessità di interpretare il comportamento di altri esseri umani, senza che siano disponibili informazioni complete riguardo al funzionamento dei sistemi cognitivi naturali. Un caso di studio tratto dall’impiego delle reti neurali profonde per la diagnosi medica farà da sfondo all’argomento.