Algoritmi e pregiudizi. Responsabilità, equità e decisioni sanitarie

In questo saggio l'autore mette in luce alcuni problemi etici sollevati dalle TBA (tecnologie basate su algoritmi). La tesi è che un’accorta riflessione sulle possibili conseguenze negative prodotte dall’introduzione di TBA in sanità è necessaria per riuscire a cogliere i benefici che queste tecnologie potrebbero portare. Dopo alcune osservazioni sulla presunta neutralità dei dati che le TBA utilizzano per generare risultati e output, è introdotto il concetto di “pregiudizio implicito” (implicit bias), che può costituire un problema per le TBA, sia rispetto al valore della responsabilità, sia a quello dell’equità. Infine, sono presentante alcune brevi osservazioni su alcune soluzioni proposte in letteratura per affrontare il problema dei bias. In this paper, the author identifies a number of ethical issues that have been raised by the advent of TBAs (algorithm-based technologies). The argument put forth is that a comprehensive examination of the potential adverse effects of integrating TBAs into healthcare systems is essential to capitalize on the advantages these technologies may offer. Following an analysis of the purported neutrality of the data utilised by TBAs to generate results and outputs, the concept of 'implicit bias' is introduced, which may present a challenge for TBAs with respect to both the value of accountability and that of equity. Finally, a discussion is provided on the solutions proposed in the literature to address the issue of bias.