Between the theory and practice of human oversight: Towards specialized AI regulatory sandboxes

ENGLISH ABSTRACT Human oversight has become a flagship safeguard in AI governance frameworks, yet its real‑world performance is uneven. Empirical studies show that humans supervising automated systems are vulnerable to automation bias and organizational incentives that reduce oversight to a box‑ticking exercise. More fundamentally, humans and machines reason in profoundly different ways, making their integration far from straightforward. EU secondary law – most notably the GDPR and the AI Act – requires ‘meaningful’ and ‘effective’ human oversight, but offers limited operational guidance on how to achieve it. This paper argues that specialized AI regulatory sandboxes for human oversight can bridge this theory‑practice gap. After mapping the legal obligations and practical shortcomings of human oversight, the paper argues how the AI Act’s regulatory sandbox regime can be leveraged to test concrete oversight models, metrics, and workflows in controlled conditions. It further provides recommendations for the governance of human oversight‑specific sandboxes. The paper thus offers a policy proposal to convert open‑textured legislative mandates on human oversight into evidence‑based practices, reduce fragmentation across Member States, and strengthen both innovation and fundamental‑rights protection in the EU’s AI governance. ITA ABSTRACT La sorveglianza umana dei sistemi di IA (“human oversight”) è diventata una delle principali misure di governance dell’IA, ma la sua efficacia pratica risulta disomogenea. Studi empirici mostrano che gli esseri umani chiamati a supervisionare sistemi automatizzati sono vulnerabili all’automation bias e a incentivi organizzativi che riducono l’attività di sorveglianza umana a un mero adempimento formale. Ancora più radicalmente, esseri umani e sistemi di IA ragionano in modi profondamente diversi, rendendo l’integrazione tra i due particolarmente complessa. Il diritto dell’Unione – in particolare il GDPR e l’AI Act – richiede forme di human oversight “significative” ed “effetti‑ve”, offrendo però indicazioni operative limitate su come realizzarle. Questo contributo sostiene che sandbox rego‑latorie specializzate per la sorveglianza umana dei sistemi di IA possano colmare tale divario tra teoria e pratica. Dopo aver analizzato gli obblighi normativi e le principali criticità applicative della sorveglianza umana, il paper illustra come il regime delle sandbox previsto dall’AI Act possa essere utilizzato per testare modelli di supervisione, metriche e processi operativi in condizioni controllate. Vengono inoltre fornite raccomandazioni sulla governance di sandbox specificamente dedicate alla sorveglianza umana. Il contributo delinea così una proposta di policy volta a convertire obblighi legislativi ampi e indeterminati in pratiche basate sull’evidenza, ridurre la frammentazione tra Stati membri e rafforzare sia l’innovazione, sia la tutela dei diritti fondamentali nella governance UE dell’IA.