Legittimo per la PA usare agenti AI nei procedimenti? I dubbi legali

L’impiego di sistemi di Intelligenza Artificiale nei procedimenti della Pubblica Amministrazione solleva importanti questioni giuridiche. L’automazione, specialmente con algoritmi di machine learning, introduce il problema della “black box”, ovvero l’opacità del processo decisionale che rende difficile comprendere e contestare le decisioni. La giurisprudenza, come la sentenza del Consiglio di Stato sul caso MIUR, ha stabilito che l’algoritmo deve essere “conoscibile” e la sua logica comprensibile, per non violare i principi di trasparenza e il diritto di difesa. L’obbligo di motivazione dell’atto amministrativo non può essere eluso con un semplice rinvio all’output dell’IA, ma richiede una spiegazione delle ragioni giuridiche e dei dati utilizzati.