Intelligenza Artificiale in grado di elaborare le accuse debutta in Cina

Secondo il South China Morning Post, la Procura Popolare di Shanghai Pudong ha iniziato a sperimentare un’Intelligenza Artificiale in grado di “elaborare accuse” con il 97% di precisione.

Sia chiaro però: per ora si tratta solo di uno strumento volto a velocizzare il carico di lavoro della Procura.

Mi chiamo System 206

System 206, nome attribuito a questo tool artificiale, è stato sviluppato da un’equipe di ricercatori guidata dal professor Shi Yong, direttore del laboratorio di big data e gestione della conoscenza dell’Accademia cinese delle scienze.

In particolare, il team ha programmato System 206 utilizzando un database di oltre 17.000 casi tra il 2015 e il 2020.

In questo senso, tale sistema presenta caratteristiche molto evolute.

Un avvocato di livello

Ad esempio, System 206 riesce ad elaborare accuse per otto tipologie di reati, ovvero quelli considerati più comuni e di semplice gestione.

In particolare, tale tecnologia valuta le “prove a carico” e la pericolosità sociale sulla base dei report inseriti da mano umana.

L’I.A. è stata testata ed “abituata” a confrontarsi con reati ritenuti semplici, come:

–   frode con carta di credito,

–   gioco d’azzardo,

–   guida pericolosa,

–   lesioni intenzionali,

–   ostruzione ai doveri ufficiali,

–   furto

Rispetto ai precedenti sistemi di AI impiegati in Cina e in altri paesi, sostanzialmente strumenti di ricerca o analisi forense, l’ultimo modello presentato dal professor Shi entrerebbe direttamente nel processo decisionale dell’accusa.

In altri termini, sarebbe in grado di formulare autonomamente un’accusa a carico di un indagato.

Questo ha destato una certa preoccupazione sia per il margine di errore, che per il controllo governativo che potrebbe essere esercitato tramite l’intelligenza artificiale “decisionale”.

Da un lato, infatti, il ruolo del decisore umano verrebbe, in parte, messo in secondo piano; dall’altra, la programmazione dell’algoritmo in un senso o in un altro potrebbe determinare le scelte di politica criminale di una procura.

L’Intelligenza artificiale nel settore penale

Il nuovo tool cinese si caratterizza unicamente per l’autonomia del processo decisionale automatizzato.

L’utilizzo dell’Intelligenza Artificiale nel sistema giudiziario è in crescita in tutto il mondo; per esempio.

In Italia vengono utilizzati programmi in grado di ricostruire la dinamica di un incidente stradale oppure per creare degli identikit il più possibili fedeli alla realtà.

Altri paesi, come gli Stati Uniti, utilizzano già da tempo di software cd. di “polizia predittiva”, che sono in grado di stimare dove e da chi verranno commessi dei reati.

In Germania l’Intelligenza Artificiale è impiegata nel digital forensics (un ramo della scienza forense relativa a eventi di criminalità informatica) per il recupero e l’indagine di materiale digitale

In nessun caso, però, l’Intelligenza Artificiale ha un processo decisionale autonomo: diventa, piuttosto, uno strumento di ausilio per il giudice.

Innovare senza Violare

L’utilizzo di tecnologie sempre più invasive, in ambito giuridico e non, porta inevitabilmente con sé diversi timori e situazioni potenzialmente spinose, soprattutto nelle società occidentali.

Ad esempio, nel caso in cui il risultato dell’analisi effettuata dall’Intelligenza Artificiale rientri tra le prove utilizzato dal giudice per arrivare alla decisione finale, si porrebbe il problema della “trasparenza” dell’algoritmo.

In altri termini, si pone un contrasto tra il segreto industriale delle software house fornitrici dell’IA.

In tal senso, la Commissione europea per l’Efficienza della giustizia ha elaborato nel dicembre 2018 una Carta etica europea sull’utilizzo dell’Intelligenza Artificiale nei sistemi giudiziari e negli ambiti connessi in cui viene effettuata una prima analisi approfondita sui vantaggi dell’impiego dell’Intelligenza Artificiale nei procedimenti giudiziari ma anche, e soprattutto, sui profili di rischio connessi, legati soprattutto a possibili effetti discriminatori e lesivi di diritti fondamentali

Oltreoceano invece, l’amministrazione statunitense guidata da Joe Biden sta pensando a una “carta dei diritti” per regolamentare l’intelligenza artificiale.

L’obiettivo, quindi, sembra quello di voler sicuramente investire in queste nuove tecnologie, rimanendo al contempo vigili affinché non operino violando alcuna legge sui diritti civili.

Se sei interessato a questa e altre tematiche, seguici sulla nostra Community di Psicologi Digitali cliccando qui.