En Chine une IA peut condamner des suspects

Des chercheurs chinois ont créé une intelligence artificielle capable d’identifier des crimes et de formuler un réquisitoire contre les criminels. 

En Chine, cette intelligence artificielle a été testée par le Parquet populaire de Shanghai Pudong, le bureau du procureur du district le plus grand et le plus actif du pays. Elle doit apporter les pièces à charge contre un prévenu et faire des propositions de peines. Dans l’avenir, cette IA pourrait bien remplacer les procureurs.

Selon les chercheurs, l’intelligence artificielle exerce un rôle de “procureur”. Elle peut déposer une accusation avec une précision de plus de 97% sur la base d’une description verbale de l’affaire. La technologie pourrait réduire la charge de travail quotidienne des procureurs, leur permettant de se concentrer sur des tâches plus difficiles. 

Une IA à la place des juges ? 

L’IA s’appuie sur un modèle existant portant le nom de « Système 206 ». Il était déjà employé par les procureurs chinois pour les soutenir dans l’évaluation de preuves et déterminer si un criminel présumé était dangereux pour le public. Cependant, cet outil était limité puisqu’il ne pouvait pas « participer aux processus de dépôts de plainte, ni proposer de peine », explique l’équipe de chercheur dans l’article du South China Morning Post.

À l’heure actuelle, la machine sait faire le tri entre les informations pertinentes et celles qui ne le sont pas. Elle sait identifier et lancer des procédures judiciaires pour les huit crimes les plus courants du tribunal de Shanghai Pudong : les jeux d’argent, les vols, la fraude, les arnaques par carte de crédit, les conduites imprudentes, les agressions, les outrages et entraves à un agent et enfin, une spécialité chinoise, la dissidence politique. 

Cette nouvelle intelligence artificielle pose forcément question. Dans l’article du South China Morning Post, un procureur anonyme s’inquiète : “La précision de 97% peut être élevée d’un point de vue technologique, mais il y aura toujours un risque d’erreur”. “Qui assumera la responsabilité lorsque cela arrivera ? Le procureur, la machine ou le concepteur de l’algorithme ?