Využití algoritmů při profilování v trestním řízení a důsledky pro lidská práva

Abstract

Algoritmy nahrazují činnosti, které dříve vykonávali lidé. Jednou z těchto činností je soudní rozhodování založené na algoritmech. Obecně se předpokládá, že algoritmické rozhodování, na rozdíl od toho lidského, postrádá předsudky a předpojatosti. Tento předpoklad je problematický ve dvou momentech. Za prvé, algoritmus rozhoduje podle předem stanovených kritérií a hodnot. Tyto hodnoty určují lidé, kteří mohou mezi předem stanovená kritéria zahrnout ta, která odpovídají jejich předsudkům. Za druhé, některé algoritmy mohou mít schopnost učit se, což znamená, že vygenerované výsledky jsou přizpůsobeny předchozím výsledkům, které byly v minulosti upřednostněny. Uživatelé mohou mít možnost zvolit výsledky, které odpovídají jejich názoru, které však mohou být založeny na předsudcích. Ve Spojených státech a také v některých evropských zemích již soudy používají algoritmus k posouzení, zda je pravděpodobné, že obviněný (resp. odsouzený) spáchá v budoucnosti jiný trestný čin. Soudce nerozhoduje na základě okolností případu a individuálních charakteristik obviněného. Soudce rozhoduje místo toho na podkladě profilu. Profily pachatelů jsou sestaveny na základě osobních údajů pachatelů, přičemž některé z těchto údajů mohou mít povahu biometrického údaje. Algoritmické rozhodování založené na profilování vyvolává obavy ze zásahu do práv obviněného v soudním řízení, konkrétně zákazu diskriminace a právu na spravedlivý proces.

Keywords

• Algoritmus
• biometrické údaje
• diskriminace
• profilování
• spravedlivý proces
• trestní řízení.