Blog

Jak vysvětlit rozhodnutí umělé inteligence? Britové představili pravidla

Britský úřad vydal detailní pravidla pro vysvětlení rozhodnutí přijatých technologiemi na bázi umělé inteligence (AI) při práci s (nejen) osobními údaji. 

Britský úřad pro ochranu osobních údajů (ICO) ve spolupráci s Institutem Alana Turinga představil v květnu pravidla pro vysvětlení rozhodnutí učiněných umělou inteligencí. Tu pro tyto účely chápe široce jako jakoukoli technologii založenou na algoritmech řešící komplexní úkoly. Nejčastěji jde o rozhodovací procesy ve zdravotnictví, ozbrojených složkách a marketingu. 

Dokument je strukturován do tří částí – obecné úvodní části, technického vysvětlení praktického využití AI a manažerské části věnované aplikaci na činnosti konkrétních organizací. Pracuje s pouhými čtyřmi základními principy: transparentnosti, přičitatelnosti, kontextu prováděné činnosti a posouzení dopadu na jednotlivce i širší společnost. Z pohledu práva jsou kromě GDPR zohledněny i antidiskriminační předpisy a soudní (správní) přezkum rozhodnutí. 

Cílem je poskytnout osobě dotčené rozhodováním vysvětlení jednak k samotnému procesu rozhodování, tak i jeho výsledku, tj. jednotlivým rozhodnutím. I když jde o nezávazná vodítka na národní úrovni, přináší inspirativní a zároveň praktický náhled na danou problematiku.