Motyw 42

Zgod­nie z do­mnie­ma­niem nie­win­no­ści osoby fi­zycz­ne w Unii po­win­ny być za­wsze oce­nia­ne na pod­sta­wie ich fak­tycz­ne­go za­cho­wa­nia. Osoby fi­zycz­ne nigdy nie po­win­ny być oce­nia­ne na pod­sta­wie za­cho­wań pro­gno­zo­wa­nych przez AI wy­łącz­nie na pod­sta­wie pod­da­nia ich pro­fi­lo­wa­niu, na pod­sta­wie ich cech oso­bo­wo­ści lub cech cha­rak­te­ry­stycz­nych, ta­kich jak na­ro­do­wość, miej­sce uro­dze­nia, miej­sce za­miesz­ka­nia, licz­ba dzie­ci, po­ziom za­dłu­że­nia lub ro­dzaj sa­mo­cho­du, bez uza­sad­nio­ne­go po­dej­rze­nia, że osoba ta uczest­ni­czy w dzia­łal­no­ści prze­stęp­czej w opar­ciu o obiek­tyw­ne moż­li­we do zwe­ry­fi­ko­wa­nia fakty i bez ich oceny przez czło­wie­ka. W związ­ku z tym na­le­ży za­ka­zać ocen ry­zy­ka prze­pro­wa­dza­nych w od­nie­sie­niu do osób fi­zycz­nych w celu oceny praw­do­po­do­bień­stwa po­peł­nie­nia przez te osoby prze­stęp­stwa lub prze­wi­dy­wa­nia wy­stą­pie­nia fak­tycz­ne­go lub po­ten­cjal­ne­go prze­stęp­stwa wy­łącz­nie na pod­sta­wie prze­pro­wa­dzo­ne­go wobec nich pro­fi­lo­wa­nia lub oceny ich cech oso­bi­stych i cha­rak­te­ry­stycz­nych. W każ­dym razie zakaz ten nie od­no­si się do ani nie do­ty­czy ana­li­zy ry­zy­ka, która nie opie­ra się na pro­fi­lo­wa­niu osób fi­zycz­nych ani na ce­chach oso­bi­stych i cha­rak­te­ry­stycz­nych osób fi­zycz­nych, w ta­kich przy­pad­kach jak wy­ko­rzy­sty­wa­nie przez sys­te­my AI ana­li­zy ry­zy­ka w celu oceny praw­do­po­do­bień­stwa nad­użyć fi­nan­so­wych przez przed­się­bior­stwa na pod­sta­wie po­dej­rza­nych trans­ak­cji lub na­rzę­dzi ana­li­zy ry­zy­ka w celu prze­wi­dy­wa­nia przez or­ga­ny celne praw­do­po­dob­nej lo­ka­li­za­cji środ­ków odu­rza­ją­cych lub nie­le­gal­nych to­wa­rów, na przy­kład na pod­sta­wie zna­nych szla­ków prze­my­tu.