Motyw 59

Ze wzglę­du na rolę i od­po­wie­dzial­ność or­ga­nów ści­ga­nia ich dzia­ła­nia zwią­za­ne z nie­któ­ry­mi ro­dza­ja­mi wy­ko­rzy­sta­nia sys­te­mów AI cha­rak­te­ry­zu­ją się znacz­nym bra­kiem rów­no­wa­gi sił i mogą pro­wa­dzić do ob­ję­cia osoby fi­zycz­nej nad­zo­rem, do jej aresz­to­wa­nia lub po­zba­wie­nia wol­no­ści, jak rów­nież do za­ist­nie­nia in­ne­go nie­po­żą­da­ne­go wpły­wu na prawa pod­sta­wo­we za­gwa­ran­to­wa­ne w Kar­cie. W szcze­gól­no­ści je­że­li sys­tem AI nie jest tre­no­wa­ny z wy­ko­rzy­sta­niem da­nych wy­so­kiej ja­ko­ści, nie speł­nia od­po­wied­nich wy­mo­gów pod wzglę­dem sku­tecz­no­ści jego dzia­ła­nia, do­kład­no­ści lub so­lid­no­ści lub nie zo­stał od­po­wied­nio za­pro­jek­to­wa­ny i prze­te­sto­wa­ny przed wpro­wa­dze­niem do ob­ro­tu lub od­da­niem do użyt­ku w inny spo­sób, może on wska­zy­wać osoby w spo­sób dys­kry­mi­na­cyj­ny lub w inny nie­pra­wi­dło­wy lub nie­spra­wie­dli­wy spo­sób. Po­nad­to ko­rzy­sta­nie z istot­nych pro­ce­so­wych praw pod­sta­wo­wych, ta­kich jak prawo do sku­tecz­ne­go środ­ka praw­ne­go i do­stę­pu do bez­stron­ne­go sądu, jak rów­nież prawo do obro­ny i do­mnie­ma­nia nie­win­no­ści, może być utrud­nio­ne, w szcze­gól­no­ści w przy­pad­ku gdy takie sys­te­my AI nie są w wy­star­cza­ją­cym stop­niu przej­rzy­ste, wy­ja­śnial­ne i udo­ku­men­to­wa­ne. W związ­ku z tym sze­reg sys­te­mów AI prze­zna­czo­nych do wy­ko­rzy­sta­nia w kon­tek­ście ści­ga­nia prze­stępstw, w któ­rym do­kład­ność, wia­ry­god­ność i przej­rzy­stość są szcze­gól­nie ważne dla unik­nię­cia nie­po­żą­da­ne­go wpły­wu, za­cho­wa­nia za­ufa­nia pu­blicz­ne­go oraz za­pew­nie­nia od­po­wie­dzial­no­ści i sku­tecz­ne­go do­cho­dze­nia rosz­czeń, na­le­ży kla­sy­fi­ko­wać jako sys­te­my wy­so­kie­go ry­zy­ka, o ile ich wy­ko­rzy­sta­nie jest do­zwo­lo­ne zgod­nie z wła­ści­wy­mi prze­pi­sa­mi prawa Unii i prawa kra­jo­we­go. Ze wzglę­du na cha­rak­ter dzia­łań i zwią­za­ne z nimi ry­zy­ko do ta­kich sys­te­mów AI wy­so­kie­go ry­zy­ka na­le­ży za­li­czyć w szcze­gól­no­ści sys­te­my AI prze­zna­czo­ne do wy­ko­rzy­sty­wa­nia przez or­ga­ny ści­ga­nia lub w ich imie­niu lub przez in­sty­tu­cje, or­ga­ny i jed­nost­ki or­ga­ni­za­cyj­ne Unii w ra­mach wspar­cia udzie­la­ne­go or­ga­nom ści­ga­nia w za­kre­sie oceny ry­zy­ka, że osoba fi­zycz­na sta­nie się ofia­rą prze­stęp­stwa, takie jak wa­rio­gra­fy i po­dob­ne na­rzę­dzia, do oceny wia­ry­god­no­ści do­wo­dów pod­czas pro­wa­dze­nia po­stę­po­wań przy­go­to­waw­czych w spra­wie prze­stępstw lub ich ści­ga­nia oraz, o ile nie jest to za­ka­za­ne na mocy ni­niej­sze­go roz­po­rzą­dze­nia, do oceny ry­zy­ka po­peł­nie­nia prze­stęp­stwa lub po­now­ne­go po­peł­nie­nia prze­stęp­stwa przez osobę fi­zycz­ną nie­wy­łącz­nie na pod­sta­wie pro­fi­lo­wa­nia osób fi­zycz­nych lub oceny cech oso­bo­wo­ści i cha­rak­te­ru lub wcze­śniej­sze­go za­cho­wa­nia prze­stęp­ne­go osób fi­zycz­nych lub grup, do pro­fi­lo­wa­nia w trak­cie wy­kry­wa­nia prze­stępstw, pro­wa­dze­nia po­stę­po­wań przy­go­to­waw­czych w ich spra­wie lub ich ści­ga­nia. Sys­te­mów AI prze­zna­czo­nych spe­cjal­nie do wy­ko­rzy­sta­nia w po­stę­po­wa­niach ad­mi­ni­stra­cyj­nych pro­wa­dzo­nych przez or­ga­ny po­dat­ko­we i celne, jak rów­nież przez jed­nost­ki ana­li­ty­ki fi­nan­so­wej wy­ko­nu­ją­ce za­da­nia ad­mi­ni­stra­cyj­ne do­ty­czą­ce ana­li­zy in­for­ma­cji na pod­sta­wie prze­pi­sów prawa Unii do­ty­czą­cych prze­ciw­dzia­ła­nia pra­niu pie­nię­dzy, nie na­le­ży za­kla­sy­fi­ko­wać jako sys­te­mów AI wy­so­kie­go ry­zy­ka wy­ko­rzy­sty­wa­nych przez or­ga­ny ści­ga­nia do celów za­po­bie­ga­nia prze­stęp­stwom, ich wy­kry­wa­nia, pro­wa­dze­nia po­stę­po­wań przy­go­to­waw­czych w ich spra­wie i ich ści­ga­nia. Wy­ko­rzy­sta­nie na­rzę­dzi sztucz­nej in­te­li­gen­cji przez or­ga­ny ści­ga­nia i inne od­po­wied­nie or­ga­ny nie po­win­no stać się czyn­ni­kiem po­wo­du­ją­cym nie­rów­no­ści lub wy­klu­cze­nie. Nie na­le­ży igno­ro­wać wpły­wu wy­ko­rzy­sta­nia na­rzę­dzi AI na prawo po­dej­rza­nych do obro­ny, w szcze­gól­no­ści na trud­no­ści w uzy­ska­niu istot­nych in­for­ma­cji na temat funk­cjo­no­wa­nia tych sys­te­mów oraz wy­ni­ka­ją­ce z tego trud­no­ści w kwe­stio­no­wa­niu do­star­cza­nych przez nie wy­ni­ków przed sądem, w szcze­gól­no­ści przez osoby fi­zycz­ne ob­ję­te po­stę­po­wa­niem przy­go­to­waw­czym.