Motyw 61

Nie­któ­re sys­te­my AI prze­zna­czo­ne na po­trze­by spra­wo­wa­nia wy­mia­ru spra­wie­dli­wo­ści i pro­ce­sów de­mo­kra­tycz­nych na­le­ży za­kla­sy­fi­ko­wać jako sys­te­my wy­so­kie­go ry­zy­ka, bio­rąc pod uwagę ich po­ten­cjal­nie istot­ny wpływ na de­mo­kra­cję, pra­wo­rząd­ność, wol­no­ści oso­bi­ste, a także prawo do sku­tecz­ne­go środ­ka praw­ne­go i do­stę­pu do bez­stron­ne­go sądu. W szcze­gól­no­ści, aby wy­eli­mi­no­wać po­ten­cjal­ne ry­zy­ko stron­ni­czo­ści, błę­dów i efek­tu czar­nej skrzyn­ki, jako sys­te­my wy­so­kie­go ry­zy­ka na­le­ży za­kwa­li­fi­ko­wać sys­te­my AI prze­zna­czo­ne do wy­ko­rzy­sta­nia przez or­ga­ny wy­mia­ru spra­wie­dli­wo­ści lub w ich imie­niu, aby pomóc tym or­ga­nom w po­szu­ki­wa­niu i in­ter­pre­ta­cji fak­tów i prawa oraz w sto­so­wa­niu prze­pi­sów prawa do kon­kret­ne­go stanu fak­tycz­ne­go. Sys­te­my AI prze­zna­czo­ne do wy­ko­rzy­sta­nia w tych ce­lach przez or­ga­ny al­ter­na­tyw­ne­go roz­strzy­ga­nia spo­rów rów­nież na­le­ży uznać za sys­te­my wy­so­kie­go ry­zy­ka, je­że­li wy­ni­ki po­stę­po­wa­nia w spra­wie al­ter­na­tyw­ne­go roz­strzy­ga­nia spo­rów wy­wo­łu­ją skut­ki praw­ne dla stron. Wy­ko­rzy­sta­nie na­rzę­dzi AI może wspie­rać upraw­nie­nia de­cy­zyj­ne sę­dziów lub nie­za­leż­ność są­dow­nic­twa, ale nie po­win­no ich za­stę­po­wać; po­dej­mo­wa­nie osta­tecz­nej de­cy­zji musi po­zo­stać dzia­ła­niem kie­ro­wa­nym przez czło­wie­ka. Kwa­li­fi­ka­cja sys­te­mów AI jako sys­te­mów AI wy­so­kie­go ry­zy­ka nie po­win­na jed­nak roz­cią­gać się na sys­te­my AI prze­zna­czo­ne do czy­sto po­moc­ni­czych czyn­no­ści ad­mi­ni­stra­cyj­nych, które nie mają wpły­wu na fak­tycz­ne spra­wo­wa­nie wy­mia­ru spra­wie­dli­wo­ści w po­szcze­gól­nych przy­pad­kach, ta­kich jak ano­ni­mi­za­cja lub pseu­do­ni­mi­za­cja orze­czeń są­do­wych, do­ku­men­tów lub da­nych, ko­mu­ni­ka­cja mię­dzy człon­ka­mi per­so­ne­lu, za­da­nia ad­mi­ni­stra­cyj­ne.