Motyw 53

Ważne jest rów­nież wy­ja­śnie­nie, że mogą ist­nieć szcze­gól­ne przy­pad­ki, w któ­rych sys­te­my AI od­no­szą­ce się do z góry okre­ślo­nych ob­sza­rów wska­za­nych w ni­niej­szym roz­po­rzą­dze­niu nie pro­wa­dzą do zna­czą­ce­go ry­zy­ka szko­dy dla in­te­re­sów praw­nych chro­nio­nych w tych ob­sza­rach, po­nie­waż nie mają istot­ne­go wpły­wu na pro­ces de­cy­zyj­ny lub nie szko­dzą tym in­te­re­som w istot­ny spo­sób. Do celów ni­niej­sze­go roz­po­rzą­dze­nia sys­tem AI, który nie ma istot­ne­go wpły­wu na wynik pro­ce­su de­cy­zyj­ne­go, na­le­ży ro­zu­mieć jako sys­tem AI, który nie ma wpły­wu na isto­tę, a tym samym na wynik pro­ce­su de­cy­zyj­ne­go, za­rów­no prze­pro­wa­dza­ne­go przez czło­wie­ka, jak i w spo­sób zauto­ma­ty­zo­wa­ny. Sys­tem AI, który nie ma istot­ne­go wpły­wu na wynik pro­ce­su de­cy­zyj­ne­go, może obej­mo­wać sy­tu­acje, w któ­rych speł­nio­ny jest co naj­mniej jeden z po­niż­szych wa­run­ków. Pierw­szym takim wa­run­kiem po­win­no być to, aby sys­tem AI miał na celu wy­ko­ny­wa­nie wąsko okre­ślo­nych zadań pro­ce­du­ral­nych – jak np. sys­tem AI, który prze­kształ­ca nie­ustruk­tu­ry­zo­wa­ne dane w dane ustruk­tu­ry­zo­wa­ne, sys­tem AI ka­te­go­ry­zu­ją­cy przy­cho­dzą­ce do­ku­men­ty lub sys­tem AI wy­ko­rzy­sty­wa­ny do wy­kry­wa­nia du­pli­ka­tów w dużej licz­bie za­sto­so­wań. Za­da­nia te mają tak wąski i ogra­ni­czo­ny cha­rak­ter, że stwa­rza­ją je­dy­nie ogra­ni­czo­ne ry­zy­ko, które nie wzra­sta w wy­ni­ku wy­ko­rzy­sta­nia sys­te­mu AI w kon­tek­ście wy­mie­nio­nym w wy­ka­zie przy­pad­ków wy­ko­rzy­sta­nia wy­so­kie­go ry­zy­ka za­miesz­czo­nym w za­łącz­ni­ku do ni­niej­sze­go roz­po­rzą­dze­nia. Dru­gim wa­run­kiem po­win­no być to, aby za­da­nie wy­ko­ny­wa­ne przez sys­tem AI miało na celu po­pra­wę wy­ni­ków już za­koń­czo­ne­go dzia­ła­nia prze­pro­wa­dzo­ne­go przez czło­wie­ka, które może być istot­ne w kon­tek­ście celów przy­pad­ków wy­ko­rzy­sta­nia wy­so­kie­go ry­zy­ka, wy­mie­nio­nych w za­łącz­ni­ku do ni­niej­sze­go roz­po­rzą­dze­nia. Bio­rąc pod uwagę te cechy, sys­tem AI uzu­peł­nia je­dy­nie dzia­ła­nie czło­wie­ka, co w kon­se­kwen­cji wiąże się z niż­szym ry­zy­kiem. Wa­ru­nek ten miał­by za­sto­so­wa­nie na przy­kład do sys­te­mów AI, które mają na celu ję­zy­ko­wą ko­rek­tę przy­go­to­wa­nych wcze­śniej do­ku­men­tów, na przy­kład by wpro­wa­dzić pro­fe­sjo­nal­ny ton, styl aka­de­mic­ki lub by do­sto­so­wać tekst do okre­ślo­ne­go prze­ka­zu marki. Trze­cim wa­run­kiem po­win­no być to, aby sys­tem AI miał na celu wy­kry­wa­nie wzor­ców po­dej­mo­wa­nia de­cy­zji lub od­stępstw od wzor­ców pod­ję­tych uprzed­nio de­cy­zji. W tym przy­pad­ku ry­zy­ko by­ło­by mniej­sze, po­nie­waż sys­tem AI wy­ko­rzy­stu­je się po prze­pro­wa­dze­niu oceny przez czło­wie­ka i nie służy on temu, by ją za­stą­pić lub na nią wpły­nąć bez prze­pro­wa­dze­nia wła­ści­wej we­ry­fi­ka­cji przez czło­wie­ka. Takie sys­te­my AI obej­mu­ją na przy­kład te, które – uwzględ­nia­jąc okre­ślo­ny wzo­rzec oce­nia­nia sto­so­wa­ny przez na­uczy­cie­la – mogą być wy­ko­rzy­sty­wa­ne ex post, by spraw­dzić, czy na­uczy­ciel nie od­szedł od sto­so­wa­ne­go wzor­ca, i w ten spo­sób wska­zać po­ten­cjal­ne nie­spój­no­ści lub nie­pra­wi­dło­wo­ści. Czwar­tym wa­run­kiem po­win­no być to, by sys­tem AI był prze­zna­czo­ny je­dy­nie do wy­ko­ny­wa­nia zadań przy­go­to­waw­czych w kon­tek­ście oceny istot­nej z punk­tu wi­dze­nia sys­te­mów AI wy­mie­nio­nych w za­łącz­ni­ku do ni­niej­sze­go roz­po­rzą­dze­nia, co spra­wi, że pod­czas ma­ją­cej na­stą­pić oceny praw­do­po­do­bień­stwo stwier­dze­nia ry­zy­ka w kon­tek­ście wy­ni­ków sys­te­mu bę­dzie bar­dzo ni­skie. Mowa tu mię­dzy in­ny­mi o in­te­li­gent­nych roz­wią­za­niach w za­kre­sie za­rzą­dza­nia pli­ka­mi, które obej­mu­ją różne funk­cje, takie jak in­dek­so­wa­nie, prze­szu­ki­wa­nie, prze­twa­rza­nie tek­stów i mowy lub łą­cze­nie da­nych z in­ny­mi źró­dła­mi da­nych, lub o sys­te­mach AI wy­ko­rzy­sty­wa­nych do tłu­ma­cze­nia do­ku­men­tów wstęp­nych. W każ­dym przy­pad­ku sys­te­my AI wy­ko­rzy­sty­wa­ne w przy­pad­kach wy­ko­rzy­sta­nia wy­so­kie­go ry­zy­ka, wy­mie­nio­nych w za­łącz­ni­ku do ni­niej­sze­go roz­po­rzą­dze­nia, na­le­ży uznać za stwa­rza­ją­ce zna­czą­ce ry­zy­ko szko­dy dla zdro­wia, bez­pie­czeń­stwa lub praw pod­sta­wo­wych, je­że­li dany sys­tem AI wiąże się z pro­fi­lo­wa­niem w ro­zu­mie­niu art. 4 pkt 4 roz­po­rzą­dze­nia (UE) 2016/679 lub art. 3 pkt 4 dy­rek­ty­wy (UE) 2016/680 lub art. 3 pkt 5 roz­po­rzą­dze­nia (UE) 2018/1725. Aby za­pew­nić iden­ty­fi­ko­wal­ność i przej­rzy­stość, do­staw­ca, który na pod­sta­wie wa­run­ków, o któ­rych mowa po­wy­żej, uważa, że sys­tem AI nie jest sys­te­mem wy­so­kie­go ry­zy­ka, po­wi­nien spo­rzą­dzić do­ku­men­ta­cję oceny przed wpro­wa­dze­niem tego sys­te­mu do ob­ro­tu lub od­da­niem go do użyt­ku i prze­ka­zać tę do­ku­men­ta­cję na wnio­sek wła­ści­wym or­ga­nom kra­jo­wym. Taki do­staw­ca po­wi­nien być zo­bo­wią­za­ny do za­re­je­stro­wa­nia sys­te­mu AI w bazie da­nych UE usta­no­wio­nej na mocy ni­niej­sze­go roz­po­rzą­dze­nia. By za­pew­nić dal­sze wska­zów­ki do­ty­czą­ce prak­tycz­ne­go wdra­ża­nia wa­run­ków, na ja­kich sys­te­my AI wy­mie­nio­ne w za­łącz­ni­ku do ni­niej­sze­go roz­po­rzą­dze­nia są, w dro­dze wy­jąt­ku, uzna­wa­ne za nie­bę­dą­ce sys­te­ma­mi wy­so­kie­go ry­zy­ka, Ko­mi­sja po­win­na, po kon­sul­ta­cji z Radą ds. AI, przed­sta­wić wy­tycz­ne w spra­wie tego prak­tycz­ne­go wdra­ża­nia, uzu­peł­nio­ne wy­czer­pu­ją­cym wy­ka­zem prak­tycz­nych przy­pad­ków wy­ko­rzy­sta­nia sys­te­mów AI, które sta­no­wią przy­pad­ki wy­ko­rzy­sta­nia wy­so­kie­go ry­zy­ka oraz które nie sta­no­wią przy­pad­ków ta­kie­go wy­ko­rzy­sta­nia.