Ar­ty­kuł 9: Sys­tem za­rzą­dza­nia ry­zy­kiem

Usta­na­wia się, wdra­ża, do­ku­men­tu­je i ob­słu­gu­je sys­tem za­rzą­dza­nia ry­zy­kiem w od­nie­sie­niu do sys­te­mów AI wy­so­kie­go ry­zy­ka.

Przez sys­tem za­rzą­dza­nia ry­zy­kiem ro­zu­mie się cią­gły, ite­ra­cyj­ny pro­ces, pla­no­wa­ny i re­ali­zo­wa­ny przez cały cykl życia sys­te­mu AI wy­so­kie­go ry­zy­ka, wy­ma­ga­ją­cy re­gu­lar­ne­go sys­te­ma­tycz­ne­go prze­glą­du i ak­tu­ali­za­cji. Obej­mu­je on na­stę­pu­ją­ce etapy:

Ry­zy­ko, o któ­rym mowa w ni­niej­szym ar­ty­ku­le, ozna­cza tylko takie ro­dza­je ry­zy­ka, które można sto­sow­nie ogra­ni­czyć lub wy­eli­mi­no­wać po­przez roz­wój lub za­pro­jek­to­wa­nie sys­te­mu AI wy­so­kie­go ry­zy­ka lub po­przez za­pew­nie­nie od­po­wied­nich in­for­ma­cji tech­nicz­nych.

W ra­mach środ­ków za­rzą­dza­nia ry­zy­kiem, o któ­rych mowa w ust. 2 lit. d), na­le­ży­cie uwzględ­nia się skut­ki i moż­li­we in­te­rak­cje wy­ni­ka­ją­ce z łącz­ne­go sto­so­wa­nia wy­mo­gów usta­no­wio­nych w ni­niej­szej sek­cji, w celu sku­tecz­niej­sze­go mi­ni­ma­li­zo­wa­nia ry­zy­ka przy jed­no­cze­snym osią­gnię­ciu od­po­wied­niej rów­no­wa­gi we wdra­ża­niu środ­ków słu­żą­cych speł­nie­niu tych wy­mo­gów.

Środ­ki za­rzą­dza­nia ry­zy­kiem, o któ­rych mowa w ust. 2 lit. d), muszą być takie, aby od­po­wied­nie ry­zy­ko szcząt­ko­we zwią­za­ne z każ­dym za­gro­że­niem, jak rów­nież ogól­ne ry­zy­ko szcząt­ko­we sys­te­mów AI wy­so­kie­go ry­zy­ka, oce­nia­no jako do­pusz­czal­ne.

Przy okre­śla­niu naj­od­po­wied­niej­szych środ­ków za­rzą­dza­nia ry­zy­kiem za­pew­nia się, co na­stę­pu­je:

W celu eli­mi­no­wa­nia lub ogra­ni­cza­nia ry­zy­ka zwią­za­ne­go z wy­ko­rzy­sta­niem sys­te­mu AI wy­so­kie­go ry­zy­ka na­le­ży­tą uwagę zwra­ca się na wie­dzę tech­nicz­ną, do­świad­cze­nie, wy­kształ­ce­nie i szko­le­nia, ja­kich ocze­ku­je się od pod­mio­tu sto­su­ją­ce­go, oraz za­kła­da­ny kon­tekst, w któ­rym ma być sto­so­wa­ny sys­tem.

Sys­te­my AI wy­so­kie­go ry­zy­ka te­stu­je się w celu okre­śle­nia naj­od­po­wied­niej­szych i ukie­run­ko­wa­nych środ­ków za­rzą­dza­nia ry­zy­kiem. Testy za­pew­nia­ją, by sys­te­my AI wy­so­kie­go ry­zy­ka dzia­ła­ły zgod­nie z ich prze­zna­cze­niem oraz były zgod­ne z wy­mo­ga­mi usta­no­wio­ny­mi w ni­niej­szej sek­cji.

Pro­ce­du­ry te­sto­we mogą obej­mo­wać testy w wa­run­kach rze­czy­wi­stych zgod­nie z art. 60.

Testy sys­te­mów AI wy­so­kie­go ry­zy­ka prze­pro­wa­dza się, w sto­sow­nych przy­pad­kach, w do­wol­nym mo­men­cie pro­ce­su roz­wo­ju sys­te­mu, a w każ­dym przy­pad­ku przed wpro­wa­dze­niem go do ob­ro­tu lub od­da­niem do użyt­ku. Testy prze­pro­wa­dza się w od­nie­sie­niu do uprzed­nio okre­ślo­nych wskaź­ni­ków i pro­gów pro­ba­bi­li­stycz­nych, sto­sow­nych ze wzglę­du na prze­zna­cze­nie sys­te­mu AI wy­so­kie­go ry­zy­ka.

Przy wdra­ża­niu sys­te­mu za­rzą­dza­nia ry­zy­kiem prze­wi­dzia­ne­go w ust. 1–7 do­staw­cy zwra­ca­ją uwagę na to, czy dany sys­tem AI wy­so­kie­go ry­zy­ka w świe­tle swo­je­go prze­zna­cze­nia może mieć nie­ko­rzyst­ny wpływ na osoby po­ni­żej 18 roku życia oraz, w sto­sow­nych przy­pad­kach, na inne grupy szcze­gól­nie wraż­li­we.

W od­nie­sie­niu do do­staw­ców sys­te­mów AI wy­so­kie­go ry­zy­ka, któ­rzy pod­le­ga­ją wy­mo­gom do­ty­czą­cym we­wnętrz­nych pro­ce­sów za­rzą­dza­nia ry­zy­kiem na pod­sta­wie in­nych od­po­wied­nich prze­pi­sów prawa Unii, aspek­ty prze­wi­dzia­ne w ust. 1–9 mogą być czę­ścią pro­ce­dur za­rzą­dza­nia ry­zy­kiem usta­no­wio­nych zgod­nie z tym pra­wem lub łą­czyć się z tymi pro­ce­du­ra­mi.