Motyw 65

Sys­tem za­rzą­dza­nia ry­zy­kiem po­wi­nien obej­mo­wać cią­gły, ite­ra­cyj­ny pro­ces, który jest pla­no­wa­ny i re­ali­zo­wa­ny przez cały cykl życia sys­te­mu AI wy­so­kie­go ry­zy­ka. Pro­ces ten po­wi­nien mieć na celu iden­ty­fi­ka­cję i ogra­ni­cze­nie istot­ne­go ry­zy­ka, jakie sys­te­my AI stwa­rza­ją dla zdro­wia, bez­pie­czeń­stwa i praw pod­sta­wo­wych. Sys­tem za­rzą­dza­nia ry­zy­kiem po­wi­nien pod­le­gać re­gu­lar­nym prze­glą­dom i ak­tu­ali­za­cji, aby za­pew­nić jego stałą sku­tecz­ność oraz uza­sad­nie­nie i do­ku­men­ta­cję wszel­kich istot­nych de­cy­zji i dzia­łań pod­ję­tych zgod­nie z ni­niej­szym roz­po­rzą­dze­niem. Pro­ces ten po­wi­nien za­pew­niać, aby do­staw­ca iden­ty­fi­ko­wał ry­zy­ko lub nie­po­żą­da­ny wpływ oraz wdra­żał środ­ki ogra­ni­cza­ją­ce znane i ra­cjo­nal­nie prze­wi­dy­wal­ne ry­zy­ko dla zdro­wia, bez­pie­czeń­stwa i praw pod­sta­wo­wych zwią­za­ne z sys­te­ma­mi AI w świe­tle ich prze­zna­cze­nia i da­ją­ce­go się ra­cjo­nal­nie prze­wi­dzieć nie­wła­ści­we­go wy­ko­rzy­sta­nia, w tym moż­li­we­go ry­zy­ka wy­ni­ka­ją­ce­go z in­te­rak­cji mię­dzy sys­te­mem AI a śro­do­wi­skiem, w któ­rym ten sys­tem dzia­ła. W sys­te­mie za­rzą­dza­nia ry­zy­kiem na­le­ży przy­jąć naj­bar­dziej od­po­wied­nie – w świe­tle ak­tu­al­ne­go stanu wie­dzy tech­nicz­nej w dzie­dzi­nie AI – środ­ki za­rzą­dza­nia ry­zy­kiem. Przy okre­śla­niu naj­bar­dziej od­po­wied­nich środ­ków za­rzą­dza­nia ry­zy­kiem do­staw­ca po­wi­nien udo­ku­men­to­wać i wy­ja­śnić do­ko­na­ne wy­bo­ry oraz, w sto­sow­nych przy­pad­kach, za­an­ga­żo­wać eks­per­tów i ze­wnętrz­ne za­in­te­re­so­wa­ne stro­ny. Iden­ty­fi­ku­jąc da­ją­ce się ra­cjo­nal­nie prze­wi­dzieć nie­wła­ści­we wy­ko­rzy­sta­nie sys­te­mów AI wy­so­kie­go ry­zy­ka, do­staw­ca po­wi­nien uwzględ­nić przy­pad­ki wy­ko­rzy­sta­nia sys­te­mów AI, w od­nie­sie­niu do któ­rych można za­sad­nie ocze­ki­wać, że będą one wy­ni­kać z łatwo prze­wi­dy­wal­ne­go za­cho­wa­nia ludz­kie­go w kon­tek­ście szcze­gól­nych cech i wy­ko­rzy­sta­nia da­ne­go sys­te­mu AI, cho­ciaż ta­kich przy­pad­ków wy­ko­rzy­sta­nia nie prze­wi­dzia­no w prze­zna­cze­niu da­ne­go sys­te­mu ani w jego in­struk­cji ob­słu­gi. Wszel­kie znane lub da­ją­ce się prze­wi­dzieć oko­licz­no­ści zwią­za­ne z wy­ko­rzy­sta­niem sys­te­mu AI wy­so­kie­go ry­zy­ka zgod­nie z jego prze­zna­cze­niem lub w wa­run­kach da­ją­ce­go się ra­cjo­nal­nie prze­wi­dzieć nie­wła­ści­we­go wy­ko­rzy­sta­nia, mo­gą­ce po­wo­do­wać ry­zy­ko dla zdro­wia i bez­pie­czeń­stwa lub praw pod­sta­wo­wych, po­win­ny zo­stać uwzględ­nio­ne w in­struk­cji ob­słu­gi do­star­czo­nej przez do­staw­cę. Ma to na celu za­pew­nie­nie, aby pod­miot sto­su­ją­cy był ich świa­do­my i uwzględ­niał je przy ko­rzy­sta­niu z sys­te­mu AI wy­so­kie­go ry­zy­ka. Okre­śle­nie i wdro­że­nie – na pod­sta­wie ni­niej­sze­go roz­po­rzą­dze­nia – środ­ków ogra­ni­cza­ją­cych ry­zy­ko w od­nie­sie­niu do­da­ją­ce­go się prze­wi­dzieć nie­wła­ści­we­go wy­ko­rzy­sta­nia nie po­win­no wy­ma­gać od do­staw­cy wpro­wa­dze­nia szcze­gól­ne­go do­dat­ko­we­go szko­le­nia, by za­ra­dzić temu da­ją­ce­mu się prze­wi­dzieć nie­wła­ści­we­mu wy­ko­rzy­sta­niu. Za­chę­ca się jed­nak do­staw­ców do roz­wa­że­nia ta­kich do­dat­ko­wych środ­ków szko­le­nio­wych w celu ogra­ni­cze­nia da­ją­ce­go się ra­cjo­nal­nie prze­wi­dzieć nie­wła­ści­we­go wy­ko­rzy­sta­nia, o ile bę­dzie to ko­niecz­ne i sto­sow­ne.