Motyw 96

Aby sku­tecz­nie za­pew­nić ochro­nę praw pod­sta­wo­wych, pod­mio­ty sto­su­ją­ce sys­te­my AI wy­so­kie­go ry­zy­ka bę­dą­ce pod­mio­ta­mi prawa pu­blicz­ne­go lub pod­mio­ta­mi pry­wat­ny­mi świad­czą­cy­mi usłu­gi pu­blicz­ne i pod­mio­ty sto­su­ją­ce nie­któ­re sys­te­my AI wy­so­kie­go ry­zy­ka wy­mie­nio­ne w za­łącz­ni­ku do ni­niej­sze­go roz­po­rzą­dze­nia, tacy jak pod­mio­ty ban­ko­we lub ubez­pie­cze­nio­we, po­win­ni przed wpro­wa­dze­niem tych sys­te­mów do użyt­ku prze­pro­wa­dzić ocenę skut­ków dla praw pod­sta­wo­wych. Usłu­gi o cha­rak­te­rze pu­blicz­nym ważne dla osób fi­zycz­nych mogą być rów­nież świad­czo­ne przez pod­mio­ty pry­wat­ne. Pod­mio­ty pry­wat­ne świad­czą­ce takie usłu­gi pu­blicz­ne dzia­ła­ją w po­wią­za­niu z za­da­nia­mi świad­czo­ny­mi w in­te­re­sie pu­blicz­nym, ta­ki­mi jak edu­ka­cja, opie­ka zdro­wot­na, usłu­gi spo­łecz­ne, miesz­kal­nic­two, spra­wo­wa­nie wy­mia­ru spra­wie­dli­wo­ści. Celem oceny skut­ków dla praw pod­sta­wo­wych jest zi­den­ty­fi­ko­wa­nie przez pod­miot sto­su­ją­cy kon­kret­nych ro­dza­jów ry­zy­ka dla praw osób fi­zycz­nych lub grup osób fi­zycz­nych, na które AI może mieć wpływ, oraz okre­śle­nie środ­ków, które na­le­ży pod­jąć w przy­pad­ku urze­czy­wist­nie­nia się tego ry­zy­ka. Ocena skut­ków po­win­na być prze­pro­wa­dza­na przed wdro­że­niem sys­te­mu AI wy­so­kie­go ry­zy­ka i po­win­na być ak­tu­ali­zo­wa­na, gdy pod­miot sto­su­ją­cy uzna, że któ­ry­kol­wiek z istot­nych czyn­ni­ków uległ zmia­nie. W oce­nie skut­ków na­le­ży okre­ślić od­po­wied­nie pro­ce­sy pod­mio­tu sto­su­ją­ce­go, w któ­rych sys­tem AI wy­so­kie­go ry­zy­ka bę­dzie wy­ko­rzy­sty­wa­ny zgod­nie z jego prze­zna­cze­niem; po­win­na ona przed­sta­wiać in­for­ma­cje o okre­sie, w któ­rym sys­tem ma być wy­ko­rzy­sty­wa­ny, i o czę­sto­tli­wo­ści jego wy­ko­rzy­sta­nia, a także opis kon­kret­nych ka­te­go­rii osób fi­zycz­nych i grup, na które AI może mieć wpływ w tym kon­kret­nym kon­tek­ście wy­ko­rzy­sta­nia. Ocena po­win­na rów­nież obej­mo­wać okre­śle­nie szcze­gól­ne­go ry­zy­ka szko­dy, które może mieć wpływ na prawa pod­sta­wo­we tych osób lub grup. Prze­pro­wa­dza­jąc tę ocenę, pod­miot sto­su­ją­cy po­wi­nien uwzględ­nić in­for­ma­cje istot­ne dla wła­ści­wej oceny skut­ków, w tym mię­dzy in­ny­mi in­for­ma­cje po­da­ne przez do­staw­cę sys­te­mu AI wy­so­kie­go ry­zy­ka w in­struk­cji ob­słu­gi. W świe­tle zi­den­ty­fi­ko­wa­ne­go ry­zy­ka pod­mio­ty sto­su­ją­ce po­win­ny okre­ślić środ­ki, które na­le­ży pod­jąć w przy­pad­ku urze­czy­wist­nie­nia się tego ry­zy­ka, w tym na przy­kład roz­wią­za­nia do­ty­czą­ce za­rzą­dza­nia w tym kon­kret­nym kon­tek­ście wy­ko­rzy­sta­nia, np. do­ty­czą­ce nad­zo­ru ze stro­ny czło­wie­ka zgod­nie z in­struk­cją ob­słu­gi lub pro­ce­du­ry roz­pa­try­wa­nia skarg i do­cho­dze­nia rosz­czeń, po­nie­waż mogą one ode­grać za­sad­ni­czą rolę w ogra­ni­cza­niu ry­zy­ka dla praw pod­sta­wo­wych w kon­kret­nych przy­pad­kach wy­ko­rzy­sta­nia. Po prze­pro­wa­dze­niu tej oceny skut­ków pod­miot sto­su­ją­cy po­wi­nien po­wia­do­mić od­po­wied­ni organ nad­zo­ru rynku. W sto­sow­nych przy­pad­kach w celu ze­bra­nia od­po­wied­nich in­for­ma­cji nie­zbęd­nych do prze­pro­wa­dze­nia oceny skut­ków pod­mio­ty sto­su­ją­ce sys­tem AI wy­so­kie­go ry­zy­ka, w szcze­gól­no­ści gdy sys­te­my AI są wy­ko­rzy­sty­wa­ne w sek­to­rze pu­blicz­nym, mogą an­ga­żo­wać od­po­wied­nie za­in­te­re­so­wa­ne stro­ny, w tym przed­sta­wi­cie­li grup osób, na które sys­tem AI może mieć wpływ, nie­za­leż­nych eks­per­tów i or­ga­ni­za­cje spo­łe­czeń­stwa oby­wa­tel­skie­go w prze­pro­wa­dza­nie ta­kich ocen skut­ków i opra­co­wy­wa­nie środ­ków, które na­le­ży wpro­wa­dzić w przy­pad­ku urze­czy­wist­nie­nia się ry­zy­ka. Eu­ro­pej­ski Urząd ds. Sztucz­nej In­te­li­gen­cji (zwany dalej „Urzę­dem ds. AI”) po­wi­nien opra­co­wać wzór kwe­stio­na­riu­sza, by uła­twić za­pew­nie­nie zgod­no­ści przez pod­mio­ty sto­su­ją­ce i zmniej­szyć ob­cią­że­nia ad­mi­ni­stra­cyj­ne dla tych pod­mio­tów.