Ar­ty­kuł 60: Testy sys­te­mów AI wy­so­kie­go ry­zy­ka w wa­run­kach rze­czy­wi­stych poza pia­skow­ni­ca­mi re­gu­la­cyj­ny­mi w za­kre­sie AI

do­staw­ca lub po­ten­cjal­ny do­staw­ca spo­rzą­dził plan te­stów w wa­run­kach rze­czy­wi­stych i przed­ło­żył go or­ga­no­wi nad­zo­ru rynku w pań­stwie człon­kow­skim, w któ­rym mają być prze­pro­wa­dza­ne te testy;

organ nad­zo­ru rynku w pań­stwie człon­kow­skim, w któ­rym mają być prze­pro­wa­dzo­ne testy w wa­run­kach rze­czy­wi­stych, za­twier­dził te testy w wa­run­kach rze­czy­wi­stych i plan te­stów w wa­run­kach rze­czy­wi­stych; w przy­pad­ku gdy organ nad­zo­ru rynku nie udzie­lił od­po­wie­dzi w ter­mi­nie 30 dni, testy w wa­run­kach rze­czy­wi­stych i plan te­stów w wa­run­kach rze­czy­wi­stych uzna­je się za za­twier­dzo­ne; w przy­pad­ku gdy prawo kra­jo­we nie prze­wi­du­je mil­czą­ce­go za­twier­dze­nia, testy w wa­run­kach rze­czy­wi­stych nadal wy­ma­ga­ją uzy­ska­nia ze­zwo­le­nia;

do­staw­ca lub po­ten­cjal­ny do­staw­ca – z wy­jąt­kiem do­staw­ców lub po­ten­cjal­nych do­staw­ców sys­te­mów AI wy­so­kie­go ry­zy­ka, o któ­rych mowa w za­łącz­ni­ku III pkt 1, 6 i 7, w ob­sza­rach ści­ga­nia prze­stępstw, za­rzą­dza­nia mi­gra­cją, azy­lem i kon­tro­lą gra­nicz­ną, oraz sys­te­mów AI wy­so­kie­go ry­zy­ka, o któ­rych mowa w za­łącz­ni­ku III pkt 2 – za­re­je­stro­wał testy w wa­run­kach rze­czy­wi­stych zgod­nie z art. 71 ust. 4 pod ogól­no­unij­nym nie­po­wta­rzal­nym nu­me­rem iden­ty­fi­ka­cyj­nym, po­da­jąc in­for­ma­cje okre­ślo­ne w za­łącz­ni­ku IX; do­staw­ca lub po­ten­cjal­ny do­staw­ca sys­te­mów AI wy­so­kie­go ry­zy­ka, o któ­rych mowa w za­łącz­ni­ku III pkt 1, 6 i 7, w ob­sza­rach ści­ga­nia prze­stępstw, za­rzą­dza­nia mi­gra­cją, azy­lem i kon­tro­lą gra­nicz­ną – za­re­je­stro­wał testy w wa­run­kach rze­czy­wi­stych w nie­pu­blicz­nej czę­ści bazy da­nych UE zgod­nie z art. 49 ust. 4 lit. d), pod ogól­no­unij­nym nie­po­wta­rzal­nym nu­me­rem iden­ty­fi­ka­cyj­nym, po­da­jąc in­for­ma­cje okre­ślo­ne w przy­wo­ła­nym prze­pi­sie; do­staw­ca lub po­ten­cjal­ny do­staw­ca sys­te­mów AI wy­so­kie­go ry­zy­ka, o któ­rych mowa w za­łącz­ni­ku III pkt 2, za­re­je­stro­wał testy w wa­run­kach rze­czy­wi­stych zgod­nie z art. 49 ust. 5;

do­staw­ca lub po­ten­cjal­ny do­staw­ca prze­pro­wa­dza­ją­cy testy w wa­run­kach rze­czy­wi­stych ma sie­dzi­bę w Unii lub usta­no­wił przed­sta­wi­cie­la praw­ne­go, który ma sie­dzi­bę w Unii;

dane ze­bra­ne i prze­twa­rza­ne do celów te­stów w wa­run­kach rze­czy­wi­stych prze­ka­zu­je się do państw trze­cich wy­łącz­nie pod wa­run­kiem wdro­że­nia od­po­wied­nich za­bez­pie­czeń ma­ją­cych za­sto­so­wa­nie na pod­sta­wie prawa Unii;

testy w wa­run­kach rze­czy­wi­stych trwa­ją nie dłu­żej, niż to ko­niecz­ne do osią­gnię­cia ich celów, a w każ­dym razie nie dłu­żej niż sześć mie­się­cy, z moż­li­wo­ścią prze­dłu­że­nia o do­dat­ko­wy okres sze­ściu mie­się­cy, z za­strze­że­niem uprzed­nie­go po­wia­do­mie­nia or­ga­nu nad­zo­ru rynku przez do­staw­cę lub po­ten­cjal­ne­go do­staw­cę, wraz z uza­sad­nie­niem ko­niecz­no­ści ta­kie­go prze­dłu­że­nia;

uczest­ni­cy te­stów w wa­run­kach rze­czy­wi­stych, któ­rzy z uwagi na swój wiek, nie­peł­no­spraw­ność są oso­ba­mi, które na­le­żą do grup szcze­gól­nie wraż­li­wych lub są w od­po­wied­nio chro­nie­ni;

w przy­pad­ku gdy do­staw­ca lub po­ten­cjal­ny do­staw­ca or­ga­ni­zu­je testy w wa­run­kach rze­czy­wi­stych we współ­pra­cy z jed­nym pod­mio­tem sto­su­ją­cym lub po­ten­cjal­nym pod­mio­tem sto­su­ją­cym, pod­miot sto­su­ją­cy lub po­ten­cjal­ny pod­miot sto­su­ją­cy zo­stał po­in­for­mo­wa­ny o wszyst­kich aspek­tach te­stów, które są istot­ne dla jego de­cy­zji o uczest­nic­twie, oraz otrzy­mu­je od­po­wied­nie in­struk­cje ob­słu­gi sys­te­mu AI, o któ­rych mowa w art. 13; do­staw­ca lub po­ten­cjal­ny do­staw­ca oraz pod­miot sto­su­ją­cy lub po­ten­cjal­ny pod­miot sto­su­ją­cy za­wie­ra­ją umowę okre­śla­ją­cą ich role i za­kres od­po­wie­dzial­no­ści w celu za­pew­nie­nia zgod­no­ści z prze­pi­sa­mi do­ty­czą­cy­mi te­stów w wa­run­kach rze­czy­wi­stych na pod­sta­wie ni­niej­sze­go roz­po­rzą­dze­nia oraz na pod­sta­wie in­ne­go ma­ją­ce­go za­sto­so­wa­nie prawa Unii i prawa kra­jo­we­go;

uczest­ni­cy te­stów w wa­run­kach rze­czy­wi­stych wy­ra­zi­li świa­do­mą zgodę zgod­nie z art. 61 lub – w przy­pad­ku ści­ga­nia prze­stępstw – gdy uzy­ska­nie świa­do­mej zgody unie­moż­li­wi­ło­by testy sys­te­mu AI, same testy w wa­run­kach rze­czy­wi­stych oraz ich wynik nie mogą mieć ne­ga­tyw­ne­go wpły­wu na uczest­ni­ków te­stów, a ich dane oso­bo­we musza zo­stać usu­nię­te po prze­pro­wa­dze­niu te­stów;

testy w wa­run­kach rze­czy­wi­stych są sku­tecz­nie nad­zo­ro­wa­ne przez do­staw­cę lub po­ten­cjal­ne­go do­staw­cę i pod­mio­ty sto­su­ją­ce lub po­ten­cjal­ne pod­mio­ty sto­su­ją­ce przy udzia­le osób po­sia­da­ją­cych od­po­wied­nie kwa­li­fi­ka­cje w danej dzie­dzi­nie oraz zdol­no­ści, przy­go­to­wa­nie szko­le­nio­we i upraw­nie­nia nie­zbęd­ne do wy­ko­ny­wa­nia ich zadań;

pre­dyk­cje, za­le­ce­nia lub de­cy­zje sys­te­mu AI można sku­tecz­nie od­wró­cić i zi­gno­ro­wać.