Motyw 72

Aby zająć się kwe­stia­mi zwią­za­ny­mi z efek­tem czar­nej skrzyn­ki i zło­żo­no­ścią nie­któ­rych sys­te­mów AI i pomóc pod­mio­tom sto­su­ją­cym w speł­nia­niu ich obo­wiąz­ków usta­no­wio­nych w ni­niej­szym roz­po­rzą­dze­niu, od sys­te­mów AI wy­so­kie­go ry­zy­ka na­le­ży wy­ma­gać okre­ślo­ne­go stop­nia przej­rzy­sto­ści przed wpro­wa­dze­niem ich do ob­ro­tu lub od­da­niem ich do użyt­ku. Sys­te­my AI wy­so­kie­go ry­zy­ka na­le­ży pro­jek­to­wać w taki spo­sób, aby umoż­li­wić pod­mio­tom sto­su­ją­cym zro­zu­mie­nie funk­cjo­no­wa­nia sys­te­mu AI, ocenę jego funk­cjo­nal­no­ści oraz zro­zu­mie­nie jego moc­nych stron i ogra­ni­czeń. Sys­te­mom AI wy­so­kie­go ry­zy­ka po­win­ny to­wa­rzy­szyć od­po­wied­nie in­for­ma­cje w for­mie in­struk­cji ob­słu­gi. Takie in­for­ma­cje po­win­ny obej­mo­wać cechy, zdol­no­ści i ogra­ni­cze­nia sku­tecz­no­ści dzia­ła­nia sys­te­mu AI. Obej­mo­wa­ły­by one in­for­ma­cje na temat ewen­tu­al­nych zna­nych i da­ją­cych się prze­wi­dzieć oko­licz­no­ści zwią­za­nych z wy­ko­rzy­sta­niem sys­te­mu AI wy­so­kie­go ry­zy­ka, w tym dzia­łań pod­mio­tu sto­su­ją­ce­go, które mogą wpły­wać na za­cho­wa­nie i sku­tecz­ność dzia­ła­nia sys­te­mu, i w któ­rych to oko­licz­no­ściach sys­tem AI może po­wo­do­wać ry­zy­ko dla zdro­wia, bez­pie­czeń­stwa i praw pod­sta­wo­wych; a także in­for­ma­cje na temat zmian, które zo­sta­ły z góry za­pla­no­wa­ne i oce­nio­ne pod kątem zgod­no­ści przez do­staw­cę, oraz na temat od­po­wied­nich środ­ków nad­zo­ru ze stro­ny czło­wie­ka, w tym środ­ków uła­twia­ją­cych pod­mio­tom sto­su­ją­cym AI in­ter­pre­ta­cję wy­ni­ków sys­te­mu AI. Przej­rzy­stość, w tym to­wa­rzy­szą­ce in­struk­cje ob­słu­gi, po­win­ny pomóc pod­mio­tom sto­su­ją­cym w ko­rzy­sta­niu z sys­te­mu i wspie­rać po­dej­mo­wa­nie przez te pod­mio­ty świa­do­mych de­cy­zji. Pod­mio­ty sto­su­ją­ce po­win­ny, mię­dzy in­ny­mi, być le­piej przy­go­to­wa­ne, aby do­ko­nać wła­ści­we­go wy­bo­ru sys­te­mu, z któ­re­go za­mie­rza­ją ko­rzy­stać w świe­tle ma­ją­cych do nich za­sto­so­wa­nie obo­wiąz­ków, mieć wie­dzę na temat za­mie­rzo­nych i wy­klu­czo­nych spo­so­bów wy­ko­rzy­sta­nia oraz pra­wi­dło­wo i od­po­wied­nio ko­rzy­stać z sys­te­mu AI. Aby zwięk­szyć czy­tel­ność i do­stęp­ność in­for­ma­cji za­war­tych w in­struk­cji ob­słu­gi, w sto­sow­nych przy­pad­kach na­le­ży uwzględ­nić kon­kret­ne przy­kła­dy, takie jak przy­kła­dy ogra­ni­czeń czy za­mie­rzo­nych i wy­klu­czo­nych spo­so­bów wy­ko­rzy­sta­nia sys­te­mu AI. Do­staw­cy po­win­ni za­pew­nić, aby wszel­ka do­ku­men­ta­cja, w tym in­struk­cje ob­słu­gi, za­wie­ra­ła istot­ne, wy­czer­pu­ją­ce, do­stęp­ne i zro­zu­mia­łe in­for­ma­cje, z uwzględ­nie­niem po­trzeb do­ce­lo­wych pod­mio­tów sto­su­ją­cych i praw­do­po­dob­nie po­sia­da­nej przez te pod­mio­ty wie­dzy. In­struk­cje ob­słu­gi po­win­ny być udo­stęp­nia­ne w ję­zy­ku łatwo zro­zu­mia­łym dla do­ce­lo­wych pod­mio­tów sto­su­ją­cych, okre­ślo­nym przez za­in­te­re­so­wa­ne pań­stwo człon­kow­skie.