Motyw 73

Sys­te­my AI wy­so­kie­go ry­zy­ka na­le­ży pro­jek­to­wać i roz­wi­jać w taki spo­sób, aby osoby fi­zycz­ne mogły nad­zo­ro­wać ich funk­cjo­no­wa­nie, za­pew­niać, by ich wy­ko­rzy­sta­nie było zgod­ne z prze­zna­cze­niem oraz za­pew­niać, aby skut­ki ich wy­ko­rzy­sta­nia były uwzględ­nia­ne w całym cyklu życia sys­te­mu. W tym celu przed wpro­wa­dze­niem sys­te­mu do ob­ro­tu lub od­da­niem go do użyt­ku do­staw­ca sys­te­mu po­wi­nien okre­ślić od­po­wied­nie środ­ki zwią­za­ne z nad­zo­rem ze stro­ny czło­wie­ka. W szcze­gól­no­ści, w sto­sow­nych przy­pad­kach, takie środ­ki po­win­ny gwa­ran­to­wać, że sys­tem pod­le­ga wbu­do­wa­nym ogra­ni­cze­niom ope­ra­cyj­nym, któ­rych sam nie jest w sta­nie obejść, i re­agu­je na dzia­ła­nia czło­wie­ka – ope­ra­to­ra sys­te­mu, oraz że osoby fi­zycz­ne, któ­rym po­wie­rzo­no spra­wo­wa­nie nad­zo­ru ze stro­ny czło­wie­ka, po­sia­da­ją nie­zbęd­ne kom­pe­ten­cje, prze­szko­le­nie i upraw­nie­nia do peł­nie­nia tej funk­cji. W sto­sow­nych przy­pad­kach istot­ne jest także za­pew­nie­nie, aby sys­te­my AI wy­so­kie­go ry­zy­ka obej­mo­wa­ły me­cha­ni­zmy udzie­la­nia wska­zó­wek i in­for­ma­cji oso­bom fi­zycz­nym, któ­rym po­wie­rzo­no nad­zór ze stro­ny czło­wie­ka, aby mogły one po­dej­mo­wać świa­do­me de­cy­zje, czy, kiedy i w jaki spo­sób na­le­ży in­ter­we­nio­wać w celu unik­nię­cia ne­ga­tyw­nych kon­se­kwen­cji lub ry­zy­ka lub za­trzy­mać sys­tem, je­że­li nie dzia­ła on zgod­nie z prze­zna­cze­niem. Zwa­żyw­szy na istot­ne kon­se­kwen­cje dla osób w przy­pad­ku nie­pra­wi­dło­we­go do­pa­so­wa­nia przez nie­któ­re sys­te­my iden­ty­fi­ka­cji bio­me­trycz­nej, na­le­ży wpro­wa­dzić wymóg spra­wo­wa­nia w od­nie­sie­niu do tych sys­te­mów wzmoc­nio­ne­go nad­zo­ru ze stro­ny czło­wie­ka, tak aby pod­miot sto­su­ją­cy nie mógł po­dej­mo­wać żad­nych dzia­łań ani de­cy­zji na pod­sta­wie iden­ty­fi­ka­cji wy­ni­ka­ją­cej z sys­te­mu, do­pó­ki nie zo­sta­ła ona od­ręb­nie zwe­ry­fi­ko­wa­na i po­twier­dzo­na przez co naj­mniej dwie osoby fi­zycz­ne. Osoby te mogą po­cho­dzić z róż­nych pod­mio­tów i mogą to być osoby ob­słu­gu­ją­ce sys­tem lub z niego ko­rzy­sta­ją­ce. Wymóg ten nie po­wi­nien po­wo­do­wać nie­po­trzeb­nych ob­cią­żeń ani opóź­nień i po­win­no wy­star­czyć, że od­ręb­ne we­ry­fi­ka­cje do­ko­ny­wa­ne przez różne osoby będą au­to­ma­tycz­nie re­je­stro­wa­ne w wy­ge­ne­ro­wa­nych przez sys­tem re­je­strach zda­rzeń. Bio­rąc pod uwagę spe­cy­fi­kę ob­sza­rów ści­ga­nia prze­stępstw, mi­gra­cji, kon­tro­li gra­nicz­nej i azylu, wymóg ten nie po­wi­nien mieć za­sto­so­wa­nia, je­że­li na mocy prawa Unii lub prawa kra­jo­we­go sto­so­wa­nie tego wy­mo­gu uzna­je się za nie­pro­por­cjo­nal­ne.