Con­si­de­ren­tul 73

Sis­te­me­le de IA cu grad ri­di­cat de risc ar tre­bui să fie con­ce­pu­te și dezvol­ta­te ast­fel încât per­soa­ne­le fi­zi­ce să poată su­pra­ve­ghea func­țio­na­rea lor și să se poată asi­gu­ra că ele sunt uti­li­za­te con­form des­ti­na­ți­ei lor și că im­pac­tul lor este abor­dat pe par­cur­sul în­tre­gu­lui ciclu de viață al sis­te­mu­lui. În acest scop, fur­ni­zo­rul sis­te­mu­lui ar tre­bui să iden­ti­fi­ce mă­suri adec­va­te de su­pra­ve­ghe­re umană îna­in­te de in­tro­du­ce­rea sa pe piață sau de pu­ne­rea sa în func­țiu­ne. În spe­cial, după caz, ast­fel de mă­suri ar tre­bui să ga­ran­te­ze că sis­te­mul este supus unor constrângeri ope­ra­țio­na­le in­te­gra­te care nu pot fi dez­ac­ti­va­te de sis­tem și care sunt re­cep­ti­ve la ope­ra­to­rul uman și că per­soa­ne­le fi­zi­ce că­ro­ra le-a fost în­cre­din­ța­tă su­pra­ve­ghe­rea umană au com­pe­ten­ța, pre­gă­ti­rea și au­to­ri­ta­tea ne­ce­sa­re pen­tru în­de­pli­ni­rea aces­tui rol. De ase­me­nea, este esen­ți­al, după caz, să se asi­gu­re fap­tul că sis­te­me­le de IA cu grad ri­di­cat de risc in­clud me­ca­nis­me de ghi­da­re și in­for­ma­re a unei per­soa­ne fi­zi­ce că­re­ia i-a fost în­cre­din­ța­tă su­pra­ve­ghe­rea umană pen­tru a lua de­ci­zii în cu­noș­tin­ță de cauză pen­tru a sta­bili dacă, când și cum să in­ter­vi­nă pen­tru a evita con­se­cin­țe­le ne­ga­ti­ve sau ris­cu­ri­le sau pen­tru a opri sis­te­mul dacă nu func­țio­nea­ză ast­fel cum s-a pre­vă­zut. Având în ve­de­re con­se­cin­țe­le sem­ni­fi­ca­ti­ve pen­tru per­soa­ne în cazul unei con­cor­dan­țe in­co­rec­te ge­ne­ra­te de anu­mi­te sis­te­me de iden­ti­fi­ca­re bi­o­me­tri­că, este oport­un să se pre­va­dă o ce­rin­ță de su­pra­ve­ghe­re umană mai stric­tă pen­tru sis­te­me­le res­pec­ti­ve, ast­fel încât im­ple­men­ta­to­rul să nu poată lua nicio mă­su­ră sau de­ci­zie pe baza iden­ti­fi­că­rii re­zul­ta­te din sis­tem, decât dacă acest lucru a fost ve­ri­fi­cat și con­fir­mat se­pa­rat de cel puțin două per­soa­ne fi­zi­ce. Aces­te per­soa­ne ar putea pro­ve­ni de la una sau mai multe en­ti­tăți și ar putea in­clu­de per­soa­na care ope­rea­ză sau uti­li­zea­ză sis­te­mul. Aceas­tă ce­rin­ță nu ar tre­bui să re­pre­zin­te o po­va­ră inu­ti­lă sau să ge­ne­re­ze întârzieri inu­ti­le și ar putea fi su­fi­cient ca ve­ri­fi­că­ri­le se­pa­ra­te efec­tu­a­te de di­fe­ri­te per­soa­ne să fie în­re­gis­tra­te auto­mat în fiși­e­re­le de jur­na­li­za­re ge­ne­ra­te de sis­tem. Având în ve­de­re par­ti­cu­la­ri­tă­ți­le din do­me­ni­i­le apli­că­rii legii, mi­gra­ți­ei, con­tro­lu­lui la fron­ti­e­re și azi­lu­lui, aceas­tă ce­rin­ță nu ar tre­bui să se apli­ce în cazul în care drep­tul Uniu­nii sau drep­tul in­tern con­si­de­ră că apli­ca­rea ce­rin­ței res­pec­ti­ve este dis­pro­por­țio­na­tă.