Con­si­de­ren­tul 96

Pen­tru a se asi­gu­ra în mod efi­cient că drep­tu­ri­le fun­damen­ta­le sunt pro­te­ja­te, im­ple­men­ta­to­rii de sis­te­me de IA cu grad ri­di­cat de risc care sunt or­ga­nis­me de drept pu­blic sau en­ti­tă­ți­le pri­va­te care fur­ni­zea­ză ser­vi­cii pu­bli­ce și im­ple­men­ta­to­rii care im­ple­men­tea­ză anu­mi­te sis­te­me de IA cu grad ri­di­cat de risc enu­me­ra­te într-​o anexă la pre­zen­tul re­gu­la­ment, cum ar fi en­ti­tă­ți­le ban­ca­re sau de asi­gu­rări, ar tre­bui să efec­tu­e­ze o eva­lu­a­re a im­pac­tu­lui asu­pra drep­tu­ri­lor fun­damen­ta­le îna­in­te de a pune aces­te sis­te­me în func­țiu­ne. Ser­vi­ci­i­le im­por­tan­te pen­tru per­soa­ne­le fi­zi­ce care sunt de na­tu­ră pu­bli­că pot fi fur­ni­za­te și de en­ti­tăți pri­va­te. En­ti­tă­ți­le pri­va­te care fur­ni­zea­ză ast­fel de ser­vi­cii pu­bli­ce sunt le­gați de sar­cini de in­te­res pu­blic, cum ar fi în do­me­ni­ul edu­ca­ți­ei, al în­gri­ji­ri­lor de să­nă­ta­te, al ser­vi­ci­i­lor so­ci­a­le, al lo­cu­in­țe­lor, al ad­mi­nis­tră­rii jus­ti­ți­ei. Sco­pul eva­luă­rii im­pac­tu­lui asu­pra drep­tu­ri­lor fun­damen­ta­le este ca im­ple­men­ta­to­rul să iden­ti­fi­ce ris­cu­ri­le spe­ci­fi­ce pen­tru drep­tu­ri­le per­soa­ne­lor sau ale gru­pu­ri­lor de per­soa­ne care ar putea fi afec­ta­te și să iden­ti­fi­ce mă­su­ri­le care tre­bu­ie luate în cazul ma­te­ria­li­ză­rii ris­cu­ri­lor res­pec­ti­ve. Eva­lu­a­rea im­pac­tu­lui ar tre­bui să fie efec­tu­a­tă îna­in­te de im­ple­men­ta­rea sis­te­mu­lui de IA cu grad ri­di­cat de risc și ar tre­bui să fie ac­tu­a­li­za­tă atunci când im­ple­men­ta­to­rul con­si­de­ră că ori­ca­re din­tre fac­to­rii re­le­vanți s-au schim­bat. Eva­lu­a­rea im­pac­tu­lui ar tre­bui să iden­ti­fi­ce pro­ce­se­le re­le­van­te ale im­ple­men­ta­to­ru­lui în care sis­te­mul de IA cu grad ri­di­cat de risc va fi uti­li­zat în con­for­mi­ta­te cu sco­pul său pre­co­ni­zat și ar tre­bui să in­clu­dă o des­cri­e­re a pe­ri­oa­dei de timp și a frec­ven­ței în care se in­ten­țio­nea­ză uti­li­za­rea sis­te­mu­lui, pre­cum și a ca­te­go­ri­i­lor spe­ci­fi­ce de per­soa­ne fi­zi­ce și gru­puri care sunt sus­cep­ti­bi­le de a fi afec­ta­te în con­tex­tul spe­ci­fic de uti­li­za­re. Eva­lu­a­rea ar tre­bui să in­clu­dă, de ase­me­nea, iden­ti­fi­ca­rea ris­cu­ri­lor spe­ci­fi­ce de pre­ju­di­ciu care ar putea avea un im­pact asu­pra drep­tu­ri­lor fun­damen­ta­le ale per­soa­ne­lor sau gru­pu­ri­lor res­pec­ti­ve. Atunci când efec­tu­ea­ză aceas­tă eva­lu­a­re, im­ple­men­ta­to­rul ar tre­bui să țină seama de in­for­ma­ți­i­le re­le­van­te pen­tru o eva­lu­a­re adec­va­tă a im­pac­tu­lui, in­clu­siv de in­for­ma­ți­i­le fur­ni­za­te de fur­ni­zo­rul sis­te­mu­lui de IA cu grad ri­di­cat de risc în in­struc­țiu­ni­le de uti­li­za­re, dar fără a se li­mi­ta la aces­te in­for­ma­ții. Având în ve­de­re ris­cu­ri­le iden­ti­fi­ca­te, im­ple­men­ta­to­rii ar tre­bui să sta­bi­leas­că mă­su­ri­le care tre­bu­ie luate în cazul ma­te­ria­li­ză­rii aces­tor ris­curi, in­clu­siv, de exem­plu, me­ca­nis­me de gu­ver­nan­ță în acest con­text spe­ci­fic de uti­li­za­re, cum ar fi me­ca­nis­me de su­pra­ve­ghe­re umană în con­for­mi­ta­te cu in­struc­țiu­ni­le de uti­li­za­re sau pro­ce­duri de tra­ta­re a plângerilor și pro­ce­duri afe­ren­te mă­su­ri­lor re­pa­ra­to­rii, de­o­a­re­ce aces­tea ar putea fi esen­ți­a­le pen­tru ate­nu­a­rea ris­cu­ri­lor la adre­sa drep­tu­ri­lor fun­damen­ta­le în ca­zuri con­cre­te de uti­li­za­re. După efec­tu­a­rea res­pec­ti­vei eva­luări a im­pac­tu­lui, im­ple­men­ta­to­rul ar tre­bui să îi no­ti­fi­ce acest lucru au­to­ri­tă­ții re­le­van­te de su­pra­ve­ghe­re a pie­ței. După caz, pen­tru a co­lec­ta in­for­ma­ți­i­le re­le­van­te ne­ce­sa­re pen­tru efec­tu­a­rea eva­luă­rii im­pac­tu­lui, im­ple­men­ta­to­rii de sis­te­me de IA cu grad ri­di­cat de risc, în spe­cial atunci când sis­te­me­le de IA sunt uti­li­za­te în sec­to­rul pu­blic, ar putea im­pli­ca păr­ți­le in­te­re­sa­te re­le­van­te, in­clu­siv re­pre­zen­tan­ții gru­pu­ri­lor de per­soa­ne sus­cep­ti­bi­le de a fi afec­ta­te de sis­te­mul de IA, ex­per­ții in­de­pen­denți și or­ga­ni­za­ți­i­le so­ci­e­tă­ții ci­vi­le în efec­tu­a­rea unor ast­fel de eva­luări ale im­pac­tu­lui și în con­ce­pe­rea mă­su­ri­lor care tre­bu­ie luate în cazul ma­te­ria­li­ză­rii ris­cu­ri­lor. Ofi­ci­ul eu­ro­pean pen­tru in­te­li­gen­ța ar­ti­fi­ci­a­lă (Ofi­ci­ul pen­tru IA) ar tre­bui să ela­bo­re­ze un model de ches­tio­nar pen­tru a fa­ci­li­ta con­for­mi­ta­tea și a re­du­ce sar­ci­na ad­mi­nis­tra­ti­vă pen­tru im­ple­men­ta­tori.