Con­si­de­ren­tul 59

Având în ve­de­re rolul și res­pon­sa­bi­li­ta­tea lor, ac­țiu­ni­le în­tre­prin­se de au­to­ri­tă­ți­le de apli­ca­re a legii care im­pli­că anu­mi­te uti­li­zări ale sis­te­me­lor de IA sunt ca­rac­te­ri­za­te de un grad sem­ni­fi­ca­tiv de deze­chi­li­bru de pu­te­re și pot duce la su­pra­ve­ghe­rea, ares­ta­rea sau pri­va­rea de li­ber­ta­te a unei per­soa­ne fi­zi­ce, pre­cum și la alte efec­te ne­ga­ti­ve asu­pra drep­tu­ri­lor fun­damen­ta­le ga­ran­ta­te în cartă. În spe­cial, în cazul în care nu este ali­men­tat cu date de îna­l­tă ca­li­ta­te, nu în­de­pli­neș­te ce­rin­țe adec­va­te de per­for­man­ță, acu­ra­te­țe sau ro­bus­te­țe sau nu este pro­iec­tat și tes­tat în mod co­res­pun­ză­tor îna­in­te de a fi in­tro­dus pe piață sau pus în func­țiu­ne în alt mod, sis­te­mul de IA poate se­lec­ta per­soa­ne­le într-​un mod dis­cri­mi­na­to­riu sau, la un nivel mai ge­ne­ral, în mod in­co­rect ori in­just. În plus, exer­ci­ta­rea unor drep­turi pro­ce­du­ra­le fun­damen­ta­le im­por­tan­te, cum ar fi drep­tul la o cale de atac efec­ti­vă și la un pro­ces echi­ta­bil, pre­cum și drep­tul la apă­ra­re și pre­zum­ția de ne­vi­no­vă­ție, ar putea fi îm­pie­di­ca­tă, în spe­cial în cazul în care ast­fel de sis­te­me de IA nu sunt su­fi­cient de trans­pa­ren­te, ex­pli­ca­bi­le și do­cu­men­ta­te. Prin ur­ma­re, este oport­un să fie cla­si­fi­ca­te ca prezentând un grad ri­di­cat de risc, în mă­su­ra în care uti­li­za­rea lor este per­mi­să în te­me­iul drep­tu­lui Uniu­nii și al drep­tu­lui in­tern re­le­vant, o serie de sis­te­me de IA des­ti­na­te a fi uti­li­za­te în con­tex­tul apli­că­rii legii, în care acu­ra­te­țea, fi­a­bi­li­ta­tea și trans­pa­ren­ța sunt de­o­se­bit de im­por­tan­te pen­tru a evita efec­te­le ne­ga­ti­ve, pen­tru a păs­tra în­cre­de­rea pu­bli­cu­lui și pen­tru a asi­gu­ra asu­ma­rea răs­pun­de­rii și re­pa­ra­ții efec­ti­ve. Având în ve­de­re na­tu­ra ac­ti­vi­tă­ți­lor și ris­cu­ri­le afe­ren­te, aces­te sis­te­me de IA cu grad ri­di­cat de risc ar tre­bui să in­clu­dă, în spe­cial, sis­te­me­le de IA des­ti­na­te a fi uti­li­za­te de au­to­ri­tă­ți­le de apli­ca­re a legii sau în nu­me­le aces­to­ra sau de in­sti­tu­ți­i­le, or­ga­ne­le, ofi­ci­i­le sau agen­ți­i­le Uniu­nii în spri­ji­nul au­to­ri­tă­ți­lor de apli­ca­re a legii pen­tru a eva­lua ris­cul ca o per­soa­nă fi­zi­că să de­vi­nă vic­ti­mă a in­frac­țiu­ni­lor, ca po­li­gra­fe și in­stru­men­te si­mi­la­re pen­tru eva­lu­a­rea fi­a­bi­li­tă­ții pro­be­lor în cur­sul in­ves­ti­gă­rii sau ur­mă­ri­rii pe­na­le a in­frac­țiu­ni­lor și, în mă­su­ra în care nu se in­ter­zi­ce în te­me­iul pre­zen­tu­lui re­gu­la­ment, pen­tru a eva­lua ris­cul ca o per­soa­nă fi­zi­că să co­mi­tă o in­frac­țiu­ne sau o re­ci­di­vă, nu numai pe baza creă­rii de pro­fi­luri ale per­soa­ne­lor fi­zi­ce, a eva­luă­rii tră­să­tu­ri­lor de per­so­na­li­ta­te și a ca­rac­te­ris­ti­ci­lor lor sau a com­por­ta­men­tu­lui in­frac­țio­nal an­te­ri­or al per­soa­ne­lor fi­zi­ce sau al gru­pu­ri­lor, pre­cum și pen­tru a crea pro­fi­luri în cur­sul de­pis­tă­rii, in­ves­ti­gă­rii sau ur­mă­ri­rii pe­na­le a in­frac­țiu­ni­lor. Sis­te­me­le de IA des­ti­na­te în mod spe­ci­fic uti­li­ză­rii în pro­ce­duri ad­mi­nis­tra­ti­ve de către au­to­ri­tă­ți­le fis­ca­le și va­ma­le, pre­cum și de către uni­tă­ți­le de in­for­ma­ții fi­nan­ci­a­re care efec­tu­ea­ză sar­cini ad­mi­nis­tra­ti­ve prin care ana­li­zea­ză in­for­ma­ții în te­me­iul drep­tu­lui Uniu­nii pri­vind com­ba­te­rea spă­lă­rii ba­ni­lor, nu ar tre­bui să fie cla­si­fi­ca­te ca sis­te­me de IA cu grad ri­di­cat de risc uti­li­za­te de au­to­ri­tă­ți­le de apli­ca­re a legii în sco­pul pre­ve­ni­rii, de­pis­tă­rii, in­ves­ti­gă­rii și ur­mă­ri­rii pe­na­le a in­frac­țiu­ni­lor. Uti­li­za­rea in­stru­men­te­lor de IA de către au­to­ri­tă­ți­le de apli­ca­re a legii și de alte au­to­ri­tăți re­le­van­te nu ar tre­bui să de­vi­nă un fac­tor de in­e­ga­li­ta­te sau de ex­clu­ziu­ne. Im­pac­tul uti­li­ză­rii in­stru­men­te­lor de IA asu­pra drep­tu­ri­lor la apă­ra­re ale sus­pec­ți­lor nu ar tre­bui să fie ig­no­rat, în spe­cial di­fi­cul­ta­tea de a ob­ține in­for­ma­ții sem­ni­fi­ca­ti­ve cu pri­vi­re la func­țio­na­rea aces­tor sis­te­me și, în con­se­cin­ță, di­fi­cul­ta­tea de a con­tes­ta re­zul­ta­te­le aces­to­ra în in­stan­ță, în spe­cial de către per­soa­ne­le fi­zi­ce care fac obiec­tul in­ves­ti­gă­rii.