Con­si­de­ren­tul 53

De ase­me­nea, este im­por­tant să se cla­ri­fi­ce fap­tul că pot exis­ta ca­zuri spe­ci­fi­ce în care sis­te­me­le de IA men­țio­na­te în do­me­nii pre­de­fi­ni­te spe­ci­fi­ca­te în pre­zen­tul re­gu­la­ment nu con­duc la un risc sem­ni­fi­ca­tiv de a aduce pre­ju­di­cii in­te­re­se­lor ju­ri­di­ce pro­te­ja­te în ca­drul do­me­ni­i­lor res­pec­ti­ve, de­o­a­re­ce nu in­flu­en­țea­ză în mod sem­ni­fi­ca­tiv pro­ce­sul de­ci­zio­nal sau nu aduc pre­ju­di­cii sub­stan­ți­a­le in­te­re­se­lor res­pec­ti­ve. În sen­sul pre­zen­tu­lui re­gu­la­ment, un sis­tem de IA care nu in­flu­en­țea­ză în mod sem­ni­fi­ca­tiv re­zul­ta­tul pro­ce­su­lui de­ci­zio­nal ar tre­bui să fie în­țe­les ca fiind un sis­tem de IA care nu are un im­pact asu­pra sub­stan­ței și, prin ur­ma­re, nici asu­pra re­zul­ta­tu­lui pro­ce­su­lui de­ci­zio­nal, in­di­fe­rent dacă este uman sau auto­ma­ti­zat. Un sis­tem de IA care nu in­flu­en­țea­ză în mod sem­ni­fi­ca­tiv re­zul­ta­tul pro­ce­su­lui de­ci­zio­nal ar putea in­clu­de si­tu­a­ții în care sunt în­de­pli­ni­te una sau mai multe din­tre con­di­ți­i­le pre­zen­ta­te în con­ti­nu­a­re. Prima con­di­ție ar tre­bui să fie aceea ca sis­te­mul de IA să fie des­ti­nat să în­de­pli­neas­că o sar­ci­nă pro­ce­du­ra­lă restrânsă, de exem­plu un sis­tem de IA care trans­for­mă date ne­struc­tu­ra­te în date struc­tu­ra­te, un sis­tem de IA care cla­si­fi­că pe ca­te­go­rii do­cu­men­te­le pri­mi­te sau un sis­tem de IA care este uti­li­zat pen­tru a de­tec­ta du­pli­ca­te­le dintr-​un număr mare de can­di­da­turi. Aces­te sar­cini au un ca­rac­ter atât de restrâns și de li­mi­tat încât pre­zin­tă doar ris­curi re­du­se, ris­curi care nu cresc prin uti­li­za­rea unui sis­tem de IA într-​un con­text enu­me­rat ca uti­li­za­re cu grad ri­di­cat de risc într-​o anexă la pre­zen­tul re­gu­la­ment. A doua con­di­ție ar tre­bui să fie ca sar­ci­na în­de­pli­ni­tă de sis­te­mul de IA să fie me­ni­tă să îm­bu­nă­tă­țeas­că re­zul­ta­tul unei ac­ti­vi­tăți umane fi­na­li­za­te an­te­ri­or care poate fi re­le­van­tă în sen­sul uti­li­ză­ri­lor cu grad ri­di­cat de risc enu­me­ra­te într-​o anexă la pre­zen­tul re­gu­la­ment. Având în ve­de­re aces­te ca­rac­te­ris­tici, sis­te­mul de IA ada­u­gă doar un nivel su­pli­men­tar unei ac­ti­vi­tăți umane, prezentând în con­se­cin­ță un risc redus. Aceas­tă con­di­ție s-ar apli­ca, de exem­plu, sis­te­me­lor de IA care sunt me­ni­te să îm­bu­nă­tă­țeas­că lim­ba­jul uti­li­zat în do­cu­men­te re­dac­ta­te an­te­ri­or, de exem­plu în ceea ce pri­veș­te tonul pro­fe­sio­nal, sti­lul aca­de­mic de lim­baj sau ali­ni­e­rea tex­tu­lui la me­sa­je­le spe­ci­fi­ce unei anu­mi­te mărci. A treia con­di­ție ar tre­bui să fie aceea ca sis­te­mul de IA să fie des­ti­nat să de­tec­te­ze mo­de­le­le de­ci­zio­na­le sau de­vi­e­ri­le de la mo­de­le de­ci­zio­na­le an­te­ri­oa­re. Ris­cul ar fi redus de­o­a­re­ce uti­li­za­rea sis­te­mu­lui de IA este ul­te­ri­oa­ră unei eva­luări fi­na­li­za­te an­te­ri­or de către un om, pe care nu este des­ti­na­tă să o în­lo­cu­ias­că sau să o in­flu­en­țe­ze fără o re­vi­zu­i­re adec­va­tă de către un om. Prin­tre aces­te sis­te­me de IA se nu­mă­ră, de exem­plu, cele care, având în ve­de­re un anu­mit model de no­ta­re fo­lo­sit de un cadru di­dac­tic, pot fi uti­li­za­te pen­tru a ve­ri­fi­ca ex post dacă res­pec­ti­vul cadru di­dac­tic s-a abă­tut de la mo­de­lul de no­ta­re în cauză și pen­tru a sem­na­la ast­fel even­tu­a­le in­con­sec­ven­țe sau ano­ma­lii. A patra con­di­ție ar tre­bui să fie aceea ca sis­te­mul de IA să fie des­ti­nat să în­de­pli­neas­că o sar­ci­nă care este doar pre­gă­ti­toa­re pen­tru o eva­lu­a­re re­le­van­tă pen­tru sco­pu­ri­le sis­te­me­lor de IA enu­me­ra­te într-​o anexă la pre­zen­tul re­gu­la­ment, făcând ast­fel ca po­si­bi­lul im­pact al re­zul­ta­te­lor sis­te­mu­lui să pre­zin­te un risc foar­te scă­zut pen­tru eva­lu­a­rea ul­te­ri­oa­ră ba­za­tă pe ele. Aceas­tă con­di­ție se re­fe­ră, prin­tre al­te­le, la so­lu­ți­i­le in­te­li­gen­te de ges­tio­na­re a fiși­e­re­lor, care in­clud di­ver­se func­ții, cum ar fi in­de­xa­rea, că­u­ta­rea, pre­lu­cra­rea tex­te­lor și a vor­bi­rii sau co­re­la­rea da­te­lor cu alte surse de date, ori la sis­te­me­le de IA uti­li­za­te pen­tru tra­du­ce­rea do­cu­men­te­lor ini­ția­le. În orice caz, ar tre­bui să se con­si­de­re că sis­te­me­le de IA uti­li­za­te în si­tu­a­ții cu grad ri­di­cat de risc enu­me­ra­te într-​o anexă la pre­zen­tul re­gu­la­ment pre­zin­tă ris­curi sem­ni­fi­ca­ti­ve de pre­ju­di­cii la adre­sa să­nă­tă­ții, si­gu­ran­ței sau drep­tu­ri­lor fun­damen­ta­le dacă im­pli­că cre­a­rea de pro­fi­luri în sen­sul ar­ti­co­lu­lui 4 punc­tul 4 din Re­gu­la­men­tul (UE) 2016/679 sau al ar­ti­co­lu­lui 3 punc­tul 4 din Di­rec­ti­va (UE) 2016/680 sau al ar­ti­co­lu­lui 3 punc­tul 5 din Re­gu­la­men­tul (UE) 2018/1725. Pen­tru a asi­gu­ra tra­sa­bi­li­ta­tea și trans­pa­ren­ța, un fur­ni­zor care con­si­de­ră pe baza con­di­ți­i­lor men­țio­na­te mai sus că un sis­tem de IA nu pre­zin­tă un grad ri­di­cat de risc ar tre­bui să în­toc­meas­că do­cu­men­ta­ția pen­tru eva­lu­a­re îna­in­te ca sis­te­mul res­pec­tiv să fie in­tro­dus pe piață sau pus în func­țiu­ne și ar tre­bui să fur­ni­ze­ze res­pec­ti­va do­cu­men­ta­ție au­to­ri­tă­ți­lor na­țio­na­le com­pe­ten­te, la ce­re­re. Fur­ni­zo­rul ar tre­bui să fie obli­gat să în­re­gis­tre­ze sis­te­mul de IA în baza de date a UE in­sti­tu­i­tă în te­me­iul pre­zen­tu­lui re­gu­la­ment. Pen­tru a oferi în­dru­ma­re su­pli­men­ta­ră în ve­de­rea pu­ne­rii în prac­ti­că a con­di­ți­i­lor în care sis­te­me­le de IA enu­me­ra­te într-​o anexă la pre­zen­tul re­gu­la­ment nu pre­zin­tă, în mod ex­cep­țio­nal, un grad ri­di­cat de risc, Co­mi­sia ar tre­bui, după con­sul­ta­rea Con­si­li­u­lui IA, să fur­ni­ze­ze orien­tări care să de­ta­li­eze res­pec­ti­va pu­ne­re în prac­ti­că, com­ple­ta­te de o listă cu­prin­ză­toa­re de exem­ple prac­ti­ce de ca­zuri de uti­li­za­re a sis­te­me­lor de IA cu grad ri­di­cat de risc și ca­zuri de uti­li­za­re fără grad ri­di­cat de risc.