Ar­ti­co­lul 5: Prac­tici in­ter­zi­se în do­me­ni­ul IA

in­tro­du­ce­rea pe piață, pu­ne­rea în func­țiu­ne sau uti­li­za­rea unui sis­tem de IA care uti­li­zea­ză teh­nici su­bli­mi­na­le ce nu pot fi per­ce­pu­te în mod con­ști­ent de o per­soa­nă sau teh­nici in­ten­țio­nat ma­ni­pu­la­toa­re sau în­șe­lă­toa­re, cu sco­pul sau efec­tul de a de­na­tu­ra în mod sem­ni­fi­ca­tiv com­por­ta­men­tul unei per­soa­ne sau al unui grup de per­soa­ne prin îm­pie­di­ca­rea apre­cia­bi­lă a ca­pa­ci­tă­ții aces­to­ra de a lua o de­ci­zie în cu­noș­tin­ță de cauză, determinându-​le ast­fel să ia o de­ci­zie pe care alt­fel nu ar fi luat-​o, într-​un mod care aduce sau este sus­cep­ti­bil în mod re­zo­na­bil să aducă pre­ju­di­cii sem­ni­fi­ca­ti­ve per­soa­nei res­pec­ti­ve, unei alte per­soa­ne sau unui grup de per­soa­ne;

in­tro­du­ce­rea pe piață, pu­ne­rea în func­țiu­ne sau uti­li­za­rea unui sis­tem de IA care ex­ploa­tea­ză ori­ca­re din­tre vul­ne­ra­bi­li­tă­ți­le unei per­soa­ne fi­zi­ce sau ale unui anu­mit grup de per­soa­ne aso­ci­a­te vârstei, unei di­za­bi­li­tăți sau unei si­tu­a­ții so­ci­a­le sau eco­no­mi­ce spe­ci­fi­ce, cu sco­pul sau efec­tul de a de­na­tu­ra în mod sem­ni­fi­ca­tiv com­por­ta­men­tul per­soa­nei res­pec­ti­ve sau al unei per­soa­ne care apar­ți­ne gru­pu­lui res­pec­tiv într-​un mod care aduce sau este sus­cep­ti­bil în mod re­zo­na­bil să aducă pre­ju­di­cii sem­ni­fi­ca­ti­ve per­soa­nei res­pec­ti­ve sau unei alte per­soa­ne;

in­tro­du­ce­rea pe piață, pu­ne­rea în func­țiu­ne sau uti­li­za­rea unui sis­tem de IA care ge­ne­rea­ză sau ma­ni­pu­lea­ză ima­gini sau ma­te­ri­a­le video sau audio re­a­lis­te sau ma­te­ri­a­le si­mi­la­re cu păr­ți­le in­ti­me ale unei per­soa­ne fi­zi­ce iden­ti­fi­ca­bi­le sau cu o per­soa­nă fi­zi­că iden­ti­fi­ca­bi­lă care prac­ti­că ac­ti­vi­tăți se­xu­a­le ex­pli­ci­te, fără consimțământul ex­pri­mat liber, spe­ci­fic, în cu­noș­tin­ță de cauză, ne­e­chi­voc și ex­pli­cit al per­soa­nei res­pec­ti­ve în le­gă­tu­ră cu ge­ne­ra­rea sau ma­ni­pu­la­rea res­pec­ti­vă de ma­te­ri­a­le;

in­tro­du­ce­rea pe piață, pu­ne­rea în func­țiu­ne sau uti­li­za­rea unui sis­tem de IA care ge­ne­rea­ză sau ma­ni­pu­lea­ză ma­te­ri­a­le sau spec­ta­co­le în în­țe­le­sul ar­ti­co­lu­lui 2 li­te­re­le (c) și (e) din Di­rec­ti­va 2011/93/UE, cu ex­cep­ția ca­zu­lui în care în te­me­iul drep­tu­lui in­tern se apli­că o apă­ra­re „fără drept”;

in­tro­du­ce­rea pe piață, pu­ne­rea în func­țiu­ne sau uti­li­za­rea unor sis­te­me de IA pen­tru eva­lu­a­rea sau cla­si­fi­ca­rea per­soa­ne­lor fi­zi­ce sau a gru­pu­ri­lor de per­soa­ne pe o anu­mi­tă pe­ri­oa­dă de timp, pe baza com­por­ta­men­tu­lui lor so­ci­al sau a ca­rac­te­ris­ti­ci­lor per­so­na­le sau de per­so­na­li­ta­te cu­nos­cu­te, de­du­se sau pre­co­ni­za­te, cu un punc­taj so­ci­al care con­du­ce la una din­tre ur­mă­toa­re­le si­tu­a­ții sau la am­be­le:

tra­ta­men­tul pre­ju­di­ci­a­bil sau ne­fa­vo­ra­bil apli­cat anu­mi­tor per­soa­ne fi­zi­ce sau unor gru­puri de per­soa­ne în con­tex­te so­ci­a­le care nu au le­gă­tu­ră cu con­tex­te­le în care da­te­le au fost ge­ne­ra­te sau co­lec­ta­te ini­țial;

tra­ta­men­tul pre­ju­di­ci­a­bil sau ne­fa­vo­ra­bil apli­cat anu­mi­tor per­soa­ne fi­zi­ce sau unor gru­puri de per­soa­ne, care este ne­jus­ti­fi­cat sau dis­pro­por­țio­nat în ra­port cu com­por­ta­men­tul so­ci­al al aces­to­ra sau cu gra­vi­ta­tea aces­tu­ia;

in­tro­du­ce­rea pe piață, pu­ne­rea în func­țiu­ne în acest scop spe­ci­fic sau uti­li­za­rea unui sis­tem de IA pen­tru efec­tu­a­rea de eva­luări ale ris­cu­ri­lor per­soa­ne­lor fi­zi­ce cu sco­pul de a eva­lua sau de a pre­ve­dea ris­cul ca o per­soa­nă fi­zi­că să co­mi­tă o in­frac­țiu­ne, ex­clu­siv pe baza creă­rii pro­fi­lu­lui unei per­soa­ne fi­zi­ce sau pe baza eva­luă­rii tră­să­tu­ri­lor și ca­rac­te­ris­ti­ci­lor sale de per­so­na­li­ta­te; aceas­tă in­ter­dic­ție nu se apli­că sis­te­me­lor de IA uti­li­za­te pen­tru a spri­jini eva­lu­a­rea umană a im­pli­că­rii unei per­soa­ne într-​o ac­ti­vi­ta­te in­frac­țio­na­lă, care se ba­zea­ză deja pe fapte obiec­ti­ve și ve­ri­fi­ca­bi­le le­ga­te di­rect de o ac­ti­vi­ta­te in­frac­țio­na­lă;

in­tro­du­ce­rea pe piață, pu­ne­rea în func­țiu­ne în acest scop spe­ci­fic sau uti­li­za­rea unor sis­te­me de IA care cre­ea­ză sau ex­tind ba­ze­le de date de re­cu­noaș­te­re fa­ci­a­lă prin ex­tra­ge­rea fără scop pre­cis a ima­gi­ni­lor fa­ci­a­le de pe in­ter­net sau de pe în­re­gis­tră­ri­le TVCI;

in­tro­du­ce­rea pe piață, pu­ne­rea în func­țiu­ne în acest scop spe­ci­fic sau uti­li­za­rea unor sis­te­me de IA pen­tru a de­du­ce emo­ți­i­le unei per­soa­ne fi­zi­ce în sfera lo­cu­lui de muncă și a in­sti­tu­ți­i­lor de învățământ, cu ex­cep­ția ca­zu­ri­lor în care uti­li­za­rea sis­te­mu­lui de IA este des­ti­na­tă a fi in­sti­tu­i­tă sau in­tro­du­să pe piață din mo­ti­ve me­di­ca­le sau de si­gu­ran­ță;

in­tro­du­ce­rea pe piață sau pu­ne­rea în func­țiu­ne în acest scop spe­ci­fic sau uti­li­za­rea de sis­te­me de cla­si­fi­ca­re bi­o­me­tri­că care cla­si­fi­că în mod in­di­vi­du­al per­soa­ne­le fi­zi­ce pe baza da­te­lor lor bi­o­me­tri­ce pen­tru a de­du­ce sau a intui rasa, opi­ni­i­le po­li­ti­ce, apar­te­nen­ța la un sin­di­cat, con­vin­ge­ri­le re­li­gi­oa­se sau fi­lo­zo­fi­ce, viața se­xu­a­lă sau orien­ta­rea se­xu­a­lă ale per­soa­ne­lor res­pec­ti­ve; aceas­tă in­ter­dic­ție nu se re­fe­ră la eti­che­ta­rea sau fil­tra­rea se­tu­ri­lor de date bi­o­me­tri­ce ob­ți­nu­te în mod legal, cum ar fi ima­gi­ni­le, pe baza da­te­lor bi­o­me­tri­ce sau la cla­si­fi­ca­rea da­te­lor bi­o­me­tri­ce în do­me­ni­ul apli­că­rii legii;

uti­li­za­rea sis­te­me­lor de iden­ti­fi­ca­re bi­o­me­tri­că la dis­tan­ță în timp real în spa­ții ac­ce­si­bi­le pu­bli­cu­lui în sco­pul apli­că­rii legii, cu ex­cep­ția ca­zu­lui și în mă­su­ra în care o ast­fel de uti­li­za­re este strict ne­ce­sa­ră pen­tru unul din­tre ur­mă­toa­re­le obiec­ti­ve:

că­u­ta­rea în mod spe­ci­fic a anu­mi­tor vic­ti­me ale ră­pi­rii, tra­fi­cu­lui de per­soa­ne sau ex­ploa­tă­rii se­xu­a­le a per­soa­ne­lor, pre­cum și că­u­ta­rea per­soa­ne­lor dis­pă­ru­te;

pre­ve­ni­rea unei ame­nin­țări spe­ci­fi­ce, sub­stan­ți­a­le și imi­nen­te care vi­zea­ză viața sau si­gu­ran­ța fi­zi­că a per­soa­ne­lor fi­zi­ce sau a unei ame­nin­țări reale și pre­zen­te sau reale și pre­vi­zi­bi­le de atac te­ro­rist;

lo­ca­li­za­rea sau iden­ti­fi­ca­rea unei per­soa­ne sus­pec­ta­te de săvârșirea unei in­frac­țiuni, în sco­pul des­fă­șu­ră­rii unei in­ves­ti­ga­ții pe­na­le sau al ur­mă­ri­rii pe­na­le sau al exe­cu­tă­rii unor sanc­țiuni pe­na­le pen­tru in­frac­țiuni, men­țio­na­te în anexa II și pa­si­bi­le, în sta­tul mem­bru în cauză, de o pe­deap­să pri­va­ti­vă de li­ber­ta­te sau o mă­su­ră de si­gu­ran­ță pri­va­ti­vă de li­ber­ta­te pen­tru o pe­ri­oa­dă ma­xi­mă de cel puțin patru ani.

in­tro­du­ce­rea pe piață sau pu­ne­rea în func­țiu­ne a unui sis­tem de IA care ge­ne­rea­ză sau ma­ni­pu­lea­ză ma­te­ri­a­le­le sau spec­ta­co­le­le men­țio­na­te la ali­ne­a­tul (1) pri­mul pa­ra­graf li­te­ra (ba) sau (bb) este in­ter­zi­să numai în cazul în care:

sco­pul pre­co­ni­zat al sis­te­mu­lui de IA este ge­ne­ra­rea sau ma­ni­pu­la­rea res­pec­ti­vă; sau

pro­iec­ta­rea, an­tre­na­rea, ar­hi­tec­tu­ra, ca­pa­ci­tă­ți­le sau func­țio­na­li­tă­ți­le orien­ta­te către uti­li­za­tor ale sis­te­mu­lui fac ca ge­ne­ra­rea sau ma­ni­pu­la­rea res­pec­ti­vă să fie un re­zul­tat pre­vi­zi­bil și re­pro­duc­ti­bil în mod re­zo­na­bil, fără a ne­ce­si­ta mo­di­fi­cări teh­ni­ce sem­ni­fi­ca­ti­ve, iar sis­te­mul nu dis­pu­ne de mă­suri teh­ni­ce de si­gu­ran­ță re­zo­na­bi­le și adec­va­te și de alte ga­ran­ții pen­tru a pre­ve­ni în mod fi­a­bil ge­ne­ra­rea sau ma­ni­pu­la­rea res­pec­ti­vă, ținând seama de uti­li­ză­ri­le ne­co­res­pun­ză­toa­re care pot fi pre­vă­zu­te în mod re­zo­na­bil, și pen­tru a co­rec­ta uti­li­za­rea ne­co­res­pun­ză­toa­re ob­ser­va­tă sau ra­por­ta­tă;

uti­li­za­rea unui sis­tem de IA care ge­ne­rea­ză sau ma­ni­pu­lea­ză ma­te­ri­a­le­le sau spec­ta­co­le­le men­țio­na­te la ali­ne­a­tul (1) pri­mul pa­ra­graf li­te­re­le (ba) și (bb) este in­ter­zi­să numai atunci când im­ple­men­ta­to­rul uti­li­zea­ză sis­te­mul în sco­pul ge­ne­ră­rii sau ma­ni­pu­lă­rii unor ast­fel de ma­te­ri­a­le sau spec­ta­co­le.

na­tu­ra si­tu­a­ți­ei care de­ter­mi­nă po­si­bi­la uti­li­za­re, în spe­cial gra­vi­ta­tea, pro­ba­bi­li­ta­tea și am­ploa­rea pre­ju­di­ci­u­lui care ar fi ca­u­zat dacă sis­te­mul nu ar fi uti­li­zat;

con­se­cin­țe­le uti­li­ză­rii sis­te­mu­lui asu­pra drep­tu­ri­lor și li­ber­tă­ți­lor tu­tu­ror per­soa­ne­lor vi­za­te, în spe­cial gra­vi­ta­tea, pro­ba­bi­li­ta­tea și am­ploa­rea aces­tor con­se­cin­țe.