Con­si­de­ren­tul 29

Teh­ni­ci­le de ma­ni­pu­la­re ba­za­te pe IA pot fi uti­li­za­te pen­tru a con­vin­ge anu­mi­te per­soa­ne să ma­ni­fes­te com­por­ta­men­te ne­do­ri­te sau pen­tru a le în­șe­la, împingându-​le să ia de­ci­zii într-​un mod care le su­b­mi­nea­ză și le afec­tea­ză auto­no­mia, ca­pa­ci­ta­tea de­ci­zio­na­lă și li­be­ra ale­ge­re. In­tro­du­ce­rea pe piață, pu­ne­rea în func­țiu­ne sau uti­li­za­rea anu­mi­tor sis­te­me de IA având drept obiec­tiv sau drept efect de­na­tu­ra­rea sem­ni­fi­ca­ti­vă a com­por­ta­men­tu­lui uman, caz în care este pro­ba­bil să se pro­du­că pre­ju­di­cii sem­ni­fi­ca­ti­ve, mai ales cu efec­te ne­ga­ti­ve su­fi­cient de im­por­tan­te asu­pra să­nă­tă­ții fi­zi­ce sau psi­ho­lo­gi­ce ori a in­te­re­se­lor fi­nan­ci­a­re, sunt de­o­se­bit de pe­ri­cu­loa­se și, prin ur­ma­re, ar tre­bui să fie in­ter­zi­se. Ast­fel de sis­te­me de IA im­ple­men­tea­ză com­po­nen­te su­bli­mi­na­le, cum ar fi sti­muli audio, sub formă de ima­gini sau video, pe care per­soa­ne­le nu le pot per­ce­pe întrucât sti­mu­lii res­pec­tivi de­pă­șesc per­cep­ția umană, sau alte teh­nici ma­ni­pu­la­toa­re sau în­șe­lă­toa­re care su­b­mi­nea­ză sau afec­tea­ză auto­no­mia, ca­pa­ci­ta­tea de­ci­zio­na­lă sau li­be­ra ale­ge­re ale unei per­soa­ne în ast­fel de mo­duri încât oa­me­nii nu sunt con­ști­enți de ast­fel de teh­nici sau, chiar dacă sunt con­ști­enți de aces­tea, tot pot fi în­șe­lați sau sunt in­ca­pa­bili să le con­tro­le­ze sau să li se opună. Acest lucru ar putea fi fa­ci­li­tat, de exem­plu, de in­ter­fe­țe­le mașină-​creier sau de re­a­li­ta­tea vir­tu­a­lă, de­o­a­re­ce aces­tea per­mit un nivel mai ri­di­cat de con­trol asu­pra sti­muli­lor pre­zen­tați per­soa­ne­lor, în mă­su­ra în care acești sti­muli pot de­na­tu­ra sem­ni­fi­ca­tiv com­por­ta­men­tul per­soa­ne­lor într-​un mod de­o­se­bit de dă­u­nă­tor. În plus, sis­te­me­le de IA pot ex­ploa­ta și în alte mo­duri vul­ne­ra­bi­li­tă­ți­le unei per­soa­ne sau ale unui anu­mit grup de per­soa­ne din cauza vârstei sau a di­za­bi­li­tă­ții aces­to­ra în sen­sul Di­rec­ti­vei (UE) 2019/882 a Par­la­men­tu­lui Eu­ro­pean și a Con­si­li­u­lui^[23] sau din cauza unei si­tu­a­ții so­ci­a­le sau eco­no­mi­ce spe­ci­fi­ce care este sus­cep­ti­bi­lă să spo­reas­că vul­ne­ra­bi­li­ta­tea la ex­ploa­ta­re a per­soa­ne­lor res­pec­ti­ve, cum ar fi per­soa­ne­le care tră­iesc în să­ră­cie ex­tre­mă sau care apar­țin mi­no­ri­tă­ți­lor et­ni­ce sau re­li­gi­oa­se. Ast­fel de sis­te­me de IA pot fi in­tro­du­se pe piață, puse în func­țiu­ne sau uti­li­za­te având drept obiec­tiv sau drept efect de­na­tu­ra­rea sem­ni­fi­ca­ti­vă a com­por­ta­men­tu­lui unei per­soa­ne, într-​un mod care ca­u­zea­ză sau este sus­cep­ti­bil în mod re­zo­na­bil să ca­u­ze­ze pre­ju­di­cii sem­ni­fi­ca­ti­ve per­soa­nei res­pec­ti­ve sau gru­pu­lui res­pec­tiv ori unei alte per­soa­ne sau altor gru­puri de per­soa­ne, in­clu­siv pre­ju­di­cii care se pot acu­mu­la în timp, și, prin ur­ma­re, ar tre­bui să fie in­ter­zi­se. Este po­si­bil să nu se poată pre­su­pu­ne că exis­tă in­ten­ția de a de­na­tu­ra com­por­ta­men­tul în cazul în care de­na­tu­ra­rea re­zul­tă din fac­tori ex­terni sis­te­mu­lui de IA asu­pra că­ro­ra fur­ni­zo­rul sau im­ple­men­ta­to­rul nu de­ți­ne con­tro­lul, și anume fac­tori care ar putea să nu fie pre­vă­zuți în mod re­zo­na­bil și, prin ur­ma­re, să nu poată fi ate­nu­ați de către fur­ni­zo­rul sau im­ple­men­ta­to­rul sis­te­mu­lui de IA. În orice caz, nu este ne­ce­sar ca fur­ni­zo­rul sau im­ple­men­ta­to­rul să aibă in­ten­ția de a cauza un pre­ju­di­ciu sem­ni­fi­ca­tiv, cu con­di­ția ca un ast­fel de pre­ju­di­ciu să re­zul­te din prac­ti­ci­le de ma­ni­pu­la­re sau de ex­ploa­ta­re ba­za­te pe IA. In­ter­dic­ți­i­le pri­vind ast­fel de prac­tici în do­me­ni­ul IA sunt com­ple­men­ta­re dis­po­zi­ți­i­lor cu­prin­se în Di­rec­ti­va 2005/29/CE a Par­la­men­tu­lui Eu­ro­pean și a Con­si­li­u­lui^[24], în spe­cial fap­tul că prac­ti­ci­le co­mer­ci­a­le ne­lo­ia­le care con­duc la pre­ju­di­cii eco­no­mi­ce sau fi­nan­ci­a­re pen­tru con­su­ma­tori sunt in­ter­zi­se în toate cir­cum­stan­țe­le, in­di­fe­rent dacă sunt puse în apli­ca­re prin in­ter­me­di­ul sis­te­me­lor de IA sau în alt mod. In­ter­dic­ți­i­le pri­vind prac­ti­ci­le de ma­ni­pu­la­re și ex­ploa­ta­re pre­vă­zu­te în pre­zen­tul re­gu­la­ment nu ar tre­bui să afec­te­ze prac­ti­ci­le le­ga­le în con­tex­tul tra­ta­men­tu­lui me­di­cal, cum ar fi tra­ta­men­tul psi­ho­lo­gic al unei boli min­ta­le sau rea­bi­li­ta­rea fi­zi­că, atunci când prac­ti­ci­le res­pec­ti­ve se des­fă­șoa­ră în con­for­mi­ta­te cu drep­tul și cu stan­dar­de­le me­di­ca­le apli­ca­bi­le, de exem­plu în ceea ce pri­veș­te consimțământul ex­pli­cit al per­soa­ne­lor în cauză sau al re­pre­zen­tan­ți­lor lor le­gali. În plus, prac­ti­ci­le co­mer­ci­a­le co­mu­ne și le­gi­ti­me, de exem­plu în do­me­ni­ul pu­bli­ci­tă­ții, care res­pec­tă drep­tul apli­ca­bil nu ar tre­bui să fie con­si­de­ra­te, în sine, ca reprezentând prac­tici dă­u­nă­toa­re de ma­ni­pu­la­re ba­za­te pe IA.