Con­si­de­ren­tul 31

Sis­te­me­le de IA care per­mit atri­bu­i­rea unui punc­taj so­ci­al per­soa­ne­lor fi­zi­ce de către ac­tori pri­vați sau pu­blici pot ge­ne­ra re­zul­ta­te dis­cri­mi­na­to­rii și ex­clu­de­rea anu­mi­tor gru­puri. Aces­tea pot în­căl­ca drep­tul la dem­ni­ta­te și ne­dis­cri­mi­na­re, pre­cum și va­lo­ri­le ega­li­tă­ții și jus­ti­ți­ei. Ast­fel de sis­te­me de IA eva­lu­ea­ză sau cla­si­fi­că per­soa­ne­le fi­zi­ce sau gru­pu­ri­le de per­soa­ne pe baza mai mul­tor punc­te de date le­ga­te de com­por­ta­men­tul lor so­ci­al în con­tex­te mul­ti­ple sau de ca­rac­te­ris­tici per­so­na­le sau de per­so­na­li­ta­te cu­nos­cu­te, de­du­se sau pre­co­ni­za­te de-a lun­gul anu­mi­tor pe­ri­oa­de de timp. Punc­ta­jul so­ci­al ob­ți­nut din ast­fel de sis­te­me de IA poate duce la un tra­ta­ment pre­ju­di­ci­a­bil sau ne­fa­vo­ra­bil al per­soa­ne­lor fi­zi­ce sau al unor gru­puri în­tregi de ast­fel de per­soa­ne în con­tex­te so­ci­a­le care nu au le­gă­tu­ră cu con­tex­tul în care da­te­le au fost ini­țial ge­ne­ra­te sau co­lec­ta­te sau la un tra­ta­ment pre­ju­di­ci­a­bil care este dis­pro­por­țio­nat sau ne­jus­ti­fi­cat în ra­port cu gra­vi­ta­tea com­por­ta­men­tu­lui lor so­ci­al. Sis­te­me­le de IA care im­pli­că ast­fel de prac­tici inac­cep­ta­bi­le de atri­bu­i­re a unui punc­taj și care con­duc la ast­fel de re­zul­ta­te pre­ju­di­ci­a­bi­le sau ne­fa­vo­ra­bi­le ar tre­bui, prin ur­ma­re, să fie in­ter­zi­se. Aceas­tă in­ter­dic­ție nu ar tre­bui să afec­te­ze prac­ti­ci­le le­ga­le de eva­lu­a­re a per­soa­ne­lor fi­zi­ce care sunt re­a­li­za­te într-​un scop spe­ci­fic în con­for­mi­ta­te cu drep­tul Uniu­nii și cu drep­tul na­țio­nal.