Con­si­de­ren­tul 58

Un alt do­me­niu în care uti­li­za­rea sis­te­me­lor de IA me­ri­tă o aten­ție de­o­se­bi­tă este ac­ce­sul și po­si­bi­li­ta­tea de a be­ne­fi­cia de anu­mi­te pres­ta­ții și ser­vi­cii pu­bli­ce și pri­va­te esen­ți­a­le, ne­ce­sa­re pen­tru ca oa­me­nii să par­ti­ci­pe pe de­plin în so­ci­e­ta­te sau să își îm­bu­nă­tă­țeas­că nive­lul de trai. În spe­cial, per­soa­ne­le fi­zi­ce care so­li­ci­tă sau pri­mesc pres­ta­ții și ser­vi­cii esen­ți­a­le de asis­ten­ță pu­bli­că din par­tea au­to­ri­tă­ți­lor pu­bli­ce, și anume ser­vi­cii de în­gri­jiri de să­nă­ta­te, pres­ta­ții de asi­gu­rări so­ci­a­le, ser­vi­cii so­ci­a­le care oferă pro­tec­ție în ca­zuri pre­cum ma­ter­ni­ta­tea, boala, ac­ci­den­te­le de muncă, de­pen­den­ța, bătrânețea, pier­de­rea lo­cu­lui de muncă, pre­cum și asis­ten­ță so­ci­a­lă și le­ga­tă de lo­cu­in­țe, sunt de re­gu­lă de­pen­den­te de aces­te pres­ta­ții și ser­vi­cii și se află într-​o po­zi­ție vul­ne­ra­bi­lă în ra­port cu au­to­ri­tă­ți­le res­pon­sa­bi­le. În cazul în care sis­te­me­le de IA sunt uti­li­za­te pen­tru a sta­bili dacă ast­fel de pres­ta­ții și ser­vi­cii ar tre­bui să fie acor­da­te, re­fu­za­te, re­du­se, re­vo­ca­te sau re­cu­pe­ra­te de au­to­ri­tăți, in­clu­siv dacă be­ne­fi­ci­a­rii au drep­tul le­gi­tim la ast­fel de pres­ta­ții sau ser­vi­cii, sis­te­me­le res­pec­ti­ve pot avea un im­pact sem­ni­fi­ca­tiv asu­pra mij­loa­ce­lor de su­b­zis­ten­ță ale per­soa­ne­lor și le pot în­căl­ca drep­tu­ri­le fun­damen­ta­le, cum ar fi drep­tul la pro­tec­ție so­ci­a­lă, la ne­dis­cri­mi­na­re, la dem­ni­ta­tea umană sau la o cale de atac efec­ti­vă și, prin ur­ma­re, ar tre­bui să fie cla­si­fi­ca­te ca prezentând un grad ri­di­cat de risc. Cu toate aces­tea, pre­zen­tul re­gu­la­ment nu ar tre­bui să îm­pie­di­ce dezvol­ta­rea și uti­li­za­rea unor abor­dări ino­va­toa­re în ad­mi­nis­tra­ția pu­bli­că, care ar putea be­ne­fi­cia de o uti­li­za­re mai largă a sis­te­me­lor de IA con­for­me și si­gu­re, cu con­di­ția ca aces­te sis­te­me să nu im­pli­ce un risc ri­di­cat pen­tru per­soa­ne­le fi­zi­ce și ju­ri­di­ce. În plus, sis­te­me­le de IA uti­li­za­te pen­tru a eva­lua punc­ta­jul de cre­dit sau bo­ni­ta­tea per­soa­ne­lor fi­zi­ce ar tre­bui să fie cla­si­fi­ca­te ca sis­te­me de IA cu grad ri­di­cat de risc, întrucât aces­tea de­ter­mi­nă ac­ce­sul per­soa­ne­lor res­pec­ti­ve la re­sur­se fi­nan­ci­a­re sau la ser­vi­cii esen­ți­a­le, cum ar fi lo­cu­in­țe, elec­tri­ci­ta­te și te­le­co­mu­ni­ca­ții. Sis­te­me­le de IA uti­li­za­te în aces­te sco­puri pot duce la dis­cri­mi­na­re între per­soa­ne sau între gru­puri și pot per­pe­tua ti­pa­re is­to­ri­ce de dis­cri­mi­na­re, de exem­plu pe cri­te­rii de ori­gi­ne ra­si­a­lă sau et­ni­că, sex, di­za­bi­li­ta­te, vârstă sau orien­ta­re se­xu­a­lă, sau pot crea noi forme de im­pact dis­cri­mi­na­to­riu. Cu toate aces­tea, sis­te­me­le de IA pre­vă­zu­te de drep­tul Uniu­nii în sco­pul de­tec­tă­rii fra­u­de­lor în fur­ni­za­rea de ser­vi­cii fi­nan­ci­a­re și în sco­puri pru­den­ți­a­le pen­tru a cal­cu­la ce­rin­țe­le de ca­pi­tal ale in­sti­tu­ți­i­lor de cre­dit și ale în­tre­prin­de­ri­lor de asi­gu­rări nu ar tre­bui să fie con­si­de­ra­te ca prezentând un grad ri­di­cat de risc în te­me­iul pre­zen­tu­lui re­gu­la­ment. În plus, sis­te­me­le de IA des­ti­na­te a fi uti­li­za­te pen­tru eva­lu­a­rea ris­cu­ri­lor și sta­bi­li­rea pre­țu­ri­lor pen­tru asi­gu­ra­rea de să­nă­ta­te și de viață în cazul per­soa­ne­lor fi­zi­ce pot avea, de ase­me­nea, un im­pact sem­ni­fi­ca­tiv asu­pra mij­loa­ce­lor de su­b­zis­ten­ță ale per­soa­ne­lor și, dacă nu sunt con­ce­pu­te, dezvol­ta­te și uti­li­za­te în mod co­res­pun­ză­tor, pot în­căl­ca drep­tu­ri­le lor fun­damen­ta­le și pot avea con­se­cin­țe grave pen­tru viața și să­nă­ta­tea oa­me­ni­lor, cum ar fi ex­clu­ziu­nea fi­nan­ci­a­ră și dis­cri­mi­na­rea. În cele din urmă, sis­te­me­le de IA uti­li­za­te pen­tru eva­lu­a­rea și cla­si­fi­ca­rea ape­lu­ri­lor de ur­gen­ță ale per­soa­ne­lor fi­zi­ce sau pen­tru dis­tri­bu­i­rea sau sta­bi­li­rea pri­o­ri­tă­ți­lor în dis­tri­bu­i­rea ser­vi­ci­i­lor de primă in­ter­ven­ție de ur­gen­ță, in­clu­siv de către po­li­ție, pom­pieri și asis­ten­ța me­di­ca­lă, pre­cum și în ca­drul sis­te­me­lor de triaj me­di­cal de ur­gen­ță al pa­cien­ți­lor, ar tre­bui de ase­me­nea să fie cla­si­fi­ca­te ca prezentând un grad ri­di­cat de risc, de­o­a­re­ce iau de­ci­zii în si­tu­a­ții foar­te cri­ti­ce pen­tru viața și să­nă­ta­tea per­soa­ne­lor și pen­tru bu­nu­ri­le aces­to­ra.