Motyw 58

Innym ob­sza­rem, w któ­rym wy­ko­rzy­sta­nie sys­te­mów AI wy­ma­ga szcze­gól­nej uwagi, jest do­stęp do nie­któ­rych pod­sta­wo­wych usług i świad­czeń pry­wat­nych i pu­blicz­nych nie­zbęd­nych lu­dziom do peł­ne­go uczest­nic­twa w życiu spo­łecz­nym lub do po­pra­wy po­zio­mu życia oraz ko­rzy­sta­nie z tych usług i świad­czeń. W szcze­gól­no­ści osoby fi­zycz­ne ubie­ga­ją­ce się o pod­sta­wo­we świad­cze­nia i usłu­gi w ra­mach po­mo­cy pu­blicz­nej lub ko­rzy­sta­ją­ce z ta­kich świad­czeń i usług za­pew­nia­nych przez or­ga­ny pu­blicz­ne, a mia­no­wi­cie usług opie­ki zdro­wot­nej, świad­czeń z za­bez­pie­cze­nia spo­łecz­ne­go, usług spo­łecz­nych za­pew­nia­ją­cych ochro­nę w przy­pad­kach ta­kich jak ma­cie­rzyń­stwo, cho­ro­ba, wy­pad­ki przy pracy, za­leż­ność lub po­de­szły wiek oraz utra­ta za­trud­nie­nia, a także z po­mo­cy spo­łecz­nej i miesz­ka­nio­wej, są za­zwy­czaj za­leż­ne od tych świad­czeń i usług oraz znaj­du­ją się w słab­szym po­ło­że­niu wzglę­dem od­po­wie­dzial­nych or­ga­nów. Je­że­li sys­te­my AI są wy­ko­rzy­sty­wa­ne do usta­le­nia, czy or­ga­ny po­win­ny przy­znać takie świad­cze­nia i usłu­gi, od­mó­wić ich, ogra­ni­czyć je, cof­nąć lub od­zy­skać, w tym do stwier­dze­nia, czy świad­cze­nio­bior­cy są w świe­tle prawa upraw­nie­ni do ta­kich świad­czeń lub usług, sys­te­my te mogą mieć zna­czą­cy wpływ na źró­dła utrzy­ma­nia osób i mogą na­ru­szać ich prawa pod­sta­wo­we, takie jak prawo do ochro­ny so­cjal­nej, nie­dy­skry­mi­na­cji, god­no­ści czło­wie­ka lub sku­tecz­ne­go środ­ka praw­ne­go i w związ­ku z tym sys­te­my te na­le­ży za­kla­sy­fi­ko­wać jako sys­te­my wy­so­kie­go ry­zy­ka. Ni­niej­sze roz­po­rzą­dze­nie nie po­win­no jed­nak utrud­niać roz­wo­ju i sto­so­wa­nia in­no­wa­cyj­nych roz­wią­zań w ad­mi­ni­stra­cji pu­blicz­nej, która może od­nieść ko­rzy­ści z po­wszech­niej­sze­go wy­ko­rzy­sty­wa­nia zgod­nych i bez­piecz­nych sys­te­mów AI, pod wa­run­kiem że sys­te­my te nie stwa­rza­ją wy­so­kie­go ry­zy­ka dla osób praw­nych i fi­zycz­nych. Po­nad­to jako sys­te­my wy­so­kie­go ry­zy­ka na­le­ży za­kla­sy­fi­ko­wać sys­te­my AI wy­ko­rzy­sty­wa­ne do prze­pro­wa­dza­nia sco­rin­gu kre­dy­to­we­go lub oceny zdol­no­ści kre­dy­to­wej osób fi­zycz­nych, po­nie­waż sys­te­my te de­cy­du­ją o do­stę­pie tych osób do za­so­bów fi­nan­so­wych lub pod­sta­wo­wych usług, ta­kich jak miesz­kal­nic­two, ener­gia elek­trycz­na i usłu­gi te­le­ko­mu­ni­ka­cyj­ne. Sys­te­my AI wy­ko­rzy­sty­wa­ne do tych celów mogą pro­wa­dzić do dys­kry­mi­na­cji osób lub grup i mogą utrwa­lać hi­sto­rycz­ne wzor­ce dys­kry­mi­na­cji, takie jak dys­kry­mi­na­cja ze wzglę­du na po­cho­dze­nie ra­so­we lub et­nicz­ne, płeć, nie­peł­no­spraw­ność, wiek, orien­ta­cję sek­su­al­ną, lub mogą po­wo­do­wać po­wsta­wa­nie no­wych ro­dza­jów dys­kry­mi­na­cji. Za sys­te­my wy­so­kie­go ry­zy­ka na mocy ni­niej­sze­go roz­po­rzą­dze­nia nie na­le­ży jed­nak uzna­wać sys­te­mów AI prze­wi­dzia­nych w pra­wie Unii do celów wy­kry­wa­nia oszustw w ra­mach ofe­ro­wa­nia usług fi­nan­so­wych oraz do celów ostroż­no­ścio­wych do ob­li­cza­nia wy­mo­gów ka­pi­ta­ło­wych in­sty­tu­cji kre­dy­to­wych i za­kła­dów ubez­pie­czeń. Po­nad­to sys­te­my AI prze­zna­czo­ne do prze­pro­wa­dza­nia oceny ry­zy­ka w przy­pad­ku ubez­pie­cze­nia zdro­wot­ne­go i na życie dla osób fi­zycz­nych i usta­la­nia cen tych ubez­pie­czeń mogą mieć rów­nież zna­czą­cy wpływ na źró­dła utrzy­ma­nia osób, a je­że­li nie są od­po­wied­nio za­pro­jek­to­wa­ne, roz­wi­nię­te i wy­ko­rzy­sty­wa­ne, mogą na­ru­szać ich prawa pod­sta­wo­we i pro­wa­dzić do po­waż­nych kon­se­kwen­cji dla życia i zdro­wia ludzi, w tym wy­klu­cze­nia fi­nan­so­we­go i dys­kry­mi­na­cji. Wresz­cie sys­te­my AI prze­zna­czo­ne do prze­pro­wa­dza­nia oceny i kla­sy­fi­ko­wa­nia zgło­szeń alar­mo­wych do­ko­ny­wa­nych przez osoby fi­zycz­ne lub do wy­sy­ła­nia lub usta­la­nia prio­ry­te­tów w wy­sy­ła­niu służb pierw­szej po­mo­cy, w tym po­li­cji, stra­ży po­żar­nej i po­mo­cy me­dycz­nej, a także w ra­mach sys­te­mów oceny stanu zdro­wia pa­cjen­tów w na­głych wy­pad­kach, na­le­ży za­kla­sy­fi­ko­wać jako sys­te­my wy­so­kie­go ry­zy­ka, po­nie­waż służą one do po­dej­mo­wa­nia de­cy­zji o kry­tycz­nym zna­cze­niu dla życia i zdro­wia osób oraz ich mie­nia.