Wy­zwa­nia zwią­za­ne z wdra­ża­niem unij­ne­go aktu o sztucz­nej in­te­li­gen­cji w od­nie­sie­niu do sys­te­mów AI wy­so­kie­go ry­zy­ka

Wpro­wa­dze­nie

Unij­ny akt w spra­wie sztucz­nej in­te­li­gen­cji („AI Act”) usta­na­wia kom­plek­so­we ramy re­gu­la­cyj­ne do­ty­czą­ce roz­wo­ju i wy­ko­rzy­sty­wa­nia sztucz­nej in­te­li­gen­cji (AI) w UE [1], [2]. W za­leż­no­ści od ro­dza­ju sys­te­mu AI, jego za­mie­rzo­ne­go prze­zna­cze­nia oraz roli danej or­ga­ni­za­cji akt wpro­wa­dza wy­mo­gi do­ty­czą­ce za­rzą­dza­nia ry­zy­kiem, za­rzą­dza­nia da­ny­mi, przej­rzy­sto­ści, nad­zo­ru czło­wie­ka, do­ku­men­ta­cji tech­nicz­nej oraz in­nych aspek­tów roz­wo­ju i sto­so­wa­nia AI.

Jed­nak usta­le­nie, które wy­mo­gi re­gu­la­cyj­ne mają za­sto­so­wa­nie, jest tylko jed­nym z ele­men­tów za­pew­nie­nia zgod­no­ści. Or­ga­ni­za­cje muszą rów­nież okre­ślić, jak wdro­żyć od­po­wied­nie wy­mo­gi w ist­nie­ją­cych sys­te­mach AI, in­fra­struk­tu­rze tech­nicz­nej, pro­ce­sach roz­wo­ju opro­gra­mo­wa­nia i spo­so­bach or­ga­ni­za­cji pracy. Przy­kła­do­wo wy­mo­gi do­ty­czą­ce ja­ko­ści da­nych, do­kład­no­ści i od­por­no­ści mogą wy­ma­gać zmian w spo­so­bie tre­no­wa­nia, oceny i mo­ni­to­ro­wa­nia mo­de­li AI, na­to­miast obo­wiąz­ki zwią­za­ne z za­rzą­dza­niem ry­zy­kiem i do­ku­men­ta­cją mogą wy­ma­gać usta­no­wie­nia no­wych pro­ce­dur we­wnętrz­nych oraz po­dzia­łu od­po­wie­dzial­no­ści. Wdra­ża­nie ta­kich środ­ków może sta­no­wić po­waż­ne wy­zwa­nie, zwłasz­cza gdy ist­nie­ją­ce sys­te­my i pro­ce­sy roz­wo­jo­we nie były pier­wot­nie pro­jek­to­wa­ne z myślą o speł­nia­niu wy­mo­gów re­gu­la­cyj­nych [3].

Wdra­ża­nie AI Act może być szcze­gól­nie trud­ne dla do­staw­ców sys­te­mów AI wy­so­kie­go ry­zy­ka, które pod­le­ga­ją nie­któ­rym z naj­bar­dziej roz­bu­do­wa­nych wy­mo­gów tego roz­po­rzą­dze­nia. Do tej ka­te­go­rii na­le­żą okre­ślo­ne za­sto­so­wa­nia mo­gą­ce zna­czą­co wpły­wać na zdro­wie, bez­pie­czeń­stwo lub prawa pod­sta­wo­we ludzi. Obej­mu­ją one za­rów­no sys­te­my AI słu­żą­ce do oceny kan­dy­da­tów do pracy, oceny wy­ni­ków na­ucza­nia czy zdol­no­ści kre­dy­to­wej osób fi­zycz­nych, jak i sys­te­my AI wy­ko­rzy­sty­wa­ne jako ele­men­ty bez­pie­czeń­stwa w za­rzą­dza­niu in­fra­struk­tu­rą kry­tycz­ną i jej eks­plo­ata­cji — za­leż­nie od wła­ści­wych kry­te­riów kla­sy­fi­ka­cji [1].

W tym wpi­sie przy­glą­da­my się głów­nym wy­zwa­niom zwią­za­nym z wdra­ża­niem wy­mo­gów AI Act dla sys­te­mów AI wy­so­kie­go ry­zy­ka, oma­wia­my wpływ moż­li­wo­ści tech­nicz­nych i prak­tyk or­ga­ni­za­cyj­nych na dzia­ła­nia na rzecz zgod­no­ści oraz roz­wa­ża­my spo­so­by ra­dze­nia sobie z tymi wy­zwa­nia­mi.

Wy­mo­gi do­ty­czą­ce sys­te­mów AI wy­so­kie­go ry­zy­ka

Zgod­nie z art. 6 AI Act sys­te­my AI mogą zo­stać za­kla­sy­fi­ko­wa­ne jako sys­te­my wy­so­kie­go ry­zy­ka ze wzglę­du na ich za­mie­rzo­ne prze­zna­cze­nie oraz ry­zy­ko zwią­za­ne z ich sto­so­wa­niem. Roz­po­rzą­dze­nie wy­róż­nia w szcze­gól­no­ści dwie głów­ne ka­te­go­rie:

• Sys­te­my AI ob­ję­te prze­pi­sa­mi do­ty­czą­cy­mi bez­pie­czeń­stwa pro­duk­tów. Sys­te­my AI sta­no­wią­ce ele­men­ty bez­pie­czeń­stwa pro­duk­tów lub same bę­dą­ce pro­duk­ta­mi ob­ję­ty­mi okre­ślo­nym unij­nym pra­wo­daw­stwem har­mo­ni­za­cyj­nym mogą zo­stać za­kla­sy­fi­ko­wa­ne jako sys­te­my wy­so­kie­go ry­zy­ka, je­że­li od­po­wied­nie pro­duk­ty lub sys­te­my wy­ma­ga­ją oceny zgod­no­ści przez stro­nę trze­cią. Przy­kła­dy obej­mu­ją nie­któ­re za­sto­so­wa­nia zwią­za­ne z wy­ro­ba­mi me­dycz­ny­mi, ma­szy­na­mi i in­ny­mi pro­duk­ta­mi pod­le­ga­ją­cy­mi re­gu­la­cjom.

• Sys­te­my AI sto­so­wa­ne w okre­ślo­nych ob­sza­rach wy­so­kie­go ry­zy­ka. Za­łącz­nik III wska­zu­je sze­reg ob­sza­rów, w któ­rych sys­te­my AI mogą zo­stać uzna­ne za sys­te­my wy­so­kie­go ry­zy­ka, w tym bio­me­trię, in­fra­struk­tu­rę kry­tycz­ną, edu­ka­cję, za­trud­nie­nie, do­stęp do pod­sta­wo­wych usług, eg­ze­kwo­wa­nie prawa, mi­gra­cję i kon­tro­lę gra­nicz­ną oraz wy­miar spra­wie­dli­wo­ści. Przy­kła­do­wo do tej ka­te­go­rii mogą na­le­żeć sys­te­my AI wy­ko­rzy­sty­wa­ne do oceny kan­dy­da­tów do pracy lub zdol­no­ści kre­dy­to­wej osób fi­zycz­nych. Ar­ty­kuł 6 prze­wi­du­je rów­nież wy­jąt­ki dla nie­któ­rych sys­te­mów wy­mie­nio­nych w za­łącz­ni­ku III, które nie stwa­rza­ją zna­czą­ce­go ry­zy­ka na wa­run­kach okre­ślo­nych w roz­po­rzą­dze­niu [1].

Aby sys­te­my AI wy­so­kie­go ry­zy­ka speł­nia­ły wy­mo­gi AI Act, ich do­staw­cy muszą wdro­żyć sze­reg środ­ków tech­nicz­nych i or­ga­ni­za­cyj­nych w całym okre­sie ich roz­wo­ju i eks­plo­ata­cji. Ar­ty­ku­ły 8–17 okre­śla­ją wy­mo­gi do­ty­czą­ce za­rzą­dza­nia ry­zy­kiem, da­nych i za­rzą­dza­nia da­ny­mi, do­ku­men­ta­cji tech­nicz­nej, re­je­stro­wa­nia zda­rzeń, przej­rzy­sto­ści, nad­zo­ru czło­wie­ka, do­kład­no­ści, od­por­no­ści, cy­ber­bez­pie­czeń­stwa i za­rzą­dza­nia ja­ko­ścią [1], [2].

Do naj­waż­niej­szych wy­mo­gów na­le­żą:

• Za­rzą­dza­nie ry­zy­kiem (art. 9). Do­staw­cy muszą usta­no­wić i utrzy­my­wać sys­tem za­rzą­dza­nia ry­zy­kiem słu­żą­cy iden­ty­fi­ka­cji, oce­nie i ogra­ni­cza­niu za­gro­żeń dla zdro­wia, bez­pie­czeń­stwa i praw pod­sta­wo­wych w całym cyklu życia sys­te­mu AI. Za­rzą­dza­nie ry­zy­kiem obej­mu­je rów­nież ocenę sku­tecz­no­ści środ­ków ogra­ni­cza­ją­cych ry­zy­ko oraz re­ago­wa­nie na istot­ne za­gro­że­nia po­ja­wia­ją­ce się pod­czas roz­wo­ju i użyt­ko­wa­nia sys­te­mu.

• Dane i za­rzą­dza­nie da­ny­mi (art. 10). Sys­te­my AI wy­so­kie­go ry­zy­ka opra­co­wy­wa­ne z wy­ko­rzy­sta­niem tech­nik tre­no­wa­nia mo­de­li muszą speł­niać wy­mo­gi do­ty­czą­ce ja­ko­ści da­nych tre­nin­go­wych, wa­li­da­cyj­nych i te­sto­wych oraz za­rzą­dza­nia nimi. Od­po­wied­nie dzia­ła­nia obej­mu­ją ba­da­nie przy­dat­no­ści i re­pre­zen­ta­tyw­no­ści zbio­rów da­nych, iden­ty­fi­ko­wa­nie po­ten­cjal­nych uprze­dzeń i stron­ni­czo­ści oraz roz­wią­zy­wa­nie pro­ble­mów z ja­ko­ścią da­nych.

• Do­ku­men­ta­cja tech­nicz­na i re­je­stro­wa­nie zda­rzeń (art. 11–12). Do­staw­cy muszą spo­rzą­dzać i ak­tu­ali­zo­wać do­ku­men­ta­cję tech­nicz­ną wy­ka­zu­ją­cą, w jaki spo­sób sys­tem AI speł­nia ma­ją­ce za­sto­so­wa­nie wy­mo­gi. Sys­te­my AI wy­so­kie­go ry­zy­ka muszą także umoż­li­wiać au­to­ma­tycz­ne re­je­stro­wa­nie zda­rzeń w całym cyklu życia, zwy­kle na­zy­wa­ne lo­go­wa­niem, w celu za­pew­nie­nia iden­ty­fi­ko­wal­no­ści i mo­ni­to­ro­wa­nia.

• Przej­rzy­stość i nad­zór czło­wie­ka (art. 13–14). Sys­te­my AI wy­so­kie­go ry­zy­ka muszą być wy­star­cza­ją­co przej­rzy­ste, aby pod­mio­ty sto­su­ją­ce mogły in­ter­pre­to­wać ich wy­ni­ki i od­po­wied­nio je wy­ko­rzy­sty­wać. Do­staw­cy muszą udo­stęp­niać sto­sow­ne in­struk­cje i in­for­ma­cje o moż­li­wo­ściach oraz ogra­ni­cze­niach sys­te­mu. Po­nad­to sys­te­my muszą być pro­jek­to­wa­ne w spo­sób umoż­li­wia­ją­cy sku­tecz­ny nad­zór czło­wie­ka, w tym zro­zu­mie­nie i mo­ni­to­ro­wa­nie ich dzia­ła­nia oraz — w od­po­wied­nich przy­pad­kach — in­ter­wen­cję.

• Do­kład­ność, od­por­ność i cy­ber­bez­pie­czeń­stwo (art. 15). Sys­te­my AI wy­so­kie­go ry­zy­ka muszą osią­gać od­po­wied­ni po­ziom do­kład­no­ści, od­por­no­ści i cy­ber­bez­pie­czeń­stwa w całym cyklu życia. Od­po­wied­nie środ­ki obej­mu­ją te­sto­wa­nie dzia­ła­nia sys­te­mu, uwzględ­nia­nie ra­cjo­nal­nie prze­wi­dy­wal­nych błę­dów i awa­rii oraz ochro­nę przed pró­ba­mi ma­ni­pu­lo­wa­nia za­cho­wa­niem sys­te­mu lub na­ru­sze­nia jego bez­pie­czeń­stwa.

• Za­rzą­dza­nie ja­ko­ścią (art. 17). Do­staw­cy muszą usta­no­wić sys­tem za­rzą­dza­nia ja­ko­ścią obej­mu­ją­cy pro­ce­du­ry i obo­wiąz­ki nie­zbęd­ne do za­pew­nie­nia zgod­no­ści z prze­pi­sa­mi. Sys­tem ten obej­mu­je mię­dzy in­ny­mi dzia­ła­nia zwią­za­ne z pro­jek­to­wa­niem i roz­wo­jem, te­sto­wa­niem, do­ku­men­ta­cją, za­rzą­dza­niem ry­zy­kiem oraz mo­ni­to­ro­wa­niem po wpro­wa­dze­niu do ob­ro­tu [1].

Poza wy­mo­ga­mi do­ty­czą­cy­mi pro­jek­to­wa­nia, roz­wo­ju i eks­plo­ata­cji sys­te­mów AI wy­so­kie­go ry­zy­ka AI Act na­kła­da na ich do­staw­ców do­dat­ko­we obo­wiąz­ki. W szcze­gól­no­ści do­staw­cy muszą prze­cho­wy­wać do­ku­men­ta­cję tech­nicz­ną przez od­po­wied­ni okres, co do za­sa­dy dzie­sięć lat zgod­nie z art. 18, oraz za­cho­wy­wać au­to­ma­tycz­nie ge­ne­ro­wa­ne logi po­zo­sta­ją­ce pod ich kon­tro­lą przez co naj­mniej sześć mie­się­cy, chyba że wła­ści­we prze­pi­sy sta­no­wią ina­czej (art. 19). Muszą rów­nież po­dej­mo­wać dzia­ła­nia na­praw­cze w razie nie­zgod­no­ści (art. 20), współ­pra­co­wać z wła­ści­wy­mi or­ga­na­mi, udo­stęp­nia­jąc od­po­wied­nie in­for­ma­cje i do­ku­men­ta­cję na uza­sad­nio­ny wnio­sek (art. 21), a w wy­ma­ga­nych przy­pad­kach wy­zna­czyć upo­waż­nio­ne­go przed­sta­wi­cie­la w Unii (art. 22). Dal­sze obo­wiąz­ki do­ty­czą oceny zgod­no­ści, de­kla­ra­cji zgod­no­ści, ozna­ko­wa­nia CE, re­je­stra­cji, mo­ni­to­ro­wa­nia po wpro­wa­dze­niu do ob­ro­tu oraz zgła­sza­nia po­waż­nych in­cy­den­tów [1], [2].

Wy­zwa­nia zwią­za­ne z wdra­ża­niem wy­mo­gów dla sys­te­mów AI wy­so­kie­go ry­zy­ka

Cho­ciaż AI Act okre­śla wy­mo­gi wobec sys­te­mów AI wy­so­kie­go ry­zy­ka, prze­ło­że­nie ich na środ­ki tech­nicz­ne i pro­ce­du­ry or­ga­ni­za­cyj­ne może być bar­dzo trud­ne. Nie­któ­re wy­zwa­nia wy­ni­ka­ją bez­po­śred­nio z po­szcze­gól­nych wy­mo­gów, na przy­kład z ko­niecz­no­ści iden­ty­fi­ko­wa­nia i ogra­ni­cza­nia stron­ni­czo­ści w da­nych tre­nin­go­wych lub oceny od­por­no­ści sys­te­mu AI. Inne do­ty­czą dzia­łań wspie­ra­ją­cych jed­no­cze­śnie kilka wy­mo­gów, ta­kich jak do­ku­men­ta­cja, mo­ni­to­ro­wa­nie i utrzy­my­wa­nie zgod­no­ści w całym cyklu życia sys­te­mu. Skala trud­no­ści za­le­ży po­nad­to od moż­li­wo­ści tech­nicz­nych or­ga­ni­za­cji, ist­nie­ją­cych pro­ce­dur i do­świad­cze­nia re­gu­la­cyj­ne­go [3].

Jak Kla­de­ro może pomóc

Wdro­że­nie wy­mo­gów AI Act do­ty­czą­cych sys­te­mów AI wy­so­kie­go ry­zy­ka wy­ma­ga za­rów­no wie­dzy tech­nicz­nej, jak i pro­ce­sów wspie­ra­ją­cych zgod­ność w całym cyklu życia sys­te­mu. W Kla­de­ro po­ma­ga­my or­ga­ni­za­cjom mie­rzyć się z tymi wy­zwa­nia­mi, łą­cząc kom­pe­ten­cje w za­kre­sie roz­wo­ju AI z wie­dzą o za­rzą­dza­niu AI i wy­mo­gach re­gu­la­cyj­nych.

W ob­sza­rze wy­zwań tech­nicz­nych zwią­za­nych z po­szcze­gól­ny­mi wy­mo­ga­mi wspie­ra­my or­ga­ni­za­cje we wdra­ża­niu prak­tyk za­rzą­dza­nia da­ny­mi, oce­nie ja­ko­ści da­nych i po­ten­cjal­nej stron­ni­czo­ści oraz opra­co­wy­wa­niu od­po­wied­nich metod oceny do­kład­no­ści i od­por­no­ści sys­te­mów AI. Po­ma­ga­my rów­nież ana­li­zo­wać moż­li­wo­ści i ogra­ni­cze­nia sys­te­mów AI oraz usta­lać, jak prze­ka­zy­wać istot­ne in­for­ma­cje użyt­kow­ni­kom i innym za­in­te­re­so­wa­nym stro­nom. W szcze­gól­no­ści wy­ko­rzy­stu­je­my do­świad­cze­nie zdo­by­te pod­czas roz­wi­ja­nia vera[tag], na­sze­go roz­wią­za­nia do iden­ty­fi­ko­wa­nia i ozna­cza­nia tre­ści ge­ne­ro­wa­nych przez AI, aby wspie­rać opra­co­wy­wa­nie od­po­wied­nich środ­ków przej­rzy­sto­ści i ujaw­nia­nia in­for­ma­cji.

Aby spro­stać prze­kro­jo­wym wy­zwa­niom wdro­że­nio­wym, wspie­ra­my in­te­gra­cję za­rzą­dza­nia ry­zy­kiem, do­ku­men­ta­cji tech­nicz­nej, mo­ni­to­ro­wa­nia i oceny z ist­nie­ją­cy­mi pro­ce­sa­mi roz­wo­jo­wy­mi. W za­leż­no­ści od sys­te­mu i śro­do­wi­ska wdro­że­nia może to obej­mo­wać two­rze­nie po­to­ków prze­twa­rza­nia da­nych, wdra­ża­nie in­fra­struk­tu­ry tech­nicz­nej do gro­ma­dze­nia in­for­ma­cji ope­ra­cyj­nych lub usta­na­wia­nie pro­ce­dur do­ku­men­to­wa­nia zmian mo­de­li i wy­ni­ków ich oceny.

Po­nie­waż dzia­ła­nia na rzecz zgod­no­ści za­le­żą rów­nież od moż­li­wo­ści or­ga­ni­za­cyj­nych, ofe­ru­je­my do­radz­two w za­kre­sie za­rzą­dza­nia AI i szko­le­nia, które po­ma­ga­ją or­ga­ni­za­cjom oce­nić ist­nie­ją­ce prak­ty­ki, zi­den­ty­fi­ko­wać luki oraz usta­lić od­po­wied­ni po­dział od­po­wie­dzial­no­ści i pro­ce­du­ry. Uwzględ­nia­my przy tym doj­rza­łość or­ga­ni­za­cji w za­kre­sie AI, jej oto­cze­nie re­gu­la­cyj­ne i do­stęp­ne za­so­by.

Pod­su­mo­wa­nie

W tym wpi­sie omó­wi­li­śmy prak­tycz­ne wy­zwa­nia zwią­za­ne z wdra­ża­niem wy­mo­gów unij­ne­go AI Act do­ty­czą­cych sys­te­mów AI wy­so­kie­go ry­zy­ka. Przed­sta­wi­li­śmy trud­no­ści tech­nicz­ne zwią­za­ne z za­rzą­dza­niem da­ny­mi, do­kład­no­ścią, od­por­no­ścią, cy­ber­bez­pie­czeń­stwem i przej­rzy­sto­ścią, a także wy­zwa­nia prze­kro­jo­we do­ty­czą­ce do­ku­men­ta­cji, mo­ni­to­ro­wa­nia i włą­cza­nia środ­ków za­pew­nia­ją­cych zgod­ność do pro­ce­sów roz­wo­jo­wych. Przyj­rze­li­śmy się rów­nież temu, jak doj­rza­łość or­ga­ni­za­cji w za­kre­sie AI, do­świad­cze­nie re­gu­la­cyj­ne i do­stęp­ne za­so­by wpły­wa­ją na moż­li­wość spro­sta­nia tym wy­zwa­niom.

Jak po­ka­zu­je ta ana­li­za, zro­zu­mie­nie wy­mo­gów praw­nych to do­pie­ro punkt wyj­ścia. Trud­niej­szym za­da­niem bywa prze­ło­że­nie ich na nie­za­wod­ne roz­wią­za­nia tech­nicz­ne i pro­ce­du­ry, które po­zo­sta­ną sku­tecz­ne w miarę roz­wo­ju sys­te­mów AI. Choć może to wy­ma­gać znacz­ne­go wy­sił­ku, ist­nie­ją­ce prak­ty­ki roz­wo­jo­we i kom­pe­ten­cje or­ga­ni­za­cyj­ne mogą sta­no­wić war­to­ścio­wą pod­sta­wę. Na ko­niec wska­za­li­śmy, jak Kla­de­ro może wspie­rać te dzia­ła­nia po­przez roz­wój roz­wią­zań AI, do­radz­two w za­kre­sie za­rzą­dza­nia AI i szko­le­nia.

Za­pra­sza­my do śle­dze­nia ko­lej­nych wpi­sów o re­gu­la­cjach do­ty­czą­cych AI, za­rzą­dza­niu AI i prak­tycz­nych spo­so­bach za­pew­nia­nia zgod­no­ści z prze­pi­sa­mi.

Bi­blio­gra­fia