Ar­ty­kuł 15: Do­kład­ność, so­lid­ność i cy­ber­bez­pie­czeń­stwo

Sys­te­my AI wy­so­kie­go ry­zy­ka pro­jek­tu­je się i roz­wi­ja w taki spo­sób, aby osią­ga­ły od­po­wied­ni po­ziom do­kład­no­ści, so­lid­no­ści i cy­ber­bez­pie­czeń­stwa oraz by dzia­ła­ły kon­se­kwent­nie pod tymi wzglę­da­mi w całym cyklu życia.

Aby od­nieść się do tech­nicz­nych aspek­tów po­mia­ru od­po­wied­nich po­zio­mów do­kład­no­ści i so­lid­no­ści okre­ślo­nych w ust. 1 oraz wszel­kich in­nych istot­nych wskaź­ni­ków sku­tecz­no­ści dzia­ła­nia, Ko­mi­sja we współ­pra­cy z od­po­wied­ni­mi za­in­te­re­so­wa­ny­mi stro­na­mi i or­ga­ni­za­cja­mi, ta­ki­mi jak or­ga­ny me­tro­lo­gicz­ne i or­ga­ny ds. ana­li­zy po­rów­naw­czej, za­chę­ca w sto­sow­nych przy­pad­kach do opra­co­wy­wa­nia po­zio­mów od­nie­sie­nia i metod po­mia­ro­wych.

Po­zio­my do­kład­no­ści i od­po­wied­nie wskaź­ni­ki do­kład­no­ści sys­te­mów AI wy­so­kie­go ry­zy­ka de­kla­ru­je się w do­łą­czo­nych do nich in­struk­cjach ob­słu­gi.

Sys­te­my AI wy­so­kie­go ry­zy­ka muszą być moż­li­wie jak naj­od­por­niej­sze na błędy, uster­ki lub nie­spój­no­ści, które mogą wy­stą­pić w sys­te­mie lub w śro­do­wi­sku, w któ­rym dzia­ła sys­tem, w szcze­gól­no­ści w wy­ni­ku in­te­rak­cji z oso­ba­mi fi­zycz­ny­mi lub in­ny­mi sys­te­ma­mi. W tym za­kre­sie po­dej­mu­je się środ­ki tech­nicz­ne i or­ga­ni­za­cyj­ne.

So­lid­ność sys­te­mów AI wy­so­kie­go ry­zy­ka można osią­gnąć dzię­ki roz­wią­za­niom tech­nicz­nym gwa­ran­tu­ją­cym re­dun­dan­cję, które mogą obej­mo­wać plany za­kła­da­ją­ce do­stęp­ność sys­te­mu za­pa­so­we­go lub plany za­pew­nia­ją­ce przej­ście sys­te­mu w stan bez­piecz­ny (tzw. „fail-​safe”).

Sys­te­my AI wy­so­kie­go ry­zy­ka, które po wpro­wa­dze­niu na rynek lub od­da­niu do użyt­ku nadal się uczą, roz­wi­ja się w taki spo­sób, aby w moż­li­wie naj­więk­szym stop­niu wy­eli­mi­no­wać lub ogra­ni­czyć ry­zy­ko po­ten­cjal­nie stron­ni­czych wy­ni­ków wpły­wa­ją­cych na dane wej­ścio­we wy­ko­rzy­sty­wa­ne na po­trze­by przy­szłych ope­ra­cji (sprzę­że­nie zwrot­ne) oraz aby za­pew­nić, by wszel­kie tego typu sprzę­że­nie zwrot­ne zo­sta­ło od­po­wied­nio uwzględ­nio­ne przy po­mo­cy od­po­wied­nich środ­ków ogra­ni­cza­ją­cych ry­zy­ko.

Sys­te­my AI wy­so­kie­go ry­zy­ka muszą być od­por­ne na próby nie­upo­waż­nio­nych osób trze­cich ma­ją­ce na celu zmia­nę ich wy­ko­rzy­sta­nia, wy­ni­ków lub sku­tecz­no­ści dzia­ła­nia po­przez wy­ko­rzy­sta­nie sła­bych punk­tów sys­te­mu.

Roz­wią­za­nia tech­nicz­ne ma­ją­ce na celu za­pew­nie­nie cy­ber­bez­pie­czeń­stwa sys­te­mów AI wy­so­kie­go ry­zy­ka muszą być do­sto­so­wa­ne do od­po­wied­nich oko­licz­no­ści i ry­zy­ka.

Roz­wią­za­nia tech­nicz­ne ma­ją­ce na celu eli­mi­no­wa­nie sła­bych punk­tów cha­rak­te­ry­stycz­nych dla AI obej­mu­ją, w sto­sow­nych przy­pad­kach, środ­ki słu­żą­ce za­po­bie­ga­niu ata­kom ma­ją­cym na celu ma­ni­pu­lo­wa­nie zbio­rem da­nych tre­nin­go­wych (za­tru­wa­nie da­nych) lub ele­men­ta­mi sto­so­wa­ny­mi przy tre­no­wa­niu, które zo­sta­ły pod­da­ne pre­tre­no­wa­niu (za­tru­wa­nie mo­de­lu), wpro­wa­dza­niu da­nych wej­ścio­wych, które mają na celu spo­wo­do­wa­nie błędu w mo­de­lu AI (przy­kła­dy kon­tra­dyk­to­ryj­ne lub omi­ja­nie mo­de­lu), ata­kom na po­uf­ność lub wadom mo­de­lu, a także środ­ki w za­kre­sie wy­kry­wa­nia tych za­gro­żeń, re­ago­wa­nia na nie, ich roz­wią­zy­wa­nia i ich kon­tro­lo­wa­nia.