Motyw 76

Cy­ber­bez­pie­czeń­stwo od­gry­wa klu­czo­wą rolę w za­pew­nia­niu od­por­no­ści sys­te­mów AI na próby mo­dy­fi­ka­cji ich wy­ko­rzy­sta­nia, za­cho­wa­nia, sku­tecz­no­ści dzia­ła­nia lub obej­ścia ich za­bez­pie­czeń przez dzia­ła­ją­ce w złej wie­rze osoby trze­cie wy­ko­rzy­stu­ją­ce słabe punk­ty sys­te­mu. Cy­be­ra­ta­ki na sys­te­my AI mogą po­le­gać na wy­ko­rzy­sta­niu kon­kret­nych za­so­bów AI, ta­kich jak zbio­ry da­nych tre­nin­go­wych (np. za­tru­wa­nie da­nych) lub tre­no­wa­ne mo­de­le (np. ataki kon­tra­dyk­to­ryj­ne lub ataki wnio­sko­wa­nia o człon­ko­stwie), lub wy­ko­rzy­sta­niu sła­bych punk­tów w za­so­bach cy­fro­wych sys­te­mu AI lub w ba­zo­wej in­fra­struk­tu­rze ICT. Aby za­pew­nić po­ziom cy­ber­bez­pie­czeń­stwa od­po­wied­ni do ry­zy­ka, do­staw­cy sys­te­mów AI wy­so­kie­go ry­zy­ka po­win­ni zatem wdro­żyć od­po­wied­nie środ­ki, takie jak me­cha­ni­zmy kon­tro­li bez­pie­czeń­stwa, uwzględ­nia­jąc rów­nież w sto­sow­nych przy­pad­kach in­fra­struk­tu­rę ICT, na któ­rej opie­ra się dany sys­tem.