Ar­ti­co­lul 15: Acu­ra­te­țe, ro­bus­te­țe și se­cu­ri­ta­te ci­ber­ne­ti­că

Sis­te­me­le de IA cu grad ri­di­cat de risc sunt con­ce­pu­te și dezvol­ta­te ast­fel încât să atingă un nivel adec­vat de acu­ra­te­țe, ro­bus­te­țe și se­cu­ri­ta­te ci­ber­ne­ti­că și să func­țio­ne­ze în mod con­sec­vent în aces­te pri­vin­țe pe par­cur­sul în­tre­gu­lui lor ciclu de viață.

Pen­tru a abor­da as­pec­te­le teh­ni­ce ale mo­du­lui de mă­su­ra­re a nive­lu­ri­lor adec­va­te de acu­ra­te­țe și ro­bus­te­țe pre­vă­zu­te la ali­ne­a­tul (1) și orice alți in­di­ca­tori de per­for­man­ță re­le­vanți, Co­mi­sia, în co­o­pe­ra­re cu părți in­te­re­sa­te și or­ga­ni­za­ții re­le­van­te pre­cum au­to­ri­tă­ți­le din do­me­ni­ul me­tro­lo­gi­ei și al eta­lo­nă­rii în­cu­ra­jea­ză, după caz, ela­bo­ra­rea de va­lori de re­fe­rin­ță și me­to­do­lo­gii de mă­su­ra­re.

Nive­lu­ri­le de acu­ra­te­țe și in­di­ca­to­rii de acu­ra­te­țe re­le­vanți ai sis­te­me­lor de IA cu grad ri­di­cat de risc se de­cla­ră în in­struc­țiu­ni­le de uti­li­za­re afe­ren­te.

Sis­te­me­le de IA cu grad ri­di­cat de risc sunt cât mai re­zi­li­en­te po­si­bil în ceea ce pri­veș­te ero­ri­le, de­fec­țiu­ni­le sau in­co­e­ren­țe­le care pot apă­rea în ca­drul sis­te­mu­lui sau în me­di­ul în care func­țio­nea­ză sis­te­mul, în spe­cial din cauza in­te­rac­țiu­nii lor cu per­soa­ne fi­zi­ce sau cu alte sis­te­me. Se iau mă­suri teh­ni­ce și or­ga­ni­za­tori­ce în acest sens.

Ro­bus­te­țea sis­te­me­lor de IA cu grad ri­di­cat de risc poate fi asi­gu­ra­tă prin so­lu­ții teh­ni­ce re­dun­dan­te, care pot in­clu­de pla­nuri de re­zer­vă sau de func­țio­na­re în caz de ava­rie.

Sis­te­me­le de IA cu grad ri­di­cat de risc care con­ti­nuă să în­vețe după ce au fost in­tro­du­se pe piață sau puse în func­țiu­ne sunt dezvol­ta­te ast­fel încât să eli­mi­ne sau să re­du­că pe cât po­si­bil ris­cul ca even­tu­a­le re­zul­ta­te dis­to­r­sio­na­te de pre­ju­de­căți să in­flu­en­țe­ze da­te­le de in­tra­re pen­tru ope­ra­țiu­ni­le vi­i­toa­re (bucle de fe­e­d­ba­ck) și să se asi­gu­re că orice ast­fel de bucle de fe­e­d­ba­ck sunt abor­da­te în mod co­res­pun­ză­tor prin mă­suri de ate­nu­a­re adec­va­te.

Sis­te­me­le de IA cu grad ri­di­cat de risc sunt re­zi­li­en­te în ceea ce pri­veș­te în­cer­că­ri­le unor părți terțe nea­u­to­ri­za­te de a le mo­di­fi­ca uti­li­za­rea, re­zul­ta­te­le sau per­for­man­ța prin ex­ploa­ta­rea vul­ne­ra­bi­li­tă­ți­lor sis­te­mu­lui.

So­lu­ți­i­le teh­ni­ce me­ni­te să asi­gu­re se­cu­ri­ta­tea ci­ber­ne­ti­că a sis­te­me­lor de IA cu grad ri­di­cat de risc sunt adec­va­te cir­cum­stan­țe­lor re­le­van­te și ris­cu­ri­lor.

So­lu­ți­i­le teh­ni­ce pen­tru abor­da­rea vul­ne­ra­bi­li­tă­ți­lor spe­ci­fi­ce ale IA in­clud, după caz, mă­suri de pre­ve­ni­re, de­pis­ta­re, răs­puns, so­lu­țio­na­re și con­trol în pri­vin­ța ata­cu­ri­lor ce vi­zea­ză ma­ni­pu­la­rea se­tu­lui de date de an­tre­na­ment (otră­vi­rea da­te­lor) sau a com­po­nen­te­lor prean­tre­na­te uti­li­za­te la an­tre­na­ment (otră­vi­rea mo­de­le­lor), a da­te­lor de in­tra­re con­ce­pu­te să de­ter­mi­ne mo­de­lul de IA să facă o gre­șe­a­lă (exem­ple con­tra­dic­to­rii sau elu­da­rea mo­de­le­lor), a ata­cu­ri­lor la adre­sa con­fi­den­ți­a­li­tă­ții sau a de­fec­te­lor mo­de­lu­lui.