Con­si­de­ren­tul 75

Ro­bus­te­țea teh­ni­că este o ce­rin­ță esen­ți­a­lă pen­tru sis­te­me­le de IA cu grad ri­di­cat de risc. Aces­tea ar tre­bui să fie re­zi­li­en­te în ra­port cu com­por­ta­men­tul pre­ju­di­ci­a­bil sau alt­fel in­de­zi­ra­bil, care poate re­zul­ta din li­mi­tă­ri­le din ca­drul sis­te­me­lor sau al me­diu­lui în care func­țio­nea­ză sis­te­me­le (de exem­plu, erori, de­fec­țiuni, in­con­sec­ven­țe, si­tu­a­ții ne­pre­vă­zu­te). Prin ur­ma­re, ar tre­bui să fie luate mă­suri teh­ni­ce și or­ga­ni­za­tori­ce pen­tru a asi­gu­ra ro­bus­te­țea sis­te­me­lor de IA cu grad ri­di­cat de risc, de exem­plu prin pro­iec­ta­rea și dezvol­ta­rea de so­lu­ții teh­ni­ce adec­va­te pen­tru a pre­ve­ni sau a re­du­ce la mi­ni­mum com­por­ta­men­tul pre­ju­di­ci­a­bil sau alt­fel in­de­zi­ra­bil în alt mod. So­lu­ți­i­le teh­ni­ce res­pec­ti­ve pot in­clu­de, de exem­plu, me­ca­nis­me care per­mit sis­te­mu­lui să își în­tre­ru­pă func­țio­na­rea în con­di­ții de si­gu­ran­ță (pla­nuri de auto­pro­tec­ție) în pre­zen­ța anu­mi­tor ano­ma­lii sau atunci când func­țio­na­rea are loc în afara anu­mi­tor li­mi­te pres­ta­bi­li­te. In­ca­pa­ci­ta­tea de a asi­gu­ra pro­tec­ția îm­po­tri­va aces­tor ris­curi ar putea avea un im­pact asu­pra si­gu­ran­ței sau ar putea afec­ta în mod ne­ga­tiv drep­tu­ri­le fun­damen­ta­le, de exem­plu din cauza unor de­ci­zii ero­na­te sau a unor re­zul­ta­te greși­te sau dis­to­r­sio­na­te de pre­ju­de­căți ge­ne­ra­te de sis­te­mul de IA.