Con­si­de­ren­tul 155

Pen­tru a se asi­gu­ra că fur­ni­zo­rii de sis­te­me de IA cu grad ri­di­cat de risc pot ține seama de ex­pe­rien­ța pri­vind uti­li­za­rea sis­te­me­lor de IA cu grad ri­di­cat de risc pen­tru îm­bu­nă­tă­ți­rea sis­te­me­lor lor și a pro­ce­su­lui de pro­iec­ta­re și dezvol­ta­re sau că pot lua orice mă­su­ră co­rec­ti­vă po­si­bi­lă în timp util, toți fur­ni­zo­rii ar tre­bui să dis­pu­nă de un sis­tem de mo­ni­to­ri­za­re ul­te­ri­oa­ră in­tro­du­ce­rii pe piață. După caz, mo­ni­to­ri­za­rea ul­te­ri­oa­ră in­tro­du­ce­rii pe piață ar tre­bui să in­clu­dă o ana­li­ză a in­te­rac­țiu­nii cu alte sis­te­me de IA, in­clu­siv cu alte dis­po­zi­ti­ve și alt software. Mo­ni­to­ri­za­rea ul­te­ri­oa­ră in­tro­du­ce­rii pe piață nu ar tre­bui să vi­ze­ze da­te­le ope­ra­țio­na­le sen­si­bi­le ale im­ple­men­ta­to­ri­lor care sunt au­to­ri­tăți de apli­ca­re a legii. Acest sis­tem este, de ase­me­nea, esen­ți­al pen­tru a se asi­gu­ra că po­si­bi­le­le ris­curi care de­curg din sis­te­me­le de IA care con­ti­nuă să „în­vețe” după ce au fost in­tro­du­se pe piață sau puse în func­țiu­ne pot fi abor­da­te într-​un mod mai efi­cient și în timp util. În acest con­text, fur­ni­zo­rii ar tre­bui, de ase­me­nea, să aibă obli­ga­ția de a dis­pu­ne de un sis­tem pen­tru a ra­por­ta au­to­ri­tă­ți­lor re­le­van­te orice in­ci­dent grav care de­cur­ge din uti­li­za­rea sis­te­me­lor lor de IA, și anume un in­ci­dent sau o func­țio­na­re de­fec­tu­oa­să care duce la deces sau la daune grave pen­tru să­nă­ta­te, la per­tur­bări grave și ire­ver­si­bi­le ale ges­tio­nă­rii și func­țio­nă­rii in­fras­truc­tu­rii cri­ti­ce, la în­căl­cări ale obli­ga­ți­i­lor în te­me­iul drep­tu­lui Uniu­nii me­ni­te să pro­te­je­ze drep­tu­ri­le fun­damen­ta­le sau la daune grave aduse bu­nu­ri­lor ma­te­ri­a­le sau me­diu­lui.