Con­si­de­ren­tul 65

Sis­te­mul de ges­tio­na­re a ris­cu­ri­lor ar tre­bui să con­stea într-​un pro­ces ite­ra­tiv con­ti­nuu care este pre­co­ni­zat și de­ru­lat pe par­cur­sul în­tre­gu­lui ciclu de viață al unui sis­tem de IA cu grad ri­di­cat de risc. Res­pec­ti­vul pro­ces ar tre­bui să aibă drept scop iden­ti­fi­ca­rea și ate­nu­a­rea ris­cu­ri­lor re­le­van­te re­pre­zen­ta­te de sis­te­me­le de IA pen­tru să­nă­ta­te, si­gu­ran­ță și drep­tu­ri­le fun­damen­ta­le. Sis­te­mul de ges­tio­na­re a ris­cu­ri­lor ar tre­bui să fie eva­lu­at și ac­tu­a­li­zat pe­ri­o­dic pen­tru a se asi­gu­ra efi­ca­ci­ta­tea sa con­ti­nuă, pre­cum și jus­ti­fi­ca­rea și do­cu­men­ta­rea ori­că­ror de­ci­zii și ac­țiuni sem­ni­fi­ca­ti­ve luate în te­me­iul pre­zen­tu­lui re­gu­la­ment. Acest pro­ces ar tre­bui să ga­ran­te­ze fap­tul că fur­ni­zo­rul iden­ti­fi­că ris­cu­ri­le sau efec­te­le ne­ga­ti­ve și pune în apli­ca­re mă­suri de ate­nu­a­re pen­tru ris­cu­ri­le cu­nos­cu­te și pre­vi­zi­bi­le în mod re­zo­na­bil re­pre­zen­ta­te de sis­te­me­le de IA pen­tru să­nă­ta­te, si­gu­ran­ță și drep­tu­ri­le fun­damen­ta­le, având în ve­de­re sco­pul pre­co­ni­zat al aces­to­ra și uti­li­za­rea ne­co­res­pun­ză­toa­re pre­vi­zi­bi­lă în mod re­zo­na­bil ale aces­tor sis­te­me, in­clu­siv po­si­bi­le­le ris­curi care de­curg din in­te­rac­țiu­nea din­tre sis­te­me­le de IA și me­di­ul în care func­țio­nea­ză. Sis­te­mul de ges­tio­na­re a ris­cu­ri­lor ar tre­bui să adop­te cele mai adec­va­te mă­suri de ges­tio­na­re a ris­cu­ri­lor, având în ve­de­re sta­di­ul cel mai avan­sat al teh­no­lo­gi­ei în do­me­ni­ul IA. Atunci când iden­ti­fi­că cele mai adec­va­te mă­suri de ges­tio­na­re a ris­cu­ri­lor, fur­ni­zo­rul ar tre­bui să do­cu­men­te­ze și să ex­pli­ce ale­ge­ri­le fă­cu­te și, după caz, să im­pli­ce ex­perți și părți in­te­re­sa­te ex­ter­ne. Atunci când iden­ti­fi­că uti­li­za­rea ne­co­res­pun­ză­toa­re pre­vi­zi­bi­lă în mod re­zo­na­bil a sis­te­me­lor de IA cu grad ri­di­cat de risc, fur­ni­zo­rul ar tre­bui să aco­pe­re uti­li­ză­ri­le sis­te­me­lor de IA în le­gă­tu­ră cu care se poate aș­tep­ta în mod re­zo­na­bil, să re­zul­te dintr-​un com­por­ta­ment uman ușor pre­vi­zi­bil în con­tex­tul ca­rac­te­ris­ti­ci­lor spe­ci­fi­ce și al uti­li­ză­rii unui anu­mit sis­tem de IA, deși uti­li­ză­ri­le res­pec­ti­ve nu sunt aco­pe­ri­te în mod di­rect de sco­pul pre­co­ni­zat și nu sunt pre­vă­zu­te în in­struc­țiu­ni­le de uti­li­za­re. Orice cir­cum­stan­țe cu­nos­cu­te sau pre­vi­zi­bi­le le­ga­te de uti­li­za­rea sis­te­mu­lui de IA cu grad ri­di­cat de risc în con­for­mi­ta­te cu sco­pul său pre­co­ni­zat sau în con­di­ții de uti­li­za­re ne­co­res­pun­ză­toa­re pre­vi­zi­bi­lă în mod re­zo­na­bil, care pot con­du­ce la ris­curi pen­tru să­nă­ta­te și si­gu­ran­ță sau pen­tru drep­tu­ri­le fun­damen­ta­le, ar tre­bui să fie in­clu­se în in­struc­țiu­ni­le de uti­li­za­re care sunt fur­ni­za­te de fur­ni­zor. Sco­pul este de a se asi­gu­ra că im­ple­men­ta­to­rul le cu­noaș­te și le ia în con­si­de­ra­re atunci când uti­li­zea­ză sis­te­mul de IA cu grad ri­di­cat de risc. Iden­ti­fi­ca­rea și pu­ne­rea în apli­ca­re a mă­su­ri­lor de ate­nu­a­re a ris­cu­ri­lor în caz de uti­li­za­re ne­co­res­pun­ză­toa­re pre­vi­zi­bi­lă în te­me­iul pre­zen­tu­lui re­gu­la­ment nu ar tre­bui să ne­ce­si­te din par­tea fur­ni­zo­ru­lui an­tre­na­re su­pli­men­ta­ră spe­ci­fi­că pen­tru sis­te­mul de IA cu grad ri­di­cat de risc pen­tru a abor­da uti­li­za­rea ne­co­res­pun­ză­toa­re pre­vi­zi­bi­lă. Cu toate aces­tea, fur­ni­zo­rii sunt în­cu­ra­jați să ia în con­si­de­ra­re ast­fel de mă­suri su­pli­men­ta­re de an­tre­na­re pen­tru a ate­nua uti­li­ză­ri­le ne­co­res­pun­ză­toa­re pre­vi­zi­bi­le în mod re­zo­na­bil, după cum este ne­ce­sar și adec­vat.