Con­si­de­ren­tul 61

Anu­mi­te sis­te­me de IA des­ti­na­te ad­mi­nis­tră­rii jus­ti­ți­ei și pro­ce­se­lor de­mo­cra­ti­ce ar tre­bui să fie cla­si­fi­ca­te ca prezentând un grad ri­di­cat de risc, având în ve­de­re im­pac­tul po­ten­ți­al sem­ni­fi­ca­tiv al aces­to­ra asu­pra de­mo­cra­ți­ei, sta­tu­lui de drept și li­ber­tă­ți­lor in­di­vi­du­a­le, pre­cum și asu­pra drep­tu­lui la o cale de atac efec­ti­vă și la un pro­ces echi­ta­bil. În spe­cial, pen­tru a abor­da po­ten­ți­a­le­le ris­curi de pre­ju­de­căți, erori și opa­ci­ta­te, este oport­un să fie ca­li­fi­ca­te drept sis­te­me cu grad ri­di­cat de risc sis­te­me­le de IA des­ti­na­te să fie uti­li­za­te de o au­to­ri­ta­te ju­di­ci­a­ră sau în nu­me­le aces­te­ia pen­tru a ajuta au­to­ri­tă­ți­le ju­di­ci­a­re să cer­ce­te­ze și să in­ter­pre­te­ze fap­te­le și legea și să apli­ce legea unui set con­cret de fapte. Sis­te­me­le de IA des­ti­na­te a fi uti­li­za­te de or­ga­nis­me­le de so­lu­țio­na­re al­ter­na­ti­vă a li­ti­gi­i­lor în aces­te sco­puri ar tre­bui, de ase­me­nea, să fie con­si­de­ra­te ca având un grad ri­di­cat de risc atunci când re­zul­ta­te­le pro­ce­du­ri­lor de so­lu­țio­na­re al­ter­na­ti­vă a li­ti­gi­i­lor pro­duc efec­te ju­ri­di­ce pen­tru părți. Uti­li­za­rea in­stru­men­te­lor de IA poate spri­jini pu­te­rea de de­ci­zie a ju­de­că­to­ri­lor sau in­de­pen­den­ța sis­te­mu­lui ju­di­ci­ar, dar nu ar tre­bui să le în­lo­cu­ias­că: pro­ce­sul de­ci­zio­nal final tre­bu­ie să rămână o ac­ti­vi­ta­te umană. Cla­si­fi­ca­rea sis­te­me­lor de IA ca prezentând un grad ri­di­cat de risc nu ar tre­bui, to­tuși, să se ex­tin­dă la sis­te­me­le de IA des­ti­na­te unor ac­ti­vi­tăți ad­mi­nis­tra­ti­ve pur au­xi­li­a­re care nu afec­tea­ză ad­mi­nis­tra­rea efec­ti­vă a jus­ti­ți­ei în ca­zuri in­di­vi­du­a­le, cum ar fi ano­ni­mi­za­rea sau pse­u­do­ni­mi­za­rea hotărârilor ju­de­că­to­rești, a do­cu­men­te­lor sau a da­te­lor, co­mu­ni­ca­rea între mem­brii per­so­na­lu­lui, sar­ci­ni­le ad­mi­nis­tra­ti­ve.