Ar­ti­co­lul 60: Tes­ta­rea sis­te­me­lor de IA cu grad ri­di­cat de risc în con­di­ții reale în afara spa­ți­i­lor de tes­ta­re în ma­te­rie de re­gle­men­ta­re în do­me­ni­ul IA

(1)

Tes­ta­rea sis­te­me­lor de IA cu grad ri­di­cat de risc în con­di­ții reale în afara spa­ți­i­lor de tes­ta­re în ma­te­rie de re­gle­men­ta­re în do­me­ni­ul IA poate fi efec­tu­a­tă de către fur­ni­zo­rii sau fur­ni­zo­rii po­ten­ți­ali de sis­te­me de IA cu grad ri­di­cat de risc enu­me­rați în anexa III sau care intră sub in­ci­den­ța ac­te­lor le­gi­sla­ti­ve de ar­mo­ni­za­re ale Uniu­nii enu­me­ra­te în sec­țiu­nea A din anexa I, în con­for­mi­ta­te cu pre­zen­tul ar­ti­col și cu pla­nul de tes­ta­re în con­di­ții reale men­țio­nat în ca­drul pre­zen­tu­lui ar­ti­col, fără a aduce atin­ge­re in­ter­dic­ți­i­lor pre­vă­zu­te la ar­ti­co­lul 5.

Co­mi­sia pre­ci­zea­ză, prin in­ter­me­di­ul unor acte de pu­ne­re în apli­ca­re, ele­men­te­le de­ta­li­a­te ale pla­nu­lui de tes­ta­re în con­di­ții reale. Res­pec­ti­ve­le acte de pu­ne­re în apli­ca­re se adop­tă în con­for­mi­ta­te cu pro­ce­du­ra de exa­mi­na­re men­țio­na­tă la ar­ti­co­lul 98 ali­ne­a­tul (2).

Pre­zen­tul ali­ne­at nu aduce atin­ge­re drep­tu­lui Uniu­nii sau drep­tu­lui in­tern pri­vind tes­ta­rea în con­di­ții reale a sis­te­me­lor de IA cu grad ri­di­cat de risc le­ga­te de pro­du­se­le care fac obiec­tul ac­te­lor le­gi­sla­ti­ve enu­me­ra­te în anexa I.

(2)

Fur­ni­zo­rii sau fur­ni­zo­rii po­ten­ți­ali pot efec­tua teste ale sis­te­me­lor de IA cu grad ri­di­cat de risc men­țio­na­te în anexa III sau care intră sub in­ci­den­ța ac­te­lor le­gi­sla­ti­ve de ar­mo­ni­za­re ale Uniu­nii enu­me­ra­te în sec­țiu­nea A din anexa I în con­di­ții reale în orice mo­ment îna­in­te de in­tro­du­ce­rea pe piață sau de pu­ne­rea în func­țiu­ne a sis­te­me­lor de IA cu grad ri­di­cat de risc, pe cont pro­priu sau în par­te­ne­ri­at cu unul sau mai mulți im­ple­men­ta­tori sau im­ple­men­ta­tori po­ten­ți­ali.

(3)

Tes­ta­rea sis­te­me­lor de IA cu grad ri­di­cat de risc în con­di­ții reale în te­me­iul pre­zen­tu­lui ar­ti­col nu aduce atin­ge­re ori­că­rei eva­luări etice care este im­pu­să de drep­tul Uniu­nii sau de drep­tul in­tern.

(4)

Fur­ni­zo­rii sau po­ten­ți­a­lii fur­ni­zori pot efec­tua tes­ta­rea în con­di­ții reale numai dacă sunt în­de­pli­ni­te toate con­di­ți­i­le ur­mă­toa­re:

(a)

fur­ni­zo­rul sau po­ten­ți­a­lul fur­ni­zor a ela­bo­rat un plan de tes­ta­re în con­di­ții reale și l-a pre­zen­tat au­to­ri­tă­ții de su­pra­ve­ghe­re a pie­ței din sta­tul mem­bru în care ur­mea­ză să se efec­tu­e­ze tes­ta­rea în con­di­ții reale;

(b)

au­to­ri­ta­tea de su­pra­ve­ghe­re a pie­ței din sta­tul mem­bru în care ur­mea­ză să fie efec­tu­a­tă tes­ta­rea în con­di­ții reale a apro­bat tes­ta­rea în con­di­ții reale și pla­nul de tes­ta­re în con­di­ții reale; în cazul în care au­to­ri­ta­tea de su­pra­ve­ghe­re a pie­ței nu a fur­ni­zat un răs­puns în ter­men de 30 de zile, se con­si­de­ră că tes­ta­rea în con­di­ții reale și pla­nul de tes­ta­re în con­di­ții reale au fost apro­ba­te; în cazul în care drep­tul in­tern nu pre­ve­de o apro­ba­re ta­ci­tă, tes­ta­rea în con­di­ții reale face în con­ti­nu­a­re obiec­tul unei au­to­ri­za­ții;

(c)

fur­ni­zo­rul sau po­ten­ți­a­lul fur­ni­zor, cu ex­cep­ția fur­ni­zo­ru­lui sau a po­ten­ți­a­lu­lui fur­ni­zor de sis­te­me de IA cu grad ri­di­cat de risc men­țio­na­te la punc­te­le 1, 6 și 7 din anexa III în do­me­ni­ul apli­că­rii legii, al mi­gra­ți­ei, al azi­lu­lui și al ges­tio­nă­rii con­tro­lu­lui la fron­ti­e­re și de sis­te­me de IA cu grad ri­di­cat de risc men­țio­na­te la punc­tul 2 din anexa III, a în­re­gis­trat tes­ta­rea în con­di­ții reale în con­for­mi­ta­te cu ar­ti­co­lul 71 ali­ne­a­tul (4) cu un număr unic de iden­ti­fi­ca­re la nive­lul în­tre­gii Uniuni și furnizând in­for­ma­ți­i­le spe­ci­fi­ca­te în anexa IX; fur­ni­zo­rul sau po­ten­ți­a­lul fur­ni­zor de sis­te­me de IA cu grad ri­di­cat de risc men­țio­na­te la punc­te­le 1, 6 și 7 din anexa III în do­me­ni­ul apli­că­rii legii, al mi­gra­ți­ei, al azi­lu­lui și al ges­tio­nă­rii con­tro­lu­lui la fron­ti­e­re a în­re­gis­trat tes­ta­rea în con­di­ții reale în sec­țiu­nea se­cu­ri­za­tă care nu este ac­ce­si­bi­lă pu­bli­cu­lui a bazei de date a UE în con­for­mi­ta­te cu ar­ti­co­lul 49 ali­ne­a­tul (4) li­te­ra (d), cu un număr unic de iden­ti­fi­ca­re la nive­lul în­tre­gii Uniuni și furnizând in­for­ma­ți­i­le spe­ci­fi­ca­te în aces­ta; fur­ni­zo­rul sau po­ten­ți­a­lul fur­ni­zor de sis­te­me de IA cu grad ri­di­cat de risc men­țio­na­te la punc­tul 2 din anexa III a în­re­gis­trat tes­ta­rea în con­di­ții reale în con­for­mi­ta­te cu ar­ti­co­lul 49 ali­ne­a­tul (5);

(d)

fur­ni­zo­rul sau po­ten­ți­a­lul fur­ni­zor care efec­tu­ea­ză tes­ta­rea în con­di­ții reale este sta­bi­lit în Uniu­ne sau a de­sem­nat un re­pre­zen­tant legal care este sta­bi­lit în Uniu­ne;

(e)

da­te­le co­lec­ta­te și pre­lu­cra­te în sco­pul tes­tă­rii în con­di­ții reale se trans­fe­ră către țări terțe numai cu con­di­ția im­ple­men­tă­rii unor ga­ran­ții co­res­pun­ză­toa­re și apli­ca­bi­le în te­me­iul drep­tu­lui Uniu­nii;

(f)

tes­ta­rea în con­di­ții reale nu du­rea­ză mai mult decât este ne­ce­sar pen­tru re­a­li­za­rea obiec­ti­ve­lor sale și, în orice caz, nu de­pă­șeș­te o pe­ri­oa­dă de 6 luni, care poate fi pre­lun­gi­tă cu încă 6 luni, sub re­zer­va no­ti­fi­că­rii pre­a­la­bi­le de către fur­ni­zor sau po­ten­ți­a­lul fur­ni­zor a au­to­ri­tă­ții de su­pra­ve­ghe­re a pie­ței, în­so­ți­tă de o ex­pli­ca­ție pri­vind ne­ce­si­ta­tea unei ast­fel de pre­lun­giri;

(g)

su­biec­ții tes­tă­rii în con­di­ții reale, care sunt per­soa­ne care apar­țin gru­pu­ri­lor vul­ne­ra­bi­le din cauza vârstei sau a di­za­bi­li­tă­ții, sunt pro­te­jați în mod co­res­pun­ză­tor;

(h)

în cazul în care un fur­ni­zor sau un po­ten­ți­al fur­ni­zor or­ga­ni­zea­ză tes­ta­rea în con­di­ții reale în co­o­pe­ra­re cu unul sau mai mulți im­ple­men­ta­tori sau im­ple­men­ta­tori po­ten­ți­ali, aceștia din urmă au fost in­for­mați cu pri­vi­re la toate as­pec­te­le tes­tă­rii care sunt re­le­van­te pen­tru de­ci­zia lor de a par­ti­ci­pa și au pri­mit in­struc­țiu­ni­le re­le­van­te pen­tru uti­li­za­rea sis­te­mu­lui de IA men­țio­na­te la ar­ti­co­lul 13; fur­ni­zo­rul sau po­ten­ți­a­lul fur­ni­zor și im­ple­men­ta­to­rul sau po­ten­ți­a­lul im­ple­men­ta­tor în­che­ie un acord în care pre­ci­zea­ză ro­lu­ri­le și res­pon­sa­bi­li­tă­ți­le lor, în ve­de­rea asi­gu­ră­rii con­for­mi­tă­ții cu dis­po­zi­ți­i­le pri­vind tes­ta­rea în con­di­ții reale în te­me­iul pre­zen­tu­lui re­gu­la­ment și al altor acte le­gi­sla­ti­ve apli­ca­bi­le ale Uniu­nii, pre­cum și al drep­tu­lui in­tern;

(i)

su­biec­ții tes­tă­rii în con­di­ții reale și-au dat consimțământul în cu­noș­tin­ță de cauză în con­for­mi­ta­te cu ar­ti­co­lul 61 sau, în cazul apli­că­rii legii, în cazul în care so­li­ci­ta­rea consimțământului în cu­noș­tin­ță de cauză ar îm­pie­di­ca tes­ta­rea sis­te­mu­lui de IA, tes­ta­rea în sine și re­zul­ta­tul tes­tă­rii în con­di­ții reale nu au niciun efect ne­ga­tiv asu­pra su­biec­ți­lor, iar da­te­le cu ca­rac­ter per­so­nal ale aces­to­ra se șterg după efec­tu­a­rea tes­tă­rii;

(j)

tes­ta­rea în con­di­ții reale este su­pra­ve­ghe­a­tă efec­tiv de fur­ni­zor sau de po­ten­ți­a­lul fur­ni­zor, pre­cum și de im­ple­men­ta­tori sau de po­ten­ți­a­lii im­ple­men­ta­tori prin in­ter­me­di­ul unor per­soa­ne care sunt ca­li­fi­ca­te co­res­pun­ză­tor în do­me­ni­ul re­le­vant și care au ca­pa­ci­ta­tea, for­ma­rea și au­to­ri­ta­tea ne­ce­sa­re pen­tru a-și în­de­plini sar­ci­ni­le;

(k)

pre­vi­ziu­ni­le, re­co­man­dă­ri­le sau de­ci­zi­i­le sis­te­mu­lui de IA pot fi efec­tiv in­ver­sa­te și ig­no­ra­te.

(5)

Orice su­biecți ai tes­tă­rii în con­di­ții reale sau re­pre­zen­tan­ții lor de­sem­nați legal, după caz, se pot re­tra­ge din tes­ta­re în orice mo­ment, fără vreun pre­ju­di­ciu și fără a tre­bui să pre­zin­te vreo jus­ti­fi­ca­re, prin re­vo­ca­rea consimțământului lor în cu­noș­tin­ță de cauză și pot so­li­ci­ta șter­ge­rea ime­di­ată și per­ma­nen­tă a da­te­lor lor cu ca­rac­ter per­so­nal. Re­tra­ge­rea consimțământului în cu­noș­tin­ță de cauză nu afec­tea­ză ac­ti­vi­tă­ți­le deja des­fă­șu­ra­te.

(6)

În con­for­mi­ta­te cu ar­ti­co­lul 75, sta­te­le mem­bre con­fe­ră au­to­ri­tă­ți­lor lor de su­pra­ve­ghe­re a pie­ței com­pe­ten­ța de a so­li­ci­ta in­for­ma­ții fur­ni­zo­ri­lor și po­ten­ți­a­li­lor fur­ni­zori, de a efec­tua in­spec­ții nea­nun­ța­te la dis­tan­ță sau la fața lo­cu­lui și de a efec­tua ve­ri­fi­cări pri­vind efec­tu­a­rea tes­tă­rii în con­di­ții reale și a sis­te­me­lor de IA cu grad ri­di­cat de risc con­e­xe. Au­to­ri­tă­ți­le de su­pra­ve­ghe­re a pie­ței fac uz de aces­te com­pe­ten­țe pen­tru a asi­gu­ra o dezvol­ta­re în con­di­ții de si­gu­ran­ță a tes­tă­rii în con­di­ții reale.

(7)

Orice in­ci­dent grav iden­ti­fi­cat în cur­sul tes­tă­rii în con­di­ții reale se ra­por­tea­ză au­to­ri­tă­ții na­țio­na­le de su­pra­ve­ghe­re a pie­ței în con­for­mi­ta­te cu ar­ti­co­lul 73. Fur­ni­zo­rul sau po­ten­ți­a­lul fur­ni­zor adop­tă mă­suri ime­di­a­te de ate­nu­a­re sau, în caz con­trar, sus­pen­dă tes­ta­rea în con­di­ții reale până când are loc o ast­fel de ate­nu­a­re sau îi pune capăt în alt mod. Fur­ni­zo­rul sau po­ten­ți­a­lul fur­ni­zor in­sti­tu­ie o pro­ce­du­ră pen­tru re­che­ma­rea promp­tă a sis­te­mu­lui de IA în cazul unei ast­fel de în­ce­tări a tes­tă­rii în con­di­ții reale.

(8)

Fur­ni­zo­rii sau po­ten­ți­a­lii fur­ni­zori in­for­mea­ză au­to­ri­ta­tea na­țio­na­lă de su­pra­ve­ghe­re a pie­ței din sta­tul mem­bru în care se efec­tu­ea­ză tes­ta­rea în con­di­ții reale cu pri­vi­re la sus­pen­da­rea sau în­ce­ta­rea tes­tă­rii în con­di­ții reale și cu pri­vi­re la re­zul­ta­te­le fi­na­le.

(9)

Fur­ni­zo­rul sau po­ten­ți­a­lul fur­ni­zor este res­pon­sa­bil, în te­me­iul drep­tu­lui apli­ca­bil al Uniu­nii și al drep­tu­lui in­tern în ma­te­rie de răs­pun­de­re, pen­tru orice pre­ju­di­ciu ca­u­zat în cur­sul tes­tă­rii în con­di­ții reale pe care o efec­tu­ea­ză.

View official legal text on EUR-Lex

Need help navigating the AI Act?

Let Kladero help you.

Get in Touch

Kladero — The Partner for Practical AI Adoption

Kladero helps organizations shape AI opportunities into useful systems, responsible workflows, and the knowledge to operate them well.
We offer a variety of products and services, ranging from AI development and integration to AI Act readiness and hands-on training. Talk to us to find out more.