Dez­vă­lu­i­rea con­ți­nu­tu­lui ge­ne­rat de IA în te­me­iul EU AI Act

Deepfake-​uri

Im­ple­men­ta­to­rii tre­bu­ie să dez­vă­lu­ie si­tu­a­ți­i­le în care IA a fost uti­li­za­tă pen­tru ge­ne­ra­rea sau ma­ni­pu­la­rea de con­ți­nut de tip ima­gi­ne, audio sau video, dacă acel con­ți­nut con­sti­tu­ie un de­e­p­fa­ke. Ar­ti­co­lul 3 ali­ne­a­tul (60) din EU AI Act de­fi­neș­te deepfake-​urile ast­fel:

“„de­e­p­fa­ke” în­seam­nă con­ți­nut de tip ima­gi­ne, audio sau video ge­ne­rat sau ma­ni­pu­lat de IA care sea­mă­nă cu per­soa­ne, obiec­te, lo­curi, en­ti­tăți sau eve­ni­men­te exis­ten­te și care ar părea în mod fals unei per­soa­ne ca fiind au­ten­tic sau ve­ri­dic;”

O ana­li­ză mai de­ta­li­a­tă a si­tu­a­ți­i­lor în care un con­ți­nut poate con­sti­tui un de­e­p­fa­ke, îm­pre­u­nă cu exem­ple, este pre­zen­ta­tă în orien­tă­ri­le pu­bli­ca­te de Co­mi­sia Eu­ro­pea­nă pri­vind pu­ne­rea în apli­ca­re a obli­ga­ți­i­lor de trans­pa­ren­ță [7]. În spe­cial, Orien­tă­ri­le exa­mi­nea­ză no­țiu­nea de de­e­p­fa­ke pe baza a patru cri­te­rii:

• Ase­mă­na­re. Ar tre­bui să exis­te un grad ri­di­cat de si­mi­li­tu­di­ne între con­ți­nu­tul ge­ne­rat sau ma­ni­pu­lat de IA și su­biec­tul pe care îl re­pro­du­ce.

• Exis­tent. Su­biec­tul re­pre­zen­tat de con­ți­nu­tul ge­ne­rat sau ma­ni­pu­lat de IA ar tre­bui să pară re­a­list, și nu evi­dent ne­re­a­list sau si­mu­lat (de exem­plu, prin în­căl­ca­rea le­gi­lor na­tu­rii sau ale fi­zi­cii).

• Per­soa­ne, obiec­te, lo­curi, en­ti­tăți sau eve­ni­men­te. Su­biec­tul con­ți­nu­tu­lui ge­ne­rat sau ma­ni­pu­lat de IA ar tre­bui să fie o per­soa­nă (in­clu­siv o per­soa­nă reală sau un ava­tar di­gi­tal re­a­list), un obiect, un loc, o en­ti­ta­te (in­clu­siv un ani­mal re­a­list sau o altă formă de viață bi­o­lo­gi­că) sau un eve­ni­ment (in­clu­siv o scenă re­a­lis­tă care im­pli­că per­soa­ne, obiec­te, lo­curi sau en­ti­tăți).

• Apa­ren­ță falsă de au­ten­ti­ci­ta­te sau ve­ri­di­ci­ta­te. Con­ți­nu­tul ge­ne­rat sau ma­ni­pu­lat de IA ar tre­bui să fie ca­pa­bil să cre­e­ze unei per­soa­ne im­pre­sia falsă că este au­ten­tic sau ve­ri­dic, de exem­plu prin ca­rac­te­rul său fo­to­re­a­list.

Dacă aces­te cri­te­rii sunt în­de­pli­ni­te pen­tru un anu­mit con­ți­nut ge­ne­rat sau ma­ni­pu­lat de IA ar tre­bui eva­lu­at obiec­tiv de către im­ple­men­ta­tor, ținând seama de con­ți­nut, con­tex­tul său de uti­li­za­re și pu­bli­cul pre­vi­zi­bil în mod re­zo­na­bil [7].

Exem­ple­le de deepfake-​uri pot in­clu­de voci clo­na­te, re­pre­zen­tări sin­te­ti­ce ale po­li­ti­cie­ni­lor sau ale altor per­soa­ne pu­bli­ce și ima­gini de pro­du­se ge­ne­ra­te de IA care pot in­du­ce pu­bli­cul în eroa­re cu pri­vi­re la pro­du­sul real. În schimb, sce­ne­le evi­dent fan­tas­ti­ce pot să nu în­de­pli­neas­că cri­te­ri­ul exis­tent, iar mo­di­fi­că­ri­le teh­ni­ce mi­no­re sau fun­da­lu­ri­le ge­ne­ra­te de IA pot rămâne în afara de­fi­ni­ți­ei atunci când nu afec­tea­ză per­cep­ția pu­bli­cu­lui asu­pra con­ți­nu­tu­lui ca fiind au­ten­tic sau ve­ri­dic [7].

Texte care in­for­mea­ză cu pri­vi­re la ches­tiuni de in­te­res pu­blic

Pe lângă deepfake-​uri, im­ple­men­ta­to­rii tre­bu­ie să dez­vă­lu­ie orice text ge­ne­rat sau ma­ni­pu­lat de IA pu­bli­cat cu sco­pul de a in­for­ma pu­bli­cul cu pri­vi­re la ches­tiuni de in­te­res pu­blic (a se vedea ar­ti­co­lul 50 ali­ne­a­tul (4), al doi­lea pa­ra­graf din EU AI Act).

Prin pu­bli­cat se poate în­țe­le­ge că tex­tul este ac­ce­si­bil pu­bli­cu­lui larg, in­di­fe­rent dacă ac­ce­sul pre­su­pu­ne o plată, și nu este dis­po­ni­bil doar unui grup mic, în­chis sau pri­vat de per­soa­ne [7].

Pu­bli­cat ar tre­bui în­țe­les în sen­sul că tex­tul este pus la dis­po­zi­ția pu­bli­cu­lui larg, in­di­fe­rent dacă ac­ce­sul pre­su­pu­ne o plată, și nu doar unui grup mic, în­chis sau pri­vat de per­soa­ne [7]. Sco­pul de a in­for­ma pu­bli­cul pre­su­pu­ne că tex­tul este des­ti­nat să co­mu­ni­ce cu­noș­tin­țe, opi­nii sau fapte [7].

Sfera no­țiu­nii de ches­tiuni de in­te­res pu­blic este mai puțin fixă și poate evo­lua în timp [7]. Orien­tă­ri­le Co­mi­si­ei Eu­ro­pe­ne in­di­că fap­tul că aceas­tă no­țiu­ne ar tre­bui să in­clu­dă ches­tiuni re­le­van­te pen­tru so­ci­e­ta­te în an­sam­blu, pre­cum “po­li­ti­ca și pro­ce­se­le de­mo­cra­ti­ce, ad­mi­nis­tra­ția și ser­vi­ci­i­le pu­bli­ce, ad­mi­nis­tra­rea jus­ti­ți­ei și apli­ca­rea legii, pro­tec­ția drep­tu­ri­lor fun­damen­ta­le, se­cu­ri­ta­tea pu­bli­că, să­nă­ta­tea pu­bli­că, pro­tec­ția me­diu­lui, si­gu­ran­ța con­su­ma­to­ri­lor și orice evo­lu­ție eco­no­mi­că, fi­nan­ci­a­ră, po­li­ti­că, ști­in­ți­fi­că sau cul­tu­ra­lă care poate con­sti­tui un su­biect re­le­vant de dez­ba­te­re pu­bli­că” (a se vedea [7]).

Exem­ple­le de texte ge­ne­ra­te sau ma­ni­pu­la­te de IA care se pot în­ca­dra în ca­te­go­ria tex­te­lor care in­for­mea­ză cu pri­vi­re la ches­tiuni de in­te­res pu­blic in­clud re­zu­ma­te ge­ne­ra­te de IA ale unor ar­ti­co­le de presă care dis­cu­tă mo­di­fi­cări re­cen­te de po­li­tici pu­bli­ce, ar­ti­co­le sau părți de ar­ti­co­le ma­ni­pu­la­te de IA care com­pa­ră efec­te­le di­e­te­lor asu­pra bo­li­lor și me­sa­je ge­ne­ra­te de IA pri­vind aver­ti­zări de vreme ex­tre­mă (a se vedea [7]). În schimb, texte ge­ne­ra­te sau ma­ni­pu­la­te de IA pre­cum ro­ma­ne fantasy sau re­cla­me de pro­du­se care nu con­țin afir­ma­ții pri­vind să­nă­ta­tea sau si­gu­ran­ța nu ar fi, în ge­ne­ral, con­si­de­ra­te con­ți­nut care in­for­mea­ză pu­bli­cul cu pri­vi­re la ches­tiuni de in­te­res pu­blic [7] și, prin ur­ma­re, nu ar fi su­pu­se aces­tei obli­ga­ții de dez­vă­lu­i­re.

Tre­bu­ie re­mar­cat că, în ca­zu­ri­le în care (1) tex­tul ge­ne­rat sau ma­ni­pu­lat de IA a fost supus unei ve­ri­fi­cări umane sau unui con­trol edi­to­ri­al și (2) o per­soa­nă fi­zi­că sau ju­ri­di­că poar­tă răs­pun­de­rea edi­to­ri­a­lă pen­tru pu­bli­ca­re, tex­tul res­pec­tiv nu este supus obli­ga­ți­i­lor de dez­vă­lu­i­re (a se vedea ar­ti­co­lul 50 ali­ne­a­tul (4), al doi­lea pa­ra­graf). Po­tri­vit Orien­tă­ri­lor Co­mi­si­ei Eu­ro­pe­ne, ve­ri­fi­ca­rea umană ar tre­bui să in­clu­dă cel puțin ve­ri­fi­ca­rea fap­te­lor, cu sco­pul de a ve­ri­fi­ca acu­ra­te­țea in­for­ma­ți­i­lor [7].

Ar­ti­co­lul 50 din EU AI Act

Ar­ti­co­lul 50 din EU AI Act sta­bi­leș­te ce­rin­țe­le ge­ne­ra­le pen­tru dez­vă­lu­i­rea con­ți­nu­tu­lui ge­ne­rat și ma­ni­pu­lat de IA. În mod spe­ci­fic (a se vedea ar­ti­co­lul 50 ali­ne­a­tul (5)):

• In­for­ma­ți­i­le pri­vind dez­vă­lu­i­rea tre­bu­ie fur­ni­za­te într-​un mod clar și dis­tinct.
• In­for­ma­ți­i­le pri­vind dez­vă­lu­i­rea tre­bu­ie fur­ni­za­te per­soa­ne­lor ex­pu­se con­ți­nu­tu­lui ge­ne­rat sau ma­ni­pu­lat de IA cel târziu la mo­men­tul pri­mei lor ex­pu­neri.
• In­for­ma­ți­i­le pri­vind dez­vă­lu­i­rea tre­bu­ie fur­ni­za­te într-​un mod con­form cu ce­rin­țe­le apli­ca­bi­le pri­vind ac­ce­si­bi­li­ta­tea.

În plus, atunci când con­ți­nu­tul ge­ne­rat sau ma­ni­pu­lat de IA face parte în mod evi­dent dintr-​o operă ar­tis­ti­că, cre­a­ti­vă, sa­ti­ri­că, fic­țio­na­lă sau ana­lo­gă, ar­ti­co­lul 50 ali­ne­a­tul (4) pre­ve­de că dez­vă­lu­i­rea ar tre­bui re­a­li­za­tă într-​un mod care nu îm­pie­di­că pre­zen­ta­rea sau apre­ci­e­rea ope­rei.

Orien­tă­ri­le Co­mi­si­ei Eu­ro­pe­ne

Orien­tă­ri­le Co­mi­si­ei Eu­ro­pe­ne [7] oferă o in­ter­pre­ta­re su­pli­men­ta­ră a ar­ti­co­lu­lui 50 din EU AI Act și sta­bi­lesc orien­tări mai con­cre­te pri­vind dez­vă­lu­i­rea con­ți­nu­tu­lui ge­ne­rat sau ma­ni­pu­lat de IA, în­so­ți­te de exem­ple prac­ti­ce. În spe­cial, Orien­tă­ri­le de­ta­li­a­ză ur­mă­toa­re­le ce­rin­țe:

• Clar și dis­tinct. Pen­tru ca in­for­ma­ți­i­le pri­vind dez­vă­lu­i­rea să fie clare și dis­tinc­te, Orien­tă­ri­le Co­mi­si­ei Eu­ro­pe­ne in­di­că fap­tul că aces­tea ar tre­bui să fie vi­zi­bi­le, ușor de în­țe­les, ac­ce­si­bi­le și ușor de iden­ti­fi­cat ca fiind dis­tinc­te de alte in­for­ma­ții sau de me­di­ul de pre­zen­ta­re al con­ți­nu­tu­lui. Dez­vă­lu­i­rea ar tre­bui, de ase­me­nea, să țină seama de pu­bli­cul pre­vi­zi­bil în mod re­zo­na­bil al con­ți­nu­tu­lui, in­clu­siv de copii și de per­soa­ne­le cu di­za­bi­li­tăți, acolo unde este re­le­vant, și să nu poată fi ușor tre­cu­tă cu ve­de­rea în con­di­ții nor­ma­le de ex­pu­ne­re.

• Prima ex­pu­ne­re. Po­tri­vit Orien­tă­ri­lor Co­mi­si­ei Eu­ro­pe­ne, o dez­vă­lu­i­re adec­va­tă la mo­men­tul pri­mei ex­pu­neri poate in­clu­de, de exem­plu, o dez­vă­lu­i­re la în­ce­pu­tul unui vi­de­o­clip de­e­p­fa­ke, la în­ce­pu­tul unui text ge­ne­rat sau ma­ni­pu­lat de IA sau în mo­men­tul în care un uti­li­za­tor întâlnește pen­tru prima dată un de­e­p­fa­ke în timp ce de­ru­lea­ză con­ți­nut pe re­țe­le­le so­ci­a­le. Orien­tă­ri­le re­cu­nosc, de ase­me­nea, că per­soa­ne­le ex­pu­se con­ți­nu­tu­lui ge­ne­rat sau ma­ni­pu­lat de IA nu întâlnesc în­tot­dea­u­na con­ți­nu­tul de la în­ce­put și pot, prin ur­ma­re, rata dez­vă­lu­i­rea ini­ția­lă. Din acest motiv, Orien­tă­ri­le re­co­man­dă com­ple­ta­rea dez­vă­lu­i­rii ini­ția­le cu dez­vă­lu­iri su­pli­men­ta­re la mo­men­te ul­te­ri­oa­re ale ex­pu­ne­rii.

• Ac­ce­si­bi­li­ta­te. Pen­tru ca in­for­ma­ți­i­le pri­vind dez­vă­lu­i­rea să fie ac­ce­si­bi­le, Orien­tă­ri­le Co­mi­si­ei Eu­ro­pe­ne in­di­că fap­tul că, acolo unde este cazul, aces­tea ar tre­bui să res­pec­te Di­rec­ti­va 2016/2102 pri­vind ac­ce­si­bi­li­ta­tea site-​urilor web și a apli­ca­ți­i­lor mo­bi­le [9] și Di­rec­ti­va 2019/882, Eu­ro­pean Accessibility Act [10], pri­vind ac­ce­si­bi­li­ta­tea pro­du­se­lor și ser­vi­ci­i­lor.

Code of Prac­ti­ce on Transparency of AI-​Generated Con­tent

Pen­tru a spri­jini res­pec­ta­rea obli­ga­ți­i­lor de trans­pa­ren­ță pre­vă­zu­te de AI Act, Co­mi­sia Eu­ro­pea­nă a fa­ci­li­tat ela­bo­ra­rea Code of Prac­ti­ce on Transparency of AI-​Generated Con­tent [8] (de­nu­mit în con­ti­nu­a­re Code of Prac­ti­ce). Ela­bo­rat de ex­perți in­de­pen­denți și pu­bli­cat la 10 iunie 2026, Code of Prac­ti­ce oferă orien­tări prac­ti­ce con­cre­te pri­vind modul în care con­ți­nu­tul ge­ne­rat sau ma­ni­pu­lat de IA ar tre­bui dez­vă­lu­it pen­tru a in­for­ma în mod adec­vat per­soa­ne­le ex­pu­se unui ast­fel de con­ți­nut.

Pe lângă fur­ni­za­rea de orien­tări prac­ti­ce, Code of Prac­ti­ce ser­veș­te și ca reper în ra­port cu care poate fi eva­lu­a­tă res­pec­ta­rea de către un im­ple­men­ta­tor a obli­ga­ți­i­lor de trans­pa­ren­ță din EU AI Act. În mod spe­cial, Orien­tă­ri­le Co­mi­si­ei Eu­ro­pe­ne pre­văd că im­ple­men­ta­to­rii ar tre­bui să efec­tu­e­ze o ana­li­ză a la­cu­ne­lor, comparând mă­su­ri­le pe care le-au im­ple­men­tat cu cele pre­vă­zu­te în Code of Prac­ti­ce. În cazul în care un im­ple­men­ta­tor este sem­na­tar al Code of Prac­ti­ce, con­for­mi­ta­tea poate fi eva­lu­a­tă în schimb prin exa­mi­na­rea gra­du­lui în care aces­ta res­pec­tă Code of Prac­ti­ce (a se vedea punc­te­le (146)–(148) din [7]).

Code of Prac­ti­ce spri­ji­nă res­pec­ta­rea obli­ga­ți­i­lor de trans­pa­ren­ță din EU AI Act prin orien­tări prac­ti­ce în patru do­me­nii prin­ci­pa­le, dis­cu­ta­te în con­ti­nu­a­re.