Ujaw­nia­nie tre­ści ge­ne­ro­wa­nych przez AI zgod­nie z unij­nym AI Act

De­ep­fa­ke'i

Pod­mio­ty sto­su­ją­ce muszą ujaw­niać przy­pad­ki, w któ­rych AI zo­sta­ło wy­ko­rzy­sta­ne do ge­ne­ro­wa­nia lub ma­ni­pu­lo­wa­nia tre­ścia­mi w po­sta­ci ob­ra­zu, dźwię­ku lub wideo, je­że­li tre­ści te sta­no­wią de­ep­fa­ke. Ar­ty­kuł 3 ust. 60 unij­ne­go AI Act de­fi­niu­je de­ep­fa­ke na­stę­pu­ją­co:

“„de­ep­fa­ke” ozna­cza wy­ge­ne­ro­wa­ne lub zma­ni­pu­lo­wa­ne przez AI ob­ra­zy lub tre­ści audio lub wideo, które przy­po­mi­na­ją ist­nie­ją­ce osoby, przed­mio­ty, miej­sca, pod­mio­ty lub zda­rze­nia i które mo­gły­by nie­słusz­nie wy­da­wać się oso­bie au­ten­tycz­ne lub zgod­ne z praw­dą;”

Dal­sza ana­li­za tego, co może sta­no­wić de­ep­fa­ke, wraz z przy­kła­da­mi, zo­sta­ła przed­sta­wio­na w wy­tycz­nych Ko­mi­sji Eu­ro­pej­skiej do­ty­czą­cych wdra­ża­nia obo­wiąz­ków w za­kre­sie przej­rzy­sto­ści [7]. W szcze­gól­no­ści Wy­tycz­ne ana­li­zu­ją po­ję­cie de­ep­fa­ke'u z per­spek­ty­wy czte­rech kry­te­riów:

• Po­do­bień­stwo. Po­wi­nien wy­stę­po­wać wy­so­ki sto­pień po­do­bień­stwa mię­dzy tre­ścią wy­ge­ne­ro­wa­ną lub zma­ni­pu­lo­wa­ną przez AI a przed­sta­wia­nym przez nią obiek­tem.

• Ist­nie­nie. Obiekt przed­sta­wio­ny w tre­ści wy­ge­ne­ro­wa­nej lub zma­ni­pu­lo­wa­nej przez AI po­wi­nien wy­glą­dać re­ali­stycz­nie, a nie oczy­wi­ście nie­re­ali­stycz­nie lub sy­mu­la­cyj­nie (np. po­przez na­ru­sza­nie praw na­tu­ry lub fi­zy­ki).

• Osoby, przed­mio­ty, miej­sca, pod­mio­ty lub zda­rze­nia. Przed­mio­tem tre­ści wy­ge­ne­ro­wa­nej lub zma­ni­pu­lo­wa­nej przez AI po­win­na być osoba (w tym rze­czy­wi­sta osoba lub re­ali­stycz­ny cy­fro­wy awa­tar), przed­miot, miej­sce, pod­miot (w tym re­ali­stycz­ne zwie­rzę lub inna bio­lo­gicz­na forma życia) albo zda­rze­nie (w tym re­ali­stycz­na scena z udzia­łem osób, przed­mio­tów, miejsc lub pod­mio­tów).

• Fał­szy­we wra­że­nie au­ten­tycz­no­ści lub praw­dzi­wo­ści. Treść wy­ge­ne­ro­wa­na lub zma­ni­pu­lo­wa­na przez AI po­win­na być zdol­na wy­wo­łać u osoby fał­szy­we wra­że­nie, że jest au­ten­tycz­na lub zgod­na z praw­dą, na przy­kład ze wzglę­du na fo­to­re­alizm.

To, czy po­wyż­sze kry­te­ria są speł­nio­ne w od­nie­sie­niu do kon­kret­nej tre­ści wy­ge­ne­ro­wa­nej lub zma­ni­pu­lo­wa­nej przez AI, po­win­no być oce­nia­ne obiek­tyw­nie przez pod­miot sto­su­ją­cy, z uwzględ­nie­niem samej tre­ści, kon­tek­stu jej wy­ko­rzy­sta­nia oraz roz­sąd­nie prze­wi­dy­wal­ne­go grona od­bior­ców [7].

Przy­kła­da­mi de­ep­fa­ke'ów mogą być sklo­no­wa­ne głosy, syn­te­tycz­ne przed­sta­wie­nia po­li­ty­ków lub osób pu­blicz­nych, a także ge­ne­ro­wa­ne przez AI ob­ra­zy pro­duk­tów, które mogą wpro­wa­dzać od­bior­ców w błąd co do rze­czy­wi­ste­go pro­duk­tu. Z kolei jed­no­znacz­nie fan­ta­stycz­ne sceny mogą nie speł­niać kry­te­rium ist­nie­nia, na­to­miast drob­ne ko­rek­ty tech­nicz­ne lub tła wy­ge­ne­ro­wa­ne przez AI mogą nie mie­ścić się w de­fi­ni­cji, je­że­li nie wpły­wa­ją na po­strze­ga­nie tre­ści przez od­bior­ców jako au­ten­tycz­nej lub zgod­nej z praw­dą [7].

Tek­sty in­for­mu­ją­ce o spra­wach le­żą­cych w in­te­re­sie pu­blicz­nym

Oprócz de­ep­fa­ke'ów pod­mio­ty sto­su­ją­ce muszą ujaw­niać wszel­kie tek­sty wy­ge­ne­ro­wa­ne lub zma­ni­pu­lo­wa­ne przez AI, pu­bli­ko­wa­ne w celu in­for­mo­wa­nia opi­nii pu­blicz­nej o spra­wach le­żą­cych w in­te­re­sie pu­blicz­nym (por. art. 50 ust. 4 aka­pit drugi unij­ne­go AI Act).

Przez opu­bli­ko­wa­nie można ro­zu­mieć sy­tu­ację, w któ­rej tekst jest do­stęp­ny dla sze­ro­kiej pu­blicz­no­ści, nie­za­leż­nie od tego, czy do­stęp do niego jest od­płat­ny, i nie jest do­stęp­ny wy­łącz­nie dla małej, za­mknię­tej lub pry­wat­nej grupy osób [7].

Opu­bli­ko­wa­nie na­le­ży ro­zu­mieć jako udo­stęp­nie­nie tek­stu sze­ro­kiej pu­blicz­no­ści, nie­za­leż­nie od tego, czy do­stęp wy­ma­ga opła­ty, a nie wy­łącz­nie małej, za­mknię­tej lub pry­wat­nej gru­pie osób [7]. Cel in­for­mo­wa­nia opi­nii pu­blicz­nej ozna­cza, że tekst po­wi­nien rze­czy­wi­ście słu­żyć prze­ka­zy­wa­niu wie­dzy, opi­nii lub fak­tów [7].

Za­kres po­ję­cia spraw le­żą­cych w in­te­re­sie pu­blicz­nym jest mniej stały i może zmie­niać się wraz z upły­wem czasu [7]. Wy­tycz­ne Ko­mi­sji Eu­ro­pej­skiej wska­zu­ją, że po­ję­cie to po­win­no obej­mo­wać spra­wy istot­ne dla spo­łe­czeń­stwa jako ca­ło­ści, takie jak “po­li­ty­ka i pro­ce­sy de­mo­kra­tycz­ne, ad­mi­ni­stra­cja pu­blicz­na i usłu­gi pu­blicz­ne, wy­miar spra­wie­dli­wo­ści i eg­ze­kwo­wa­nie prawa, ochro­na praw pod­sta­wo­wych, bez­pie­czeń­stwo pu­blicz­ne, zdro­wie pu­blicz­ne, ochro­na śro­do­wi­ska, bez­pie­czeń­stwo kon­su­men­tów oraz wszel­kie wy­da­rze­nia go­spo­dar­cze, fi­nan­so­we, po­li­tycz­ne, na­uko­we lub kul­tu­ral­ne, które mogą sta­no­wić istot­ny przed­miot de­ba­ty pu­blicz­nej” (por. [7]).

Przy­kła­dy tek­stów ge­ne­ro­wa­nych lub ma­ni­pu­lo­wa­nych przez AI, które mogą na­le­żeć do ka­te­go­rii tek­stów in­for­mu­ją­cych o spra­wach le­żą­cych w in­te­re­sie pu­blicz­nym, obej­mu­ją ge­ne­ro­wa­ne przez AI stresz­cze­nia ar­ty­ku­łów pra­so­wych oma­wia­ją­cych naj­now­sze zmia­ny po­li­tycz­ne, ma­ni­pu­lo­wa­ne przez AI ar­ty­ku­ły lub ich frag­men­ty po­rów­nu­ją­ce wpływ diet na cho­ro­by oraz ge­ne­ro­wa­ne przez AI ko­mu­ni­ka­ty do­ty­czą­ce ostrze­żeń o eks­tre­mal­nych zja­wi­skach po­go­do­wych (por. [7]). Z kolei tek­sty ge­ne­ro­wa­ne lub ma­ni­pu­lo­wa­ne przez AI, takie jak po­wie­ści fan­ta­sy lub re­kla­my pro­duk­tów nie­za­wie­ra­ją­ce twier­dzeń do­ty­czą­cych zdro­wia lub bez­pie­czeń­stwa, co do za­sa­dy nie będą uzna­wa­ne za tre­ści in­for­mu­ją­ce opi­nię pu­blicz­ną o spra­wach le­żą­cych w in­te­re­sie pu­blicz­nym [7] i w związ­ku z tym nie będą pod­le­gać temu obo­wiąz­ko­wi ujaw­nia­nia.

Na­le­ży za­uwa­żyć, że je­że­li (1) tekst wy­ge­ne­ro­wa­ny lub zma­ni­pu­lo­wa­ny przez AI zo­stał pod­da­ny we­ry­fi­ka­cji przez czło­wie­ka lub kon­tro­li re­dak­cyj­nej oraz (2) osoba fi­zycz­na lub praw­na po­no­si od­po­wie­dzial­ność re­dak­cyj­ną za jego pu­bli­ka­cję, taki tekst nie pod­le­ga obo­wiąz­kom ujaw­nia­nia (por. art. 50 ust. 4 aka­pit drugi). Zgod­nie z Wy­tycz­ny­mi Ko­mi­sji Eu­ro­pej­skiej we­ry­fi­ka­cja przez czło­wie­ka po­win­na obej­mo­wać co naj­mniej we­ry­fi­ka­cję fak­tów w celu za­pew­nie­nia po­praw­no­ści in­for­ma­cji [7].

Ar­ty­kuł 50 unij­ne­go AI Act

Ar­ty­kuł 50 unij­ne­go AI Act okre­śla ogól­ne wy­ma­ga­nia do­ty­czą­ce ujaw­nia­nia tre­ści ge­ne­ro­wa­nych i ma­ni­pu­lo­wa­nych przez AI. W szcze­gól­no­ści (por. art. 50 ust. 5):

• In­for­ma­cje do­ty­czą­ce ujaw­nie­nia muszą być prze­ka­zy­wa­ne w jasny i wy­raź­nie od­róż­nial­ny spo­sób.
• In­for­ma­cje do­ty­czą­ce ujaw­nie­nia muszą być prze­ka­za­ne oso­bom ma­ją­cym kon­takt z tre­ścią ge­ne­ro­wa­ną lub ma­ni­pu­lo­wa­ną przez AI nie póź­niej niż w mo­men­cie ich pierw­sze­go kon­tak­tu z taką tre­ścią.
• In­for­ma­cje do­ty­czą­ce ujaw­nie­nia muszą być prze­ka­zy­wa­ne w spo­sób zgod­ny z obo­wią­zu­ją­cy­mi wy­mo­ga­mi do­stęp­no­ści.

Po­nad­to w od­nie­sie­niu do tre­ści ge­ne­ro­wa­nych lub ma­ni­pu­lo­wa­nych przez AI, które w spo­sób oczy­wi­sty sta­no­wią część utwo­ru ar­ty­stycz­ne­go, twór­cze­go, sa­ty­rycz­ne­go, fik­cyj­ne­go lub ana­lo­gicz­ne­go, art. 50 ust. 4 pod­kre­śla, że ujaw­nie­nie po­win­no być do­ko­na­ne w spo­sób, który nie utrud­nia pre­zen­ta­cji ani od­bio­ru utwo­ru.

Wy­tycz­ne Ko­mi­sji Eu­ro­pej­skiej

Wy­tycz­ne Ko­mi­sji Eu­ro­pej­skiej [7] za­wie­ra­ją dal­szą in­ter­pre­ta­cję art. 50 unij­ne­go AI Act i okre­śla­ją bar­dziej kon­kret­ne wy­tycz­ne do­ty­czą­ce ujaw­nia­nia tre­ści ge­ne­ro­wa­nych lub ma­ni­pu­lo­wa­nych przez AI, wraz z prak­tycz­ny­mi przy­kła­da­mi. W szcze­gól­no­ści Wy­tycz­ne do­pre­cy­zo­wu­ją na­stę­pu­ją­ce wy­ma­ga­nia:

• Ja­sność i od­róż­nial­ność. Aby in­for­ma­cje do­ty­czą­ce ujaw­nie­nia były jasne i od­róż­nial­ne, zgod­nie z Wy­tycz­ny­mi Ko­mi­sji Eu­ro­pej­skiej po­win­ny być za­uwa­żal­ne, łatwe do zro­zu­mie­nia, do­stęp­ne oraz łatwe do roz­po­zna­nia jako od­ręb­ne od in­nych in­for­ma­cji lub oto­cze­nia, w któ­rym pre­zen­to­wa­na jest treść. Ujaw­nie­nie po­win­no rów­nież uwzględ­niać roz­sąd­nie prze­wi­dy­wal­ne grono od­bior­ców tre­ści, w tym dzie­ci i osoby z nie­peł­no­spraw­no­ścia­mi, je­że­li ma to za­sto­so­wa­nie, oraz nie po­win­no być łatwe do prze­ocze­nia w nor­mal­nych wa­run­kach kon­tak­tu z tre­ścią.

• Pierw­szy kon­takt. Zgod­nie z Wy­tycz­ny­mi Ko­mi­sji Eu­ro­pej­skiej od­po­wied­nie ujaw­nie­nie w mo­men­cie pierw­sze­go kon­tak­tu może obej­mo­wać, mię­dzy in­ny­mi, ujaw­nie­nie na po­cząt­ku filmu bę­dą­ce­go de­ep­fa­ke'em, na po­cząt­ku tek­stu ge­ne­ro­wa­ne­go lub ma­ni­pu­lo­wa­ne­go przez AI albo w chwi­li, gdy użyt­kow­nik po raz pierw­szy na­tra­fia na de­ep­fa­ke pod­czas prze­wi­ja­nia me­diów spo­łecz­no­ścio­wych. Wy­tycz­ne za­uwa­ża­ją rów­nież, że osoby ma­ją­ce kon­takt z tre­ścią ge­ne­ro­wa­ną lub ma­ni­pu­lo­wa­ną przez AI nie za­wsze od­bie­ra­ją ją od po­cząt­ku i mogą przez to po­mi­nąć po­cząt­ko­we ujaw­nie­nie. Z tego wzglę­du Wy­tycz­ne za­le­ca­ją uzu­peł­nia­nie po­cząt­ko­we­go ujaw­nie­nia do­dat­ko­wy­mi ujaw­nie­nia­mi w póź­niej­szych mo­men­tach kon­tak­tu z tre­ścią.

• Do­stęp­ność. Aby in­for­ma­cje do­ty­czą­ce ujaw­nie­nia były do­stęp­ne, Wy­tycz­ne Ko­mi­sji Eu­ro­pej­skiej wska­zu­ją, że tam, gdzie ma to za­sto­so­wa­nie, po­win­ny być zgod­ne z dy­rek­ty­wą 2016/2102 do­ty­czą­cą do­stęp­no­ści stron in­ter­ne­to­wych i apli­ka­cji mo­bil­nych [9] oraz dy­rek­ty­wą 2019/882, Eu­ro­pe­an Ac­ces­si­bi­li­ty Act [10], do­ty­czą­cą do­stęp­no­ści pro­duk­tów i usług.

Code of Prac­ti­ce on Trans­pa­ren­cy of AI-​Generated Con­tent

Aby wspie­rać zgod­ność z obo­wiąz­ka­mi w za­kre­sie przej­rzy­sto­ści wy­ni­ka­ją­cy­mi z AI Act, Ko­mi­sja Eu­ro­pej­ska uła­twi­ła opra­co­wa­nie Code of Prac­ti­ce on Trans­pa­ren­cy of AI-​Generated Con­tent [8] (dalej Code of Prac­ti­ce). Opra­co­wa­ny przez nie­za­leż­nych eks­per­tów i opu­bli­ko­wa­ny 10 czerw­ca 2026 r. Code of Prac­ti­ce za­wie­ra kon­kret­ne prak­tycz­ne wy­tycz­ne do­ty­czą­ce tego, w jaki spo­sób tre­ści ge­ne­ro­wa­ne lub ma­ni­pu­lo­wa­ne przez AI po­win­ny być ujaw­nia­ne, aby od­po­wied­nio in­for­mo­wać osoby ma­ją­ce kon­takt z taką tre­ścią.

Poza do­star­cza­niem prak­tycz­nych wy­tycz­nych Code of Prac­ti­ce służy rów­nież jako punkt od­nie­sie­nia, wzglę­dem któ­re­go może być oce­nia­na zgod­ność pod­mio­tu sto­su­ją­ce­go z obo­wiąz­ka­mi w za­kre­sie przej­rzy­sto­ści wy­ni­ka­ją­cy­mi z unij­ne­go AI Act. W szcze­gól­no­ści Wy­tycz­ne Ko­mi­sji Eu­ro­pej­skiej wska­zu­ją, że pod­mio­ty sto­su­ją­ce po­win­ny prze­pro­wa­dzić ana­li­zę luk, po­rów­nu­jąc wdro­żo­ne przez sie­bie środ­ki z tymi okre­ślo­ny­mi w Code of Prac­ti­ce. Je­że­li pod­miot sto­su­ją­cy jest sy­gna­ta­riu­szem Code of Prac­ti­ce, zgod­ność może być na­to­miast oce­nia­na po­przez ana­li­zę prze­strze­ga­nia przez ten pod­miot Code of Prac­ti­ce (zob. pkt (146)–(148) w [7]).

Code of Prac­ti­ce wspie­ra zgod­ność z obo­wiąz­ka­mi w za­kre­sie przej­rzy­sto­ści wy­ni­ka­ją­cy­mi z unij­ne­go AI Act, przed­sta­wia­jąc prak­tycz­ne wy­tycz­ne w czte­rech głów­nych ob­sza­rach omó­wio­nych po­ni­żej.