Ar­ty­kuł 5: Za­ka­za­ne prak­ty­ki w za­kre­sie AI

wpro­wa­dza­nia do ob­ro­tu, od­da­wa­nia do użyt­ku lub wy­ko­rzy­sty­wa­nia sys­te­mu AI, który sto­su­je tech­ni­ki pod­pro­go­we bę­dą­ce poza świa­do­mo­ścią danej osoby lub ce­lo­we tech­ni­ki ma­ni­pu­la­cyj­ne lub wpro­wa­dza­ją­ce w błąd, czego celem lub skut­kiem jest do­ko­na­nie zna­czą­cej zmia­ny za­cho­wa­nia danej osoby lub grupy osób po­przez zna­czą­ce ogra­ni­cze­nie ich zdol­no­ści do po­dej­mo­wa­nia świa­do­mych de­cy­zji, po­wo­du­jąc tym samym pod­ję­cie przez nie de­cy­zji, któ­rej ina­czej by nie pod­ję­ły, w spo­sób, który wy­rzą­dza lub może wy­rzą­dzić u niej, u innej osoby lub u grupy osób po­waż­ną szko­dę;

wpro­wa­dza­nia do ob­ro­tu, od­da­wa­nia do użyt­ku lub wy­ko­rzy­sty­wa­nia sys­te­mu AI, który wy­ko­rzy­stu­je sła­bo­ści osoby fi­zycz­nej lub okre­ślo­nej grupy osób ze wzglę­du na ich wiek, nie­peł­no­spraw­ność lub szcze­gól­ną sy­tu­ację spo­łecz­ną lub eko­no­micz­ną, któ­re­go celem lub skut­kiem jest do­ko­na­nie zna­czą­cej zmia­ny za­cho­wa­nia danej osoby lub osoby na­le­żą­cej do tej grupy w spo­sób, który wy­rzą­dza lub może z uza­sad­nio­nym praw­do­po­do­bień­stwem wy­rzą­dzić u tej osoby lub u innej osoby po­waż­ną szko­dę;

wpro­wa­dza­nia do ob­ro­tu, od­da­wa­nia do użyt­ku lub wy­ko­rzy­sty­wa­nia sys­te­mu AI, który ge­ne­ru­je re­ali­stycz­ne ob­ra­zy, ma­te­ria­ły wideo, ma­te­ria­ły dźwię­ko­we lub po­dob­ne ma­te­ria­ły przed­sta­wia­ją­ce in­tym­ne czę­ści ciała moż­li­wej do zi­den­ty­fi­ko­wa­nia osoby fi­zycz­nej lub moż­li­wą do zi­den­ty­fi­ko­wa­nia osobę fi­zycz­ną pod­czas czyn­no­ści o cha­rak­te­rze jed­no­znacz­nie sek­su­al­nym, lub ma­ni­pu­lu­je ta­ki­mi ob­ra­za­mi czy ma­te­ria­ła­mi, bez jej do­bro­wol­nej, kon­kret­nej, świa­do­mej, jed­no­znacz­nej i wy­raź­nej zgody na takie ge­ne­ro­wa­nie lub ma­ni­pu­lo­wa­nie;

wpro­wa­dza­nia do ob­ro­tu, od­da­wa­nia do użyt­ku lub wy­ko­rzy­sty­wa­nia sys­te­mu AI, który ge­ne­ru­je ma­te­ria­ły lub przed­sta­wie­nia w ro­zu­mie­niu art. 2 lit. c) i e) dy­rek­ty­wy 2011/93/UE oraz ma­ni­pu­lu­je nimi, z wy­jąt­kiem sy­tu­acji, w któ­rych na mocy prawa kra­jo­we­go ma za­sto­so­wa­nie oko­licz­ność wy­łą­cza­ją­ca bez­praw­ność;

wpro­wa­dza­nia do ob­ro­tu, od­da­wa­nia do użyt­ku lub wy­ko­rzy­sty­wa­nia sys­te­mów AI na po­trze­by oceny lub kla­sy­fi­ka­cji osób fi­zycz­nych lub grup osób pro­wa­dzo­nej przez okre­ślo­ny czas na pod­sta­wie ich za­cho­wa­nia spo­łecz­ne­go lub zna­nych, wy­wnio­sko­wa­nych lub prze­wi­dy­wa­nych cech oso­bi­stych lub cech oso­bo­wo­ści, kiedy to sco­ring spo­łecz­ny pro­wa­dzi do jed­ne­go lub obu z na­stę­pu­ją­cych skut­ków:

krzyw­dzą­ce­go lub nie­ko­rzyst­ne­go trak­to­wa­nia nie­któ­rych osób fi­zycz­nych lub grup osób w kon­tek­stach spo­łecz­nych, które nie są zwią­za­ne z kon­tek­sta­mi, w któ­rych pier­wot­nie wy­ge­ne­ro­wa­no lub ze­bra­no dane;

krzyw­dzą­ce­go lub nie­ko­rzyst­ne­go trak­to­wa­nia nie­któ­rych osób fi­zycz­nych lub grup osób, które jest nie­uza­sad­nio­ne lub nie­pro­por­cjo­nal­ne do ich za­cho­wa­nia spo­łecz­ne­go lub jego wagi;

wpro­wa­dza­nia do ob­ro­tu, od­da­wa­nia do użyt­ku w tym kon­kret­nym celu lub wy­ko­rzy­sty­wa­nia sys­te­mu AI do prze­pro­wa­dza­nia ocen ry­zy­ka w od­nie­sie­niu do osób fi­zycz­nych, by oce­nić lub prze­wi­dzieć ry­zy­ko po­peł­nie­nia prze­stęp­stwa przez osobę fi­zycz­ną, wy­łącz­nie na pod­sta­wie pro­fi­lo­wa­nia osoby fi­zycz­nej lub oceny jej cech oso­bo­wo­ści i cech cha­rak­te­ry­stycz­nych; zakaz ten nie ma za­sto­so­wa­nia do sys­te­mów AI wy­ko­rzy­sty­wa­nych do wspie­ra­nia do­ko­ny­wa­nej przez czło­wie­ka oceny udzia­łu danej osoby w dzia­łal­no­ści prze­stęp­czej, która to ocena opie­ra się już na obiek­tyw­nych i we­ry­fi­ko­wal­nych fak­tach bez­po­śred­nio zwią­za­nych z dzia­łal­no­ścią prze­stęp­czą;

wpro­wa­dza­nia do ob­ro­tu, od­da­wa­nia do użyt­ku w tym kon­kret­nym celu lub wy­ko­rzy­sty­wa­nia sys­te­mów AI, które two­rzą lub roz­bu­do­wu­ją bazy da­nych słu­żą­ce roz­po­zna­wa­niu twa­rzy po­przez nie­ukie­run­ko­wa­ne po­zy­ski­wa­nie (ang. untar­ge­ted scra­ping) wi­ze­run­ków twa­rzy z in­ter­ne­tu lub na­grań z te­le­wi­zji prze­my­sło­wej;

wpro­wa­dza­nia do ob­ro­tu, od­da­wa­nia do użyt­ku w tym kon­kret­nym celu lub wy­ko­rzy­sty­wa­nia sys­te­mów AI do wy­cią­ga­nia wnio­sków na temat emo­cji osoby fi­zycz­nej w miej­scu pracy lub in­sty­tu­cjach edu­ka­cyj­nych, z wy­jąt­kiem przy­pad­ków, w któ­rych sys­tem AI ma zo­stać wdro­żo­ny lub wpro­wa­dzo­ny do ob­ro­tu ze wzglę­dów me­dycz­nych lub bez­pie­czeń­stwa;

wpro­wa­dza­nia do ob­ro­tu, od­da­wa­nia do użyt­ku w tym kon­kret­nym celu lub wy­ko­rzy­sty­wa­nia sys­te­mów ka­te­go­ry­za­cji bio­me­trycz­nej, które in­dy­wi­du­al­nie ka­te­go­ry­zu­ją osoby fi­zycz­ne w opar­ciu o ich dane bio­me­trycz­ne, by wy­de­du­ko­wać lub wy­wnio­sko­wać in­for­ma­cje na temat ich rasy, po­glą­dów po­li­tycz­nych, przy­na­leż­no­ści do związ­ków za­wo­do­wych, prze­ko­nań re­li­gij­nych lub świa­to­po­glą­do­wych, sek­su­al­no­ści lub orien­ta­cji sek­su­al­nej; zakaz ten nie obej­mu­je przy­pad­ków ety­kie­to­wa­nia ani fil­tro­wa­nia po­zy­ska­nych zgod­nie z pra­wem zbio­rów da­nych bio­me­trycz­nych, ta­kich jak ob­ra­zy, w opar­ciu o dane bio­me­trycz­ne, ani ka­te­go­ry­za­cji da­nych bio­me­trycz­nych w ob­sza­rze ści­ga­nia prze­stępstw;

wy­ko­rzy­sty­wa­nia sys­te­mów zdal­nej iden­ty­fi­ka­cji bio­me­trycz­nej w cza­sie rze­czy­wi­stym w prze­strze­ni pu­blicz­nej do celów ści­ga­nia prze­stępstw, chyba że – i w za­kre­sie, w jakim – takie wy­ko­rzy­sta­nie jest bez­względ­nie ko­niecz­ne do jed­ne­go z na­stę­pu­ją­cych celów:

ukie­run­ko­wa­ne­go po­szu­ki­wa­nia kon­kret­nych ofiar upro­wa­dzeń, han­dlu ludź­mi lub wy­ko­rzy­sty­wa­nia sek­su­al­ne­go ludzi, a także po­szu­ki­wa­nia osób za­gi­nio­nych;

za­po­bie­gnię­cia kon­kret­ne­mu, istot­ne­mu i bez­po­śred­nie­mu za­gro­że­niu życia lub bez­pie­czeń­stwa fi­zycz­ne­go osób fi­zycz­nych lub rze­czy­wi­ste­mu i ak­tu­al­ne­mu lub rze­czy­wi­ste­mu i da­ją­ce­mu się prze­wi­dzieć za­gro­że­niu ata­kiem ter­ro­ry­stycz­nym;

lo­ka­li­zo­wa­nia lub iden­ty­fi­ko­wa­nia osoby po­dej­rza­nej o po­peł­nie­nie prze­stęp­stwa w celu pro­wa­dze­nia po­stę­po­wa­nia przy­go­to­waw­cze­go lub ści­ga­nia lub wy­ko­na­nia kar w od­nie­sie­niu do prze­stępstw, o któ­rych mowa w za­łącz­ni­ku II, pod­le­ga­ją­cych w danym pań­stwie człon­kow­skim karze po­zba­wie­nia wol­no­ści lub środ­ko­wi po­le­ga­ją­ce­mu na po­zba­wie­niu wol­no­ści przez okres, któ­re­go górna gra­ni­ca wy­no­si co naj­mniej czte­ry lata.

wpro­wa­dza­nie do ob­ro­tu lub od­da­wa­nie do użyt­ku sys­te­mu AI, który ge­ne­ru­je ma­te­ria­ły lub przed­sta­wie­nia, o któ­rych mowa w ust. 1 aka­pit pierw­szy lit. ba) lub bb), lub nimi ma­ni­pu­lu­je, jest za­ka­za­ne wy­łącz­nie w przy­pad­ku gdy:

to ge­ne­ro­wa­nie lub ma­ni­pu­lo­wa­nie jest za­mie­rzo­nym celem sys­te­mu AI; lub

zwią­za­ne z sys­te­mem pro­jek­to­wa­nie, tre­no­wa­nie, ar­chi­tek­tu­ra, zdol­no­ści lub funk­cje skie­ro­wa­ne do użyt­kow­ni­ka spra­wia­ją, że to ge­ne­ro­wa­nie lub ma­ni­pu­lo­wa­nie jest ra­cjo­nal­nie prze­wi­dy­wal­nym i od­twa­rzal­nym wy­ni­kiem, nie­wy­ma­ga­ją­cym zna­czą­cych mo­dy­fi­ka­cji tech­nicz­nych, a sys­tem nie po­sia­da ra­cjo­nal­nych i od­po­wied­nich tech­nicz­nych środ­ków bez­pie­czeń­stwa ani in­nych za­bez­pie­czeń, które w spo­sób nie­za­wod­ny za­po­bie­ga­ły­by ta­kie­mu ge­ne­ro­wa­niu lub ma­ni­pu­lo­wa­niu, z uwzględ­nie­niem ra­cjo­nal­nie prze­wi­dy­wal­ne­go nie­wła­ści­we­go wy­ko­rzy­sta­nia, oraz które ko­ry­gu­ją za­ob­ser­wo­wa­ne lub zgło­szo­ne nie­wła­ści­we wy­ko­rzy­sta­nie;

wy­ko­rzy­sty­wa­nie sys­te­mu AI, który ge­ne­ru­je ma­te­ria­ły lub przed­sta­wie­nia, o któ­rych mowa w ust. 1 aka­pit pierw­szy lit. ba) i bb), lub ma­ni­pu­lu­je nimi, jest za­bro­nio­ne wy­łącz­nie w przy­pad­ku, gdy pod­miot sto­su­ją­cy wy­ko­rzy­stu­je sys­tem do ge­ne­ro­wa­nia ta­kich ma­te­ria­łów lub przed­sta­wień lub ma­ni­pu­lo­wa­nia nimi.

cha­rak­ter sy­tu­acji po­wo­du­ją­cej ko­niecz­ność ewen­tu­al­ne­go wy­ko­rzy­sta­nia ta­kie­go sys­te­mu, w szcze­gól­no­ści po­wa­gę, praw­do­po­do­bień­stwo i skalę szko­dy, która zo­sta­ła­by wy­rzą­dzo­na w przy­pad­ku nie­wy­ko­rzy­sta­nia tego sys­te­mu;

kon­se­kwen­cje wy­ko­rzy­sta­nia ta­kie­go sys­te­mu dla praw i wol­no­ści wszyst­kich za­in­te­re­so­wa­nych osób, w szcze­gól­no­ści po­wa­gę, praw­do­po­do­bień­stwo i skalę tych kon­se­kwen­cji.