Motyw 29

Tech­ni­ki ma­ni­pu­la­cyj­ne opar­te na AI mogą być wy­ko­rzy­sty­wa­ne w celu na­kła­nia­nia osób do nie­po­żą­da­nych za­cho­wań lub w celu wpro­wa­dza­nia ich w błąd po­przez skła­nia­nie ich do po­dej­mo­wa­nia de­cy­zji w spo­sób, który pod­wa­ża i ogra­ni­cza ich au­to­no­mię, de­cy­zyj­ność i swo­bo­dę wy­bo­ru. Wpro­wa­dza­nie do ob­ro­tu, od­da­wa­nie do użyt­ku lub wy­ko­rzy­sty­wa­nie nie­któ­rych sys­te­mów AI, któ­rych celem lub skut­kiem jest zna­czą­ca zmia­na ludz­kie­go za­cho­wa­nia, w związ­ku z czym mogą wy­stą­pić po­waż­ne szko­dy, w szcze­gól­no­ści ma­ją­ce wy­star­cza­ją­co istot­ny nie­po­żą­da­ny wpływ na zdro­wie fi­zycz­ne, psy­chicz­ne lub na in­te­re­sy fi­nan­so­we, są szcze­gól­nie nie­bez­piecz­ne i w związ­ku z tym po­win­ny być za­ka­za­ne. Takie sys­te­my AI wy­ko­rzy­stu­ją ele­men­ty dzia­ła­ją­ce pod­pro­go­wo, takie jak bodź­ce dźwię­ko­we, bodź­ce bę­dą­ce ob­ra­za­mi lub ma­te­ria­ła­mi wideo, któ­rych nie można do­strzec, po­nie­waż bodź­ce takie wy­kra­cza­ją poza świa­do­mą ludz­ką per­cep­cję, lub sto­su­ją inne tech­ni­ki ma­ni­pu­la­cyj­ne lub wpro­wa­dza­ją­ce w błąd, które pod­wa­ża­ją lub ogra­ni­cza­ją au­to­no­mię czło­wie­ka, de­cy­zyj­ność lub swo­bo­dę wy­bo­ru w taki spo­sób, że osoby nie są świa­do­me ta­kich tech­nik lub nawet jeśli są ich świa­do­me, mogą zo­stać wpro­wa­dzo­ne w błąd lub nie są w sta­nie spra­wo­wać nad nimi kon­tro­li ani im się sprze­ci­wić. Przy­czy­niać się do tego mogą na przy­kład in­ter­fej­sy maszyna-​mózg lub rze­czy­wi­stość wir­tu­al­na, po­nie­waż po­zwa­la­ją one na więk­szą kon­tro­lę nad tym, jakim bodź­com są pod­da­wa­ne osoby, do tego stop­nia, że mogą one zna­czą­co zmie­niać za­cho­wa­nie tych osób w spo­sób zna­czą­co szko­dli­wy. Po­nad­to sys­te­my AI mogą rów­nież w inny spo­sób wy­ko­rzy­sty­wać sła­bo­ści danej osoby lub okre­ślo­nej grupy osób ze wzglę­du na ich wiek, nie­peł­no­spraw­ność w ro­zu­mie­niu dy­rek­ty­wy Par­la­men­tu Eu­ro­pej­skie­go i Rady (UE) 2019/882^[23] lub szcze­gól­ną sy­tu­ację spo­łecz­ną lub eko­no­micz­ną, która może spra­wić, że osoby te, takie jak osoby ży­ją­ce w skraj­nym ubó­stwie, osoby z mniej­szo­ści et­nicz­nych lub re­li­gij­nych, będą bar­dziej na­ra­żo­ne na ich wy­ko­rzy­sta­nie. Takie sys­te­my AI mogą być wpro­wa­dza­ne do ob­ro­tu, od­da­wa­ne do użyt­ku lub wy­ko­rzy­sty­wa­ne w celu lub ze skut­kiem zna­czą­cej zmia­ny za­cho­wa­nia danej osoby, oraz w spo­sób, który wy­rzą­dza lub może z uza­sad­nio­nym praw­do­po­do­bień­stwem wy­rzą­dzić po­waż­ną szko­dę tej osoby lub innej osoby lub grupy osób, w tym szko­dy ku­mu­lu­ją­ce się z bie­giem czasu, i w związ­ku z tym po­win­ny być za­ka­za­ne. Nie można za­kła­dać, że za­ist­niał za­miar do­ko­na­nia zmia­ny za­cho­wa­nia, je­że­li zmia­na ta wy­ni­ka z czyn­ni­ków, które mają cha­rak­ter ze­wnętrz­ny w sto­sun­ku do sys­te­mu AI i które są poza kon­tro­lą do­staw­cy lub pod­mio­tu sto­su­ją­ce­go, a zatem ani do­staw­ca ani pod­miot sto­su­ją­cy AI nie mogą ich ra­cjo­nal­nie prze­wi­dzieć ani im prze­ciw­dzia­łać. W każ­dym razie nie ma zna­cze­nia, czy do­staw­ca lub pod­miot sto­su­ją­cy mieli za­miar wy­rzą­dzić po­waż­ną szko­dę, istot­ny jest fakt, że szko­da wy­ni­ka z prak­tyk ma­ni­pu­la­cyj­nych opar­tych na AI lub ich wy­ko­rzy­sty­wa­nia. Za­ka­zy do­ty­czą­ce ta­kich prak­tyk w za­kre­sie AI sta­no­wią uzu­peł­nie­nie prze­pi­sów za­war­tych w dy­rek­ty­wie Par­la­men­tu Eu­ro­pej­skie­go i Rady 2005/29/WE^[24], w szcze­gól­no­ści prze­pi­su za­ka­zu­ją­ce­go sto­so­wa­nia we wszel­kich oko­licz­no­ściach nie­uczci­wych prak­tyk han­dlo­wych po­wo­du­ją­cych dla kon­su­men­tów szko­dy eko­no­micz­ne lub fi­nan­so­we, nie­za­leż­nie od tego, czy prak­ty­ki te sto­su­je się za po­mo­cą sys­te­mów AI czy w innym kon­tek­ście. Za­war­ty w ni­niej­szym roz­po­rzą­dze­niu zakaz prak­tyk po­le­ga­ją­cych na ma­ni­pu­la­cji lub wy­ko­rzy­sty­wa­niu nie po­wi­nien mieć wpły­wu na zgod­ne z pra­wem prak­ty­ki w kon­tek­ście le­cze­nia, takie jak te­ra­pia psy­cho­lo­gicz­na w związ­ku z cho­ro­bą psy­chicz­ną lub re­ha­bi­li­ta­cja fi­zycz­na, gdy prak­ty­ki te są pro­wa­dzo­ne zgod­nie z ma­ją­cy­mi za­sto­so­wa­nie pra­wem i nor­ma­mi me­dycz­ny­mi, na przy­kład za wy­raź­ną zgodą danej osoby fi­zycz­nej lub jej przed­sta­wi­cie­la praw­ne­go. Po­nad­to po­wszech­ne i za­sad­ne prak­ty­ki han­dlo­we, na przy­kład w dzie­dzi­nie re­kla­my, które są zgod­ne z ma­ją­cym za­sto­so­wa­nie pra­wem, nie po­win­ny być same w sobie uzna­wa­ne za szko­dli­we prak­ty­ki ma­ni­pu­la­cyj­ne opar­te na AI.