Motyw 67

Wy­so­kiej ja­ko­ści dane i do­stęp do wy­so­kiej ja­ko­ści da­nych od­gry­wa­ją klu­czo­wą rolę w usta­na­wia­niu struk­tu­ry i za­pew­nia­niu sku­tecz­no­ści dzia­ła­nia wielu sys­te­mów AI, w szcze­gól­no­ści w przy­pad­ku sto­so­wa­nia tech­nik obej­mu­ją­cych tre­no­wa­nie mo­de­li, w celu za­pew­nie­nia, aby sys­tem AI wy­so­kie­go ry­zy­ka dzia­łał zgod­nie z prze­zna­cze­niem i bez­piecz­nie oraz aby nie stał się źró­dłem za­ka­za­nej przez prawo Unii dys­kry­mi­na­cji. Wy­so­kiej ja­ko­ści zbio­ry da­nych tre­nin­go­wych, wa­li­da­cyj­nych i te­sto­wych wy­ma­ga­ją wdro­że­nia od­po­wied­nich prak­tyk w za­kre­sie ad­mi­ni­stro­wa­nia i za­rzą­dza­nia da­ny­mi. Zbio­ry da­nych tre­nin­go­wych, wa­li­da­cyj­nych i te­sto­wych, w tym ety­kie­ty, po­win­ny być ade­kwat­ne, wy­star­cza­ją­co re­pre­zen­ta­tyw­ne oraz w jak naj­więk­szym stop­niu wolne od błę­dów i kom­plet­ne z punk­tu wi­dze­nia prze­zna­cze­nia sys­te­mu. Aby uła­twić za­pew­nie­nie zgod­no­ści z pra­wem Unii o ochro­nie da­nych, takim jak roz­po­rzą­dze­nie (UE) 2016/679, prak­ty­ki w za­kre­sie ad­mi­ni­stro­wa­nia i za­rzą­dza­nia da­ny­mi po­win­ny prze­wi­dy­wać, w przy­pad­ku da­nych oso­bo­wych, za­pew­nia­nie przej­rzy­sto­ści pier­wot­ne­go celu zbie­ra­nia da­nych. Te zbio­ry da­nych po­win­ny rów­nież cha­rak­te­ry­zo­wać się od­po­wied­ni­mi wła­ści­wo­ścia­mi sta­ty­stycz­ny­mi, w tym w od­nie­sie­niu do osób lub grup osób, wobec któ­rych sys­tem AI wy­so­kie­go ry­zy­ka ma być wy­ko­rzy­sty­wa­ny, ze szcze­gól­nym uwzględ­nie­niem ogra­ni­cza­nia ewen­tu­al­nej stron­ni­czo­ści w zbio­rach da­nych, która może mieć wpływ na zdro­wie i bez­pie­czeń­stwo osób, ne­ga­tyw­nie od­dzia­ły­wać na prawa pod­sta­wo­we lub pro­wa­dzić do dys­kry­mi­na­cji za­ka­za­nej na mocy prawa Unii, zwłasz­cza w przy­pad­ku gdy dane wyj­ścio­we wpły­wa­ją na dane wej­ścio­we wy­ko­rzy­sty­wa­ne na po­trze­by przy­szłych ope­ra­cji (sprzę­że­nie zwrot­ne, ang. fe­ed­back loops). Stron­ni­czość może być na przy­kład nie­od­łącz­ną cechą źró­dło­wych zbio­rów da­nych, szcze­gól­nie je­że­li używa się da­nych hi­sto­rycz­nych lub wy­ge­ne­ro­wa­nych na eta­pie wdra­ża­nia sys­te­mów w wa­run­kach rze­czy­wi­stych. Na wy­ni­ki ge­ne­ro­wa­ne przez sys­te­my AI może wpły­wać taka nie­od­łącz­na stron­ni­czość, która z za­sa­dy stop­nio­wo zwięk­sza się, a tym samym utrwa­la i po­głę­bia ist­nie­ją­cą dys­kry­mi­na­cję, zwłasz­cza w od­nie­sie­niu do osób na­le­żą­cych do grup szcze­gól­nie wraż­li­wych, w tym grup ra­so­wych lub et­nicz­nych. Wymóg, aby zbio­ry da­nych były w jak naj­więk­szym stop­niu kom­plet­ne i wolne od błę­dów, nie po­wi­nien wpły­wać na sto­so­wa­nie tech­nik ochro­ny pry­wat­no­ści w kon­tek­ście wdra­ża­nia i te­sto­wa­nia sys­te­mów AI. W szcze­gól­no­ści zbio­ry da­nych po­win­ny uwzględ­niać – w za­kre­sie wy­ma­ga­nym z uwagi na ich prze­zna­cze­nie – cechy, wła­ści­wo­ści lub ele­men­ty, które są spe­cy­ficz­ne dla okre­ślo­ne­go oto­cze­nia geo­gra­ficz­ne­go, kon­tek­stu­al­ne­go, be­ha­wio­ral­ne­go lub funk­cjo­nal­ne­go, w któ­rym dany sys­tem AI ma być wy­ko­rzy­sty­wa­ny. Zgod­ność z wy­mo­ga­mi zwią­za­ny­mi z za­rzą­dza­niem da­ny­mi można za­pew­nić, ko­rzy­sta­jąc z usług stron trze­cich, które ofe­ru­ją cer­ty­fi­ko­wa­ne usłu­gi w za­kre­sie zgod­no­ści, w tym we­ry­fi­ka­cję za­rzą­dza­nia da­ny­mi i in­te­gral­no­ści zbio­ru da­nych oraz prak­ty­ki w za­kre­sie tre­no­wa­nia, wa­li­da­cji i te­sto­wa­nia da­nych, o ile za­pew­nio­na jest zgod­ność z wy­mo­ga­mi do­ty­czą­cy­mi da­nych okre­ślo­ny­mi w ni­niej­szym roz­po­rzą­dze­niu.