Motyw 44

Ist­nie­ją po­waż­ne obawy co do pod­staw na­uko­wych sys­te­mów AI ma­ją­cych na celu roz­po­zna­wa­nie emo­cji lub wy­cią­ga­nie wnio­sków na temat emo­cji, zwłasz­cza że wy­ra­ża­nie emo­cji znacz­nie się różni w za­leż­no­ści od kul­tur i sy­tu­acji, a nawet w przy­pad­ku po­je­dyn­czej osoby. Wśród głów­nych wad ta­kich sys­te­mów znaj­du­ją się ogra­ni­czo­na wia­ry­god­ność, nie­pre­cy­zyj­ność i ogra­ni­czo­na moż­li­wość uogól­nie­nia. W związ­ku z tym sys­te­my AI roz­po­zna­ją­ce emo­cje lub za­mia­ry osób fi­zycz­nych lub wy­cią­ga­ją­ce wnio­ski na temat emo­cji lub za­mia­rów na pod­sta­wie da­nych bio­me­trycz­nych tych osób mogą pro­wa­dzić do dys­kry­mi­na­cyj­nych wy­ni­ków i mogą na­ru­szać prawa i wol­no­ści za­in­te­re­so­wa­nych osób. Bio­rąc pod uwagę brak rów­no­wa­gi sił w kon­tek­ście pracy lub edu­ka­cji, w po­łą­cze­niu z in­wa­zyj­nym cha­rak­te­rem tych sys­te­mów, sys­te­my takie mogą pro­wa­dzić do krzyw­dzą­ce­go lub nie­ko­rzyst­ne­go trak­to­wa­nia nie­któ­rych osób fi­zycz­nych lub ca­łych ich grup. W związ­ku z tym na­le­ży za­ka­zać wpro­wa­dza­nia do ob­ro­tu, od­da­wa­nia do użyt­ku lub wy­ko­rzy­sty­wa­nia sys­te­mów AI prze­zna­czo­nych do wy­kry­wa­nia stanu emo­cjo­nal­ne­go osób fi­zycz­nych w sy­tu­acjach zwią­za­nych z miej­scem pracy i edu­ka­cją. Zakaz ten nie po­wi­nien obej­mo­wać sys­te­mów AI wpro­wa­dza­nych do ob­ro­tu wy­łącz­nie ze wzglę­dów me­dycz­nych lub bez­pie­czeń­stwa, ta­kich jak sys­te­my prze­zna­czo­ne do użyt­ku te­ra­peu­tycz­ne­go.