Con­si­de­ren­tul 44

Exis­tă pre­o­cu­pări se­ri­oa­se cu pri­vi­re la baza ști­in­ți­fi­că a sis­te­me­lor de IA care vi­zea­ză iden­ti­fi­ca­rea sau de­du­ce­rea emo­ți­i­lor, în spe­cial de­o­a­re­ce ex­pri­ma­rea emo­ți­i­lor va­ri­a­ză con­si­de­ra­bil de la o cul­tu­ră la alta și de la o si­tu­a­ție la alta și chiar la nive­lul unei sin­gu­re per­soa­ne. Prin­tre prin­ci­pa­le­le de­fi­cien­țe ale unor ast­fel de sis­te­me se nu­mă­ră fi­a­bi­li­ta­tea li­mi­ta­tă, lipsa spe­ci­fi­ci­tă­ții și po­si­bi­li­tă­ți­le li­mi­ta­te de ge­ne­ra­li­za­re. Prin ur­ma­re, sis­te­me­le de IA care iden­ti­fi­că sau deduc emo­ți­i­le sau in­ten­ți­i­le per­soa­ne­lor fi­zi­ce pe baza da­te­lor lor bi­o­me­tri­ce pot ge­ne­ra re­zul­ta­te dis­cri­mi­na­to­rii și pot fi in­tru­zi­ve pen­tru drep­tu­ri­le și li­ber­tă­ți­le per­soa­ne­lor în cauză. Având în ve­de­re deze­chi­li­brul de pu­te­re în con­tex­tul mun­cii sau al edu­ca­ți­ei, com­bi­nat cu ca­rac­te­rul in­tru­ziv al aces­tor sis­te­me, ele ar putea con­du­ce la un tra­ta­ment pre­ju­di­ci­a­bil sau ne­fa­vo­ra­bil al anu­mi­tor per­soa­ne fi­zi­ce sau al unor gru­puri în­tregi de ast­fel de per­soa­ne. Prin ur­ma­re, ar tre­bui să fie in­ter­zi­se in­tro­du­ce­rea pe piață, pu­ne­rea în func­țiu­ne și uti­li­za­rea sis­te­me­lor de IA des­ti­na­te a fi uti­li­za­te pen­tru a de­tec­ta sta­rea emo­țio­na­lă a per­soa­ne­lor în si­tu­a­ții le­ga­te de locul de muncă și de edu­ca­ție. Aceas­tă in­ter­dic­ție nu ar tre­bui să se apli­ce sis­te­me­lor de IA in­tro­du­se pe piață strict din mo­ti­ve me­di­ca­le sau de si­gu­ran­ță, cum ar fi sis­te­me­le des­ti­na­te uti­li­ză­rii în scop te­ra­pe­u­tic.