Motyw 56

Wdra­ża­nie sys­te­mów AI w edu­ka­cji jest ważne, by pro­mo­wać wy­so­kiej ja­ko­ści kształ­ce­nie i szko­le­nie cy­fro­we oraz by umoż­li­wić wszyst­kim oso­bom uczą­cym się i na­uczy­cie­lom zdo­by­wa­nie nie­zbęd­nych umie­jęt­no­ści i kom­pe­ten­cji cy­fro­wych, w tym umie­jęt­no­ści ko­rzy­sta­nia z me­diów, i kry­tycz­ne­go my­śle­nia oraz dzie­le­nie się tymi umie­jęt­no­ścia­mi i kom­pe­ten­cja­mi, z myślą o ak­tyw­nym udzia­le w go­spo­dar­ce, spo­łe­czeń­stwie i pro­ce­sach de­mo­kra­tycz­nych. Jako sys­te­my AI wy­so­kie­go ry­zy­ka na­le­ży na­to­miast za­kla­sy­fi­ko­wać sys­te­my AI wy­ko­rzy­sty­wa­ne w ob­sza­rze edu­ka­cji lub szko­le­nia za­wo­do­we­go – w szcze­gól­no­ści prze­zna­czo­ne do celów po­dej­mo­wa­nia de­cy­zji o do­stę­pie lub przy­ję­ciu do in­sty­tu­cji edu­ka­cyj­nych i in­sty­tu­cji szko­le­nia za­wo­do­we­go lub pro­gra­mów edu­ka­cyj­nych lub szko­le­nia za­wo­do­we­go na wszyst­kich po­zio­mach lub do przy­dzie­la­nia osób do tych in­sty­tu­cji lub pro­gra­mów, do oce­nia­nia wy­ni­ków nauki osób, do oce­nia­nia od­po­wied­nie­go po­zio­mu wy­kształ­ce­nia i istot­ne­go od­dzia­ły­wa­nia na po­ziom wy­kształ­ce­nia i szko­le­nia, jaki dana osoba fi­zycz­na otrzy­ma lub do ja­kie­go bę­dzie mogła mieć do­stęp, lub do mo­ni­to­ro­wa­nia i wy­kry­wa­nia za­bro­nio­ne­go za­cho­wa­nia uczniów pod­czas te­stów – po­nie­waż sys­te­my te mogą de­cy­do­wać o prze­bie­gu kształ­ce­nia i ka­rie­ry za­wo­do­wej danej osoby, a tym samym mogą wpły­wać na jej zdol­ność do za­pew­nie­nia sobie źró­dła utrzy­ma­nia. Takie sys­te­my, je­że­li są nie­wła­ści­wie za­pro­jek­to­wa­ne i wy­ko­rzy­sty­wa­ne, mogą być szcze­gól­nie in­wa­zyj­ne i na­ru­szać prawo do kształ­ce­nia i szko­le­nia, a także prawo do nie­dy­skry­mi­na­cji oraz mogą utrwa­lać hi­sto­rycz­ne wzor­ce dys­kry­mi­na­cji, na przy­kład wobec ko­biet, nie­któ­rych grup wie­ko­wych, osób z nie­peł­no­spraw­no­ścia­mi lub osób o okre­ślo­nym po­cho­dze­niu ra­so­wym lub et­nicz­nym bądź okre­ślo­nej orien­ta­cji sek­su­al­nej.