Motyw 75

Klu­czo­wym wy­mo­giem do­ty­czą­cym sys­te­mów AI wy­so­kie­go ry­zy­ka jest so­lid­ność tech­nicz­na. Po­win­ny one być od­por­ne na szko­dli­we lub w inny spo­sób nie­po­żą­da­ne za­cho­wa­nia, które mogą wy­ni­kać z ogra­ni­czeń w sys­te­mach lub ze śro­do­wi­ska, w któ­rym te sys­te­my dzia­ła­ją (np. błędy, uster­ki, nie­spój­no­ści, nie­ocze­ki­wa­ne sy­tu­acje). W związ­ku z tym na­le­ży wpro­wa­dzić środ­ki tech­nicz­ne i or­ga­ni­za­cyj­ne, by za­pew­nić so­lid­ność sys­te­mów AI wy­so­kie­go ry­zy­ka, na przy­kład po­przez pro­jek­to­wa­nie i roz­wi­ja­nie od­po­wied­nich roz­wią­zań tech­nicz­nych w celu za­po­bie­ga­nia szko­dli­wym lub innym nie­po­żą­da­nym za­cho­wa­niom lub ich ogra­ni­cza­nia. Takie roz­wią­za­nia tech­nicz­ne mogą obej­mo­wać na przy­kład me­cha­ni­zmy umoż­li­wia­ją­ce bez­piecz­ne prze­rwa­nie dzia­ła­nia sys­te­mu (przej­ście sys­te­mu w stan bez­piecz­ny – tzw. „fail-​safe”), jeśli za­ist­nie­ją pewne nie­pra­wi­dło­wo­ści lub gdy dzia­ła­nie wy­kra­cza poza okre­ślo­ne z góry gra­ni­ce. Brak ochro­ny przed tym ry­zy­kiem może mieć kon­se­kwen­cje dla bez­pie­czeń­stwa lub ne­ga­tyw­nie wpły­nąć na prawa pod­sta­wo­we, na przy­kład z po­wo­du błęd­nych de­cy­zji lub nie­pra­wi­dło­wych lub stron­ni­czych wy­ni­ków ge­ne­ro­wa­nych przez sys­tem AI.