Con­si­de­ren­tul 110

Mo­de­le­le de IA de uz ge­ne­ral ar putea pre­zen­ta ris­curi sis­te­mi­ce care in­clud, prin­tre al­te­le, orice efec­te ne­ga­ti­ve reale sau pre­vi­zi­bi­le în mod re­zo­na­bil în le­gă­tu­ră cu ac­ci­den­te ma­jo­re, per­tur­bări ale sec­toa­re­lor cri­ti­ce și con­se­cin­țe grave pen­tru să­nă­ta­tea și si­gu­ran­ța pu­bli­că, orice efec­te ne­ga­ti­ve reale sau pre­vi­zi­bi­le în mod re­zo­na­bil asu­pra pro­ce­se­lor de­mo­cra­ti­ce, asu­pra se­cu­ri­tă­ții pu­bli­ce și eco­no­mi­ce, di­se­mi­na­rea de con­ți­nut ile­gal, fals sau dis­cri­mi­na­to­riu. Ris­cu­ri­le sis­te­mi­ce ar tre­bui să fie în­țe­le­se ca crescând odată cu ca­pa­bi­li­tă­ți­le mo­de­lu­lui și cu am­ploa­rea mo­de­lu­lui, pot apă­rea de-a lun­gul în­tre­gu­lui ciclu de viață al mo­de­lu­lui și sunt in­flu­en­ța­te de con­di­ți­i­le de uti­li­za­re ne­co­res­pun­ză­toa­re, de fi­a­bi­li­ta­tea mo­de­lu­lui, de echi­ta­tea mo­de­lu­lui și de se­cu­ri­ta­tea mo­de­lu­lui, de nive­lul de auto­no­mie a mo­de­lu­lui, de ac­ce­sul său la in­stru­men­te, de mo­da­li­tă­ți­le noi sau com­bi­na­te, de stra­te­gi­i­le de lan­sa­re și dis­tri­bu­ție, de po­ten­ți­a­lul de eli­mi­na­re a me­ca­nis­me­lor de pro­tec­ție și de alți fac­tori. În spe­cial, abor­dă­ri­le in­ter­națio­na­le au iden­ti­fi­cat până în pre­zent ne­ce­si­ta­tea de a acor­da aten­ție ris­cu­ri­lor ge­ne­ra­te de po­ten­ți­a­le­le uti­li­zări ne­co­res­pun­ză­toa­re in­ten­țio­na­te sau de pro­ble­me­le ne­in­ten­țio­na­te de con­trol le­ga­te de ali­ni­e­rea la in­ten­ția umană; ris­cu­ri­lor chi­mi­ce, bi­o­lo­gi­ce, ra­di­o­lo­gi­ce și nu­clea­re, cum ar fi mo­da­li­tă­ți­le de re­du­ce­re a ba­ri­e­re­lor la in­tra­re, in­clu­siv pen­tru dezvol­ta­rea, pro­iec­ta­rea, achi­zi­țio­na­rea sau uti­li­za­rea de arme; ca­pa­bi­li­tă­ți­lor ci­ber­ne­ti­ce ofen­si­ve, cum ar fi mo­da­li­tă­ți­le care per­mit des­co­pe­ri­rea, ex­ploa­ta­rea sau uti­li­za­rea ope­ra­țio­na­lă a vul­ne­ra­bi­li­tă­ți­lor; efec­te­lor in­te­rac­țiu­nii și ale uti­li­ză­rii in­stru­men­te­lor, in­clu­siv, de exem­plu, ca­pa­ci­ta­tea de a con­tro­la sis­te­me­le fi­zi­ce și de a in­ter­fe­ra cu in­fras­truc­tu­ra cri­ti­că; ris­cu­ri­lor le­ga­te de po­si­bi­li­ta­tea ca mo­de­le­le să facă copii după ele în­se­le sau să se „au­to­re­pro­du­că” ori să an­tre­ne­ze alte mo­de­le; mo­du­ri­lor în care mo­de­le­le pot da naș­te­re unor pre­ju­de­căți dă­u­nă­toa­re și dis­cri­mi­nă­rii cu ris­curi pen­tru in­di­vizi, co­mu­ni­tăți sau so­ci­e­tăți; fa­ci­li­tă­rii dez­in­for­mă­rii sau pre­ju­di­ci­e­rii vie­ții pri­va­te cu ame­nin­țări la adre­sa va­lo­ri­lor de­mo­cra­ti­ce și a drep­tu­ri­lor omu­lui; ris­cu­lui ca un anu­mit eve­ni­ment să con­du­că la o re­ac­ție în lanț cu efec­te ne­ga­ti­ve con­si­de­ra­bi­le care ar putea afec­ta până la un în­treg oraș, o în­trea­gă ac­ti­vi­ta­te de do­me­niu sau o în­trea­gă co­mu­ni­ta­te.