Skip to content

Nova ISO/IEC 42001 norma koji će pomoći u izgradnji povjerenja u umjetnu inteligenciju

Nakon tri godine razvoja, nova norma sustava upravljanja bliži se završnoj fazi. ISO/IEC 42001 trebala bi biti sastavni dio poboljšanja upravljanja i odgovornosti umjetne inteligencije na globalnoj razini.

S ubrzanim usvajanjem i interesom umjetne inteligencije (AI), postojala je velika potražnja za nekom metodom upravljanja njezinom uporabom i primjenom. Norma ISO/IEC 42001 rezultat je te potražnje. Njegov razvoj uključivao je stručnjake iz više od 50 zemalja i razdoblje javnog savjetovanja prije objave početnog nacrta u studenome 2022. Može ga koristiti bilo koja veličina ili vrsta organizacije koja namjerava koristiti umjetnu inteligenciju za razvoj ili isporuku svojih proizvoda i usluga.

"Umjetna inteligencija nudi beskrajne koristi društvu i poduzećima; međutim, osiguravanje povjerenja u umjetnu inteligenciju zahtijeva sigurnu, sigurnu i etičku primjenu tehnologije", kaže Nanda Kumar Shamanna, Global ICT Scheme Manager (voditeljica globalne ICT sheme) u DNV-u. 

Kao norma sustava upravljanja, ISO/IEC 42001 dijeli nekoliko ključnih elemenata s drugim normama kao što su ISO 9001 za upravljanje kvalitetom i ISO/IEC 27001 za upravljanje informacijama i kibernetičkom sigurnošću. Norme pružaju najbolje prakse, pravila, definicije ili smjernice koje se koriste za osmišljavanje i proizvodnju proizvoda ili provedbu postupaka za upravljanje rizicima i operativnim aspektima.  I lako se može integrirati s drugim normama sustava upravljanja.

Ciljevi norme ISO/IEC 42001 mogu se sažeti kao: 

  • Promicanje razvoja i upotrebe pouzdanih, transparentnih i odgovornih sustava umjetne inteligencije. 
  • Naglašavanje etičkih načela i vrijednosti kao što su pravednost, nediskriminacija i poštovanje privatnosti pri uvođenju sustava umjetne inteligencije kako bi se ispunila očekivanja dionika.
  • Pomaganje organizacijama da prepoznaju i ublaže rizike povezane s implementacijom umjetne inteligencije, što zauzvrat poboljšava učinkovitost i smanjuje troškove.
  • Održavanje usklađenosti s propisima, uključujući zahtjeve za zaštitu podataka.
  • Izgradnja većeg povjerenja u upravljanje umjetnom inteligencijom poticanjem organizacija da daju prednost ljudskoj dobrobiti, sigurnosti i korisničkom iskustvu u dizajnu i uvođenju umjetne inteligencije.
  • Jačanje svoje reputacije organizacija koje se pridržavaju ISO 42001 stječu konkurentsku prednost i smatraju se liderima u etičkoj umjetnoj inteligenciji.

"ISO/IEC 42001 prva je međunarodna norma sustava upravljanja umjetnom inteligencijom i postat će ključna za pomoć tvrtkama u upravljanju rizicima i sigurnoj provedbi, potičući povjerenje prema svojim dionicima poput pacijenata u bolnici, na primjer", kaže Nanda Kumar Shamanna u DNV-u.