ZDA: Obvladovanje tveganj umetne inteligence

ZDA: Obvladovanje tveganj umetne inteligence
02. 02. 2023 objavil/a Info Hiša
obvladovanje tveganj
umetna inteligenca
ZDA

Ameriški narodni urad za standarde in tehnologijo (NIST) je izdal svojo prvo različico Ogrodja za obvladovanje tveganj umetne inteligence (AI Risk Management Framework)

Novica je bila objavljena 26.1.2023

Ogrodje za obvladovanje tveganja umetne inteligence urada je namenjeno prostovoljni uporabi in izboljšanju zmožnosti odgovornega obravnavanja načrtovanja, razvoja, uporabe in vrednotenja izdelkov, storitev in sistemov umetne inteligence.

NIST AI RMF je rezultat procesa, ki se je začel poleti 2021. Osnovna predpostavka za AI RMF je, da umetna inteligenca v primerjavi s tradicionalno programsko opremo predstavlja več različnih tveganj.

1.      Sistemi umetne inteligence se učijo na podatkih, ki se lahko sčasoma spremenijo, včasih tudi znatno in nepričakovano, kar vpliva na sisteme na načine, ki jih je težko razumeti.

2.      Sistemi umetne inteligence oziroma strojnega učenja so po naravi tudi »družbeno-tehnični«, kar pomeni, da nanje vplivata družbena dinamika in človeško vedenje. Tveganja umetne inteligence lahko izhajajo iz kompleksnega medsebojnega vpliva teh tehničnih in družbenih dejavnikov.

Novo ogrodje želi pomagati pri odpravljanju teh tveganj, hkrati pa še vedno podpirati inovacije umetne inteligence.

AI RMF ima dva dela:

I.                 del: pomoč pri opredelitvi  tveganj, povezanih z umetno inteligenco, in predstavitvi značilnosti zaupanja vrednih sistemov umetne inteligence.

II.                del: Jedro ogrodja opisuje 4 posebne funkcije, ki so potrebne za obravnavanje tveganj sistemov umetne inteligence v praksi: vodenje, preslikava, merjenje in upravljanje.

Ogrodje  je mogoče uporabiti v posameznih specifičnih primerih in na kateri koli stopnji življenjskega cikla umetne inteligence.

Več o tem NIST: AI in NIST: AI RISK MANAGEMENT FRAMEWORK

Vir: NIST

Naslovna fotografija: RawPixel