EU: Kibernetska varnost umetne inteligence in standardizacija
Agencija Evropske unije za kibernetsko varnost (ENISA) je izdelala pregled učinkov obstoječih splošnih standardov (kot sta ISO 27001/27002 in ISO 9001) na možnost obvladovanja tveganj, s katerimi se sooča umetna inteligenca.
Novica je bila objavljena 14.3.2023
Splošni cilj tega dokumenta "Cybersecurity of AI and standardisation« je zagotoviti pregled standardov (obstoječih, v pripravi, v obravnavi in načrtovanih), povezanih s kibernetsko varnostjo umetne inteligence (UI), oceniti njihovo pokritost in opredeliti vrzeli v standardizaciji. To počne z upoštevanjem posebnosti umetne inteligence, zlasti strojnega učenja, in s sprejetjem širokega pogleda na kibernetsko varnost, ki zajema tako „tradicionalno“ paradigmo CIA (zaupnosti, integriteta, razpoložljivost) kot širši koncept zanesljivosti umetne inteligence. Na koncu poročilo preučuje, kako lahko standardizacija podpira izvajanje vidikov kibernetske varnosti, vključenih v predlagano uredbo EU o določitvi usklajenih pravil o umetni inteligenci.
Vendar pa obstajata dve vprašanji:
1)
Čeprav ima UI nekaj posebnosti, je v svojem bistvu programska oprema; zato se lahko tisto, kar velja za programsko opremo, uporabi za UI. Vendar pa še vedno obstajajo vrzeli glede pojasnitve izrazov in konceptov UI:
2)
V zaključku dokumenta so izpostavljeni najbolj očitni vidiki, ki jih je potrebno upoštevati v obstoječih/novih standardih:
Osnutek dokumenta je dostopen tukaj
Naslovna fotografija: RawPixel