Zakon o umetni inteligenci

Iz Wikipedije, proste enciklopedije

Zakon o umetni inteligenci (AI Act) je predlagana uredba Evropske unije. Predlagala ga je Evropska komisija 21. aprila 2021[1] in je namenjen uvedbi skupnega regulativnega in pravnega okvira za umetno inteligenco.[2] Njegovo področje uporabe zajema vse sektorje (razen vojaškega) in vse vrste umetne inteligence. Zakon je opredeljen kot regulacija izdelkov in kot tak ne bo zadeval pravic posameznikov. Regulacija bo usmerjena v ponudnike sistemov umetne inteligence in subjekte, ki te sisteme uporabljajo v poklicni vlogi.

Namen predlaganega zakona EU o umetni inteligenci je razvrstiti in urediti različne načine uporabe umetne inteligence glede na tveganje, da povzročijo škodo. Razvrščene so v tri osnovne kategorije: prepovedane prakse, sistemi z visokim tveganjem in drugi sistemi umetne inteligence.[3]

Med prepovedane prakse spadajo:

  • uporaba umetne inteligenco za povzročanje subliminalne manipulacije;
  • uporaba umetne inteligence za izkoriščanje človeških ranljivosti;
  • prakse, ki lahko povzročijo fizično ali psihično škodo;
  • prakse, ki nediskriminatorno uporabljajo daljinske biometrične identifikacije v realnem času v javnih prostorih za namene kazenskega pregona ali uporaba 'družbenih točk' z uporabo umetne inteligence, za nepravično obravnavo posameznikov in skupin

Prakso v zadnji alineji zakon v celoti prepoveduje, medtem ko je za prve tri predlagan odobritveni režim v okviru kazenskega pregona. [4]

Sistemi z visokim tveganjem so po Zakonu o umetni inteligenci tisti, ki resno ogrožajo zdravje, varnost ali temeljne človeške pravice. Zahtevajo obvezno presojo skladnosti, ki jo kot samoocenjevanje izvede ponudnik produkta, pred izdajo na trg. Posebej kritične aplikacije, kot so tiste za medicinske pripomočke, zahtevajo, da priglasitveni organ, ki izvaja ocenjevanje v skladu z obstoječimi predpisi EU, kot je uredba o medicinskih pripomočkih, pregleda ponudnikovo samooceno v skladu z zahtevami zakona o UI.

Sisteme umetne inteligence zunaj zgornjih kategorij ne bodo regulirani. S konceptom maksimalne harmonizacije je državam članicam večinoma preprečena dodatna regulacija. Obstoječe nacionalne zakonodaje v zvezi z zasnovo ali uporabo takih sistemov bodo razveljavljene. Predviden pa je prostovoljni kodeks ravnanja, vendar ne bo implementiran od samega začetka.[3]

Zakon predlaga tudi uvedbo Evropskega odbora za umetno inteligenco, ki bo spodbujal mednacionalno sodelovanje in zagotavljal skladnost z uredbo.[5]

Tako kot Splošna uredba Evropske unije o varstvu podatkov bi lahko tudi zakon o UI postal svetovni standard.[6] Zunaj Evrope že ima vpliv; septembra 2021 je brazilski kongres sprejel zakon, ki ustvarja pravni okvir za umetno inteligenco.[7] Evropski svet je 6. decembra 2022 sprejel svoj splošni pristop k Zakonu o umetni inteligenci [8] Nemčija v spremni izjavi države članice navaja podporo stališče Sveta, vendar še vedno vidi potrebe po nekaterih nadaljnjih izboljšavah [9]. Med ukrepi, ki bodo verjetno predlagani, je, da razvijalci za izdelke, kot je Open AI-jev ChatGPT, izjavijo, ali je bilo za razvoj njihove tehnologije umetne inteligence uporabljeno avtorsko zaščiteno gradivo.[10]

Izvrševanje[uredi | uredi kodo]

Zakon o umetni inteligenci ureja vstop na notranji trg EU. V tem obsegu uporablja Nov zakonodajni okvir, ki sega v Nov pristop iz leta 1985. To deluje takole: zakonodajalec EU ustvari Zakon o umetni inteligenci, ki vsebuje najpomembnejše določbe, katere bodo morali upoštevati vsi sistemi umetne inteligence, ki želijo dostop do notranjega trga EU. Te zahteve se imenujejo "bistvene zahteve". V skladu z Novim zakonodajnim okvirom se te bistvene zahteve prenesejo na evropske organizacije za standardizacijo, ki bodo pripravile tehnične standarde, ki podrobneje določajo bistvene zahteve.

Zakon od držav članic zahteva, da ustanovijo lastne priglasitvene organe. Za preverjanje, ali so sistemi umetne inteligence res skladni s standardi, kot so določeni v aktu o umetni inteligenci, se izvede ocena skladnosti.[11] To ugotavljanje skladnosti se opravi bodisi s samoocenjevanjem, kar pomeni, da ponudnik sistema umetne inteligence sam preveri skladnost, bodisi z ugotavljanjem skladnosti s strani tretje strani, kar pomeni, da bo priglasitveni organ izvedel ugotavljanje skladnosti.[12] Priglasitveni organi ohranijo možnost izvajanja revizij za preverjanje ustreznosti izvajanja samoocenjevanja. [13]

V skladu s sedanjim predlogom številni sistemi umetne inteligence z visokim tveganjem ne potrebujejo ocene skladnosti tretje strani, kar je predmet kritike.[13][14][15][16] Te kritike temeljijo na dejstvu, da bi morala sisteme umetne inteligence z visokim tveganjem oceniti neodvisna tretja oseba, da se v celoti zagotovi njihova varnost.

Reference[uredi | uredi kodo]

  1. ↑ »EUR-Lex - 52021PC0206 - EN - EUR-Lex«. eur-lex.europa.eu. Arhivirano iz prvotnega spletišča dne 23. avgusta 2021. Pridobljeno 7. septembra 2021.
  2. ↑ »Proposal for a Regulation laying down harmonised rules on artificial intelligence | Shaping Europe's digital future«. digital-strategy.ec.europa.eu (v angleščini). Arhivirano iz prvotnega spletišča dne 4. januarja 2023. Pridobljeno 9. januarja 2023.
  3. ↑ 3,0 3,1 Veale, Michael (2021). »Demystifying the Draft EU Artificial Intelligence Act«. Computer Law Review International. 22 (4). doi:10.31235/osf.io/38p5f. Napaka pri navajanju: Neveljavna oznaka <ref>; sklici, poimenovani Veale 2021, so definirani večkrat z različno vsebino (glej stran pomoči).
  4. ↑ Mueller, Benjamin (4. maj 2021). »The Artificial Intelligence Act: A Quick Explainer«. Center for Data Innovation (v ameriški angleščini). Arhivirano iz prvotnega spletišča dne 14. oktobra 2022. Pridobljeno 14. novembra 2021.
  5. ↑ Propp, Mark MacCarthy and Kenneth (4. maj 2021). »Machines learn that Brussels writes the rules: The EU's new AI regulation«. Brookings (v ameriški angleščini). Arhivirano iz prvotnega spletišča dne 27. oktobra 2022. Pridobljeno 7. septembra 2021.
  6. ↑ »Home«. The Artificial Intelligence Act (v ameriški angleščini). 7. september 2021. Arhivirano iz prvotnega spletišča dne 17. februarja 2022. Pridobljeno 17. februarja 2022.
  7. ↑ »Câmara aprova projeto que regulamenta uso da inteligência artificial - Notícias«. Portal da Câmara dos Deputados (v portugalščini). Arhivirano iz prvotnega spletišča dne 17. februarja 2022. Pridobljeno 17. februarja 2022.
  8. ↑ »Artificial Intelligence Act: Council calls for promoting safe AI that respects fundamental rights«. www.consilium.europa.eu (v angleščini). Arhivirano iz prvotnega spletišča dne 9. januarja 2023. Pridobljeno 9. januarja 2023.
  9. ↑ »Proposal for a Regulation of the European Parliament and of the Council laying down harmonised rules on artificial intelligence (Artificial Intelligence Act) and amending certain Union legislative acts General approach - Statement by Germany«. www.data.consilium.europa.eu. Arhivirano iz prvotnega spletišča dne 27. januarja 2023. Pridobljeno 9. januarja 2023.
  10. ↑ »European parliament prepares tough measures over use of artificial intelligence«. Financial Times. 14. april 2023. Arhivirano iz prvotnega spletišča dne 14. aprila 2023. Pridobljeno 14. aprila 2023.
  11. ↑ »EUR-Lex - 52021SC0084 - EN - EUR-Lex«. eur-lex.europa.eu (v angleščini). Arhivirano iz prvotnega spletišča dne 17. aprila 2023. Pridobljeno 17. aprila 2023.
  12. ↑ Veale, Michael; Borgesius, Frederik Zuiderveen (1. avgust 2021). »Demystifying the Draft EU Artificial Intelligence Act — Analysing the good, the bad, and the unclear elements of the proposed approach«. Computer Law Review International (v angleščini). 22 (4): 97–112. arXiv:2107.03721. doi:10.9785/cri-2021-220402. ISSN 2194-4164. Arhivirano iz spletišča dne 26. marca 2023. Pridobljeno 17. aprila 2023.
  13. ↑ 13,0 13,1 Casarosa, Federica (1. junij 2022). »Cybersecurity certification of Artificial Intelligence: a missed opportunity to coordinate between the Artificial Intelligence Act and the Cybersecurity Act«. International Cybersecurity Law Review (v angleščini). 3 (1): 115–130. doi:10.1365/s43439-021-00043-6. ISSN 2662-9739. Napaka pri navajanju: Neveljavna oznaka <ref>; sklici, poimenovani fc, so definirani večkrat z različno vsebino (glej stran pomoči).
  14. ↑ Smuha, Nathalie A.; Ahmed-Rengers, Emma; Harkens, Adam; Li, Wenlong; MacLaren, James; Piselli, Riccardo; Yeung, Karen (5. avgust 2021). »How the EU Can Achieve Legally Trustworthy AI: A Response to the European Commission's Proposal for an Artificial Intelligence Act« (v angleščini). Rochester, NY. doi:10.2139/ssrn.3899991. SSRN 3899991. {{navedi časopis}}: Sklic journal potrebuje|journal= (pomoč)
  15. ↑ Almada, Marco; Petit, Nicolas (20. december 2022). »The EU AI Act: Between Product Safety and Fundamental Rights« (v angleščini). Rochester, NY. SSRN 4308072. {{navedi časopis}}: Sklic journal potrebuje|journal= (pomoč)
  16. ↑ Ebers, Martin; Hoch, Veronica R. S.; Rosenkranz, Frank; Ruschemeier, Hannah; Steinrötter, Björn (december 2021). »The European Commission's Proposal for an Artificial Intelligence Act—A Critical Assessment by Members of the Robotics and AI Law Society (RAILS)«. J (v angleščini). 4 (4): 589–603. doi:10.3390/j4040043. ISSN 2571-8800.{{navedi časopis}}: Vzdrževanje CS1: samodejni prevod datuma (povezava)

Zunanje povezave[uredi | uredi kodo]

Pridobljeno iz »https://sl.wikipedia.org/w/index.php?title=Zakon_o_umetni_inteligenci&oldid=6065204«