Redigerer EU-forordningen om kunstig intelligens (avsnitt)

== Risikokategorier ==
Systemer basert på kunstig intelligens vil bli klassifisert i én av følgende kategorier:

* Uakseptabel risiko: AI-applikasjoner som faller under denne kategorien er forbudt.  Dette inkluderer AI-applikasjoner som manipulerer menneskelig atferd, de som i sanntid og fra avstand (engelsk: «remote») bruker [[Biometri|biometrisk]] identifikasjon (inkludert ansiktsgjenkjenning) i offentlige rom, og de som brukes til sosial rangering (rangering av mennesker basert på deres personlige egenskaper, sosioøkonomisk status eller atferd).<ref name=":2">{{Kilde avis|tittel=EU AI Act: first regulation on artificial intelligence|url=https://www.europarl.europa.eu/news/en/headlines/society/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence|besøksdato=2024-01-06|avis=European Parliament News|språk=en}}</ref>
* Høyrisiko: AI-applikasjoner som utgjør betydelige trusler mot helse, sikkerhet eller personers grunnleggende rettigheter. Gjelder spesielt AI-systemer som brukes i helse, utdanning, rekruttering, kritisk infrastrukturledelse, lovhåndhevelse eller rettferd. De er underlagt forpliktelser om kvalitet, åpenhet, menneskelig tilsyn og sikkerhet. De må evalueres før de blir satt på markedet, samt gjennom hele deres livsløp.<ref name=":2" /> Listen over høyrisiko applikasjoner kan utvides uten at det kreves endring av AI-loven.<ref name=":4">{{Kilde www|url=https://datainnovation.org/2021/05/the-artificial-intelligence-act-a-quick-explainer/|tittel=The Artificial Intelligence Act: A Quick Explainer|besøksdato=2024-01-06|arkiv-url=https://web.archive.org/web/20221014172842/http://datainnovation.org/2021/05/the-artificial-intelligence-act-a-quick-explainer/|arkivdato=14. oktober 2022|fornavn=Benjamin|etternavn=Mueller|url-status=live}}</ref>
* Begrenset risiko: disse systemene er underlagt åpenhetsforpliktelser som har som mål å informere brukerne om at de samhandler med et AI-system og gi dem mulighet til å agere på dette. Denne kategorien inkluderer for eksempel AI-applikasjoner som gjør det mulig å generere eller manipulere bilder, lyd eller videoer (som deepfakes).<ref name=":2" /> Systemer som er gratis og open-source, hvor parameterene er offentlig tilgjengelige, vil ikke dekkes av reguleringene.<ref name=":3">{{Kilde www|url=https://www.euractiv.com/section/artificial-intelligence/news/ai-act-eu-policymakers-nail-down-rules-on-ai-models-butt-heads-on-law-enforcement/|tittel=AI Act: EU policymakers nail down rules on AI models, butt heads on law enforcement|besøksdato=2024-01-06|arkiv-url=https://web.archive.org/web/20240108215257/https://www.euractiv.com/section/artificial-intelligence/news/ai-act-eu-policymakers-nail-down-rules-on-ai-models-butt-heads-on-law-enforcement/|arkivdato=8. januar 2024|fornavn=Luca|etternavn=Bertuzzi|url-status=live}}</ref><ref>{{Kilde www|url=https://www.mhc.ie/hubs/the-eu-artificial-intelligence-act/regulating-chatbots-and-deepfakes-under-the-eu-ai-act|tittel=Regulating Chatbots and Deepfakes|besøksdato=11. januar 2024|arkiv-url=https://web.archive.org/web/20240109141128/https://www.mhc.ie/hubs/the-eu-artificial-intelligence-act/regulating-chatbots-and-deepfakes-under-the-eu-ai-act|arkivdato=9. januar 2024|forlag=Mason Hayes & Curran|url-status=live}}</ref>
* Minimal risiko: dette inkluderer for eksempel AI-systemer som brukes til videospill eller spamfiltre.<ref>{{Kilde www|url=https://www.euronews.com/my-europe/2021/04/21/the-higher-the-risk-the-stricter-the-rule-brussels-new-draft-rules-on-artificial-intellige|tittel='Higher risk, stricter rules': EU's new artificial intelligence rules|besøksdato=2024-01-06|arkiv-url=https://web.archive.org/web/20240106182629/https://www.euronews.com/my-europe/2021/04/21/the-higher-the-risk-the-stricter-the-rule-brussels-new-draft-rules-on-artificial-intellige|arkivdato=6. januar 2024|fornavn=Jorge|etternavn=Liboreiro|url-status=live}}</ref> De fleste AI-applikasjonene forventes å være i denne kategorien. De er ikke regulert, og medlemsstatene forhindres i å regulere dem videre gjennom maksimal harmonisering. Det er ikke brukt eksisterende nasjonale lover knyttet til utforming eller bruk av slike systemer. Imidlertid er en frivillig oppførselskodeks foreslått.<ref name="Veale 20212">{{Cite journal|title=Demystifying the Draft EU Artificial Intelligence Act}}</ref>

I nyere tid har det blir lagt til en ny kategori, spesielt for generativ kunstig intelligens:

* Generell AI («GPAI»): denne kategorien ble lagt til i 2023, og inkluderer spesielt grunnmodeller som ChatGPT, som er underlagt krav om åpenhet. AI-systemer med spesielt generiske anvendelsesområder, som anses å kunne utgjøre systemiske risikoer (spesielt de som er trent med en beregningsevne på mer enn 10<sup>25</sup> [[FLOPS]]<ref name=":3" />), må også gjennomgå en grundig evalueringsprosess.<ref name=":2" />