Sammanfattning: EU:s AI Act kategoriserar AI-system efter risk och kräver transparens och ansvarsskyldighet. Civisto implementerar AI-triage inom regelverkets ramar för säker kommunal verksamhet.

Datum: 21 september 2025 Författare: Johan Lido

EU:s nya AI-förordning, känd som AI Act, är världens första heltäckande lagstiftning för artificiell intelligens. Den syftar till att främja innovation samtidigt som den säkerställer att AI-system som används inom unionen är säkra och respekterar grundläggande rättigheter. För offentlig sektor, inklusive Sveriges kommuner, innebär detta en ny era av ansvar och transparens. Lagen klassificerar AI-system i olika riskkategorier, och system som bedöms som “högrisk” beläggs med strikta krav på allt från datakvalitet och dokumentation till mänsklig översyn och robusthet [1].

Ett av de områden som pekas ut som högrisk är AI-system som används av offentliga myndigheter för att bedöma medborgares rätt till förmåner och tjänster [2]. Även om Civistos primära funktion – att ta emot och sortera medborgarrapporter – inte direkt faller under denna kategori, gränsar den till den. Den data som samlas in och de analyser som görs kan potentiellt påverka hur en kommun prioriterar sina resurser, vilket i sin tur påverkar servicen till medborgarna. Därför har vi på Civisto valt att proaktivt anamma principerna för högrisksystem i hela vår plattformsdesign. Vi tror att allt annat vore oansvarigt.

Civistos Åtagande: Att Överträffa Kraven i AI Act

För oss är AI Act inte en börda, utan en välkommen standard som ligger i linje med vår egen filosofi om ansvarsfull och transparent AI. Vi ser det som vårt ansvar att erbjuda kommunerna en plattform som inte bara är kraftfull, utan också säker, rättvis och helt i enlighet med både lagens bokstav och anda. Så här säkerställer vi det:

Krav för Högrisksystem i AI Act Civistos Implementering
Riskhanteringssystem Vi genomför kontinuerliga riskanalyser för att identifiera, utvärdera och mitigera potentiella risker med vår AI, såsom risken för partiskhet (bias) i datan eller felaktiga slutsatser.
Hög Datakvalitet Vår AI tränas på en bred och representativ datamängd för att minimera risken för diskriminerande resultat. Vi har processer för att upptäcka och korrigera eventuella skevheter i den inkommande datan.
Teknisk Dokumentation & Spårbarhet Allt vårt AI-system gör loggas automatiskt. Detta skapar en fullständig spårbarhet (audit trail) som gör det möjligt att i efterhand granska och förstå varför systemet har fattat ett visst beslut, t.ex. varför en rapport har kategoriserats på ett visst sätt.
Transparens & Information till Användare Kommunerna som använder Civisto får tydlig information om hur AI-systemet fungerar, dess kapacitet och dess begränsningar. Vi är transparenta med hur vår AI kommer fram till sina slutsatser.
Mänsklig Översyn AI:n i Civisto är ett beslutsstöd, inte en beslutsfattare. Det finns alltid en människa (en handläggare på kommunen) som har det slutgiltiga ansvaret och som kan granska, ifrågasätta och ändra de förslag som AI:n ger.
Robusthet, Exakthet & Cybersäkerhet Vår plattform är byggd för att vara tekniskt robust och motståndskraftig mot störningar och cyberattacker. Vi arbetar kontinuerligt med att förbättra exaktheten i våra AI-modeller.

En Partner för Ansvarsfull Digitalisering

För en enskild kommun kan det vara en övermäktig uppgift att säkerställa att varje AI-verktyg man använder uppfyller de komplexa kraven i AI Act. Genom att välja Civisto får kommunen en partner som redan har gjort detta arbete. Vi tar på oss ansvaret för att vår plattform lever upp till de högsta standarderna för säkerhet, transparens och etik. Detta gör det möjligt för kommunen att fokusera på sin kärnverksamhet: att leverera service till medborgarna.

Införandet av AI i offentlig sektor har en enorm potential att effektivisera byråkratin och förbättra servicen [3]. Men denna potential kan bara förverkligas om medborgarna har förtroende för att tekniken används på ett ansvarsfullt sätt. Genom att proaktivt anamma de strikta kraven i AI Act, positionerar Civisto sig som den självklara plattformen för kommuner som vill navigera den nya AI-regleringen på ett tryggt och framtidssäkert sätt. Vi bygger inte bara smarta funktioner; vi bygger förtroende.

Referenser

[1] European Commission. (u.å.). The AI Act. Hämtad från https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai

[2] Artificialintelligenceact.eu. (u.å.). High-level summary of the AI Act. Hämtad från https://artificialintelligenceact.eu/high-level-summary/

[3] Pérez-Llorca. (2025, 7 augusti). EU AI Act: What should the public sector do?. Hämtad från https://www.perezllorca.com/en/news/article/eu-ai-act-what-should-the-public-sector-do/

Vanliga frågor

Vad är EU:s AI Act?
AI Act är EU:s förordning som reglerar utveckling och användning av AI-system baserat på risknivå, med särskilt höga krav för högrisksystem inom offentlig sektor.
Vilken riskkategori tillhör Civistos AI-triage?
Civistos AI-triage för kategorisering av medborgarrapporter bedöms som lågrisk eftersom den inte fattar automatiska beslut utan ger rekommendationer till mänskliga handläggare.
Hur säkerställer Civisto compliance med AI Act?
Civisto implementerar transparenta AI-processer, dokumenterad beslutslogik, mänsklig översyn av AI-rekommendationer, och dataskydd enligt GDPR för att uppfylla AI Acts krav.