Inför konferensen AI – Regelverk, inköp och praktisk implementering har vi pratat med dagens moderatorer Karin Schurmann och Mikael Satama Granberg, advokater och partners på MAQS Advokatbyrå. De möter dagligen organisationer som arbetar med digitalisering och AI. I intervjun delar de sina erfarenheter av allt från AI-förordningen och inköp av AI-system till de strategiska frågor som kommer att prägla ledningars och styrelsers agenda de kommande åren.
Ni arbetar båda nära organisationer som driver digitalisering och AI-initiativ. Vilka är de vanligaste utmaningarna när juridiska krav ska omsättas till praktisk AI-användning?
Karin beskriver hur regelverken ofta bygger på en idealbild med tydliga roller och väldefinierade processer. Verkligheten är betydligt mer komplex, med många aktörer och ett samspel mellan bland annat AI-förordningen, GDPR och sektorsspecifik lagstiftning. Dessutom kan ett och samma system omfattas av flera regelverk. Det gör steget från övergripande analys till praktiskt genomförande svårt.
Mikael instämmer och lyfter att juridik, IT och verksamhet ofta arbetar i silos. De organisationer som lyckas bäst skapar tidigt en gemensam process där juristerna är med från början – inte bara som en compliance-check i slutet.
AI-förordningen står på många verksamheters agenda. Vilken missuppfattning möter ni oftast?
En vanlig missuppfattning, enligt Mikael, är att AI-förordningen innebär ett generellt förbud mot AI eller bara riktar sig till dem som utvecklar AI-system. I grunden är det en riskbaserad reglering där det avgörande är vad systemet ska användas till, inte tekniken i sig. Även användare omfattas av skyldigheter.
Karin betonar vikten av att förstå sin roll i värdekedjan. Olika roller enligt AI-förordningen innebär olika skyldigheter, vilket ofta leder till missförstånd.
Ni kommer att lyfta frågor kring inköp av AI-system. Vad bör verksamheter tänka på innan de väljer leverantör eller lösning?
Enligt Karin är det viktigt att börja med grundfrågorna: Vad ska AI-systemet användas till? Vilken data berörs? Finns det risk att systemet klassas som högrisk? Svaren avgör vilka krav man behöver ställa på exempelvis transparens, dokumentation och insyn.
Mikael påpekar också att det är stor skillnad mellan att köpa ett dedikerat AI-system och en traditionell tjänst med inbyggd AI-funktionalitet. Dessutom måste compliance säkras över tid. AI-system utvecklas, och avtalen behöver ta höjd för det.
Programmet innehåller flera exempel från organisationer som redan arbetar aktivt med AI. Vilka lärdomar hoppas ni att deltagarna tar med sig?
Mikael hoppas att deltagarna lämnar dagen med känslan att AI är hanterbart och med konkreta nycklar för att arbeta vidare i befintliga processer. Exemplen från bland andra Spotify, Folkhälsomyndigheten och Telia Cygate visar att man inte behöver uppfinna hjulet på nytt.
Karin hoppas att deltagarna tar med sig att framgångsrik AI-implementering i hög grad är en organisatorisk och juridisk fråga. Kontinuerlig utbildning och en kultur där medarbetare känner att de kan ställa frågor är avgörande för att skapa medvetenhet och engagemang – och för att motverka att skugg-AI växer fram.
Om ni blickar framåt, vilka AI-relaterade frågor tror ni kommer att stå högst på ledningars och styrelsers agenda de kommande åren?
Karin ser att frågor om AI-governance redan börjar hanteras på liknande sätt som cybersäkerhet och dataskydd. Även digital suveränitet blir fortsatt viktigt: var data lagras, vem som kontrollerar modellerna och hur verksamheten undviker inlåsning.
Mikael lyfter ansvar som en annan central fråga, inte minst i takt med att AI-agenter blir vanligare. När agenter agerar mer självständigt, fattar beslut och vidtar åtgärder väcks frågan om vem som faktiskt bär ansvaret när något går fel.
Se hela agendan och boka din plats här: AI – Regelverk, inköp och praktisk implementering
