Er nästa säkerhetsincident kommer kanske inte utifrån. Den kan komma från en AI-agent som redan har tillgång till era system – och som agerar utanför det mandat den fick. Frågan ställs av Jonas Anund Vogel, KTH, på FramtidensDigitala STHLM den 8 oktober.
I takt med att fler i förvaltningen får tillgång till AI-verktyg växer också en ny typ av risk: system som fattar beslut, agerar och eskalerar sina egna befogenheter utan att någon människa har godkänt det i det enskilda fallet. Det är inte längre en fråga om yttre intrång – hotet finns redan innanför väggarna, inloggat med samma behörigheter som personalen.
Vem styr AI när AI börjar styra?
I passet Risk, Säkerhet & Resiliens tar Jonas Anund Vogel från KTH upp just den frågan: vem har egentligen mandatet när AI-system ges allt större roll i den digitala förvaltningen? Han går igenom vad som händer med ansvar, etik och tillit när besluten flyttas från människa till algoritm – och vad som krävs för att inte tappa kontrollen på vägen.
Om er organisation redan låter medarbetare koppla upp AI-verktyg mot drift- och fastighetssystem, är detta passet ni inte har råd att missa. Frågan är inte om AI kommer få mer tillgång i er förvaltning – utan om ni vet vad som händer den dagen tekniken agerar utanför sitt mandat.
FramtidensDigitala STHLM hålls den 8 oktober på Clarion Hotel Sign i Stockholm, 08.30–15.50 med mingel till 16.30. Pris: 4 900 kronor exklusive moms. Grupprabatt: gå fem, betala för fyra.
