etisk ai

Du sköna nya värld – frågeställningar för hållbar och etisk AI

Det har nog inte undgått någon att vi befinner oss i en spännande tid där många svenska organisationer är mitt uppe i diverse satsningar kring artificiell intelligens (AI) och maskininlärning (ML). Säkert lika många andra upplever att det finns en stress att komma igång och en oro över att ”alla andra gör det”. Affärspress, akademi, konferenser, leverantörer och konsulter bidrar alla aktivt i att sprida budskapet om denna fantastiska nya värld, och vikten av att haka på för att inte hamna efter. Och det är faktiskt inte bara snack, de senaste åren har utvecklingen och antalet påbörjade initiativ i de facto exploderat i princip alla branscher.

Nu börjar det därmed bli allvarligt på riktigt
Samtidigt som det är full fart framåt är det för såväl kunder som leverantörer av central vikt att ha simultanförmåga nog att sätta upp de strukturer och processer som behövs för att strukturerat reflektera över och lära sig av både lyckade och mindre lyckade projekt.  Personligen tycker jag det är väldigt spännande att följa alla de samarbeten som börjar etableras mellan näringsliv, offentlig verksamhet och akademin för utveckling av metoder och tekniker för digitalisering och AI. Detta medför att ni som kanske ännu inte uppnått March-fart ändå kan dra nytta av andras erfarenheter.

Vad finns det då idag för erfarenheter att lära sig av?
Utifrån ett tekniskt perspektiv trycker många på ett agilt angreppssätt och att våga misslyckas. En absolut kritisk erfarenhet som vi vill dela med oss av är dock att det, samtidigt som man utför själva modellutvecklingen på detta sätt, måste finnas en trögare, och många gånger tvärfunktionell process där initiativets syfte och grundantaganden kontinuerligt utvärderas och ifrågasätts. En fundamental skillnad mot tidigare analytics-projekt är nämligen att det i denna typ av projekt kan vara betydligt svårare att identifiera ett ”misslyckande”, då de faktiska effekterna av en modell i produktion inte nödvändigtvis är tydliga förrän långt efter go-live. Ett tillkortakommande i denna kvalitetskontroll kan ha potentiellt förödande effekter på din organisation och/eller ditt varumärke.

Vi på Advectas har ägnat de senaste åren åt att utveckla och implementera ML-lösningar hos våra kunder. Det vi har lärt oss är att vi måste komplettera de tekniska utvecklingsmetoderna med ytterligare perspektiv och konkreta aktiviteter som kanske inte alltid är helt uppenbara när man initierar sin första ML-pilot. Vi börjar nu, baserat på dessa erfarenheter, aktuell forskning och rekommendationer från t.ex. EU-kommissionen forma vår syn på hållbar och etisk AI. En syn som skall genomsyra alla våra projekt.

Vad denna syn till syvende och sist grundar sig på är att veta vilka frågor man som implementationspartner, eller kund, måste ställa, och att våga ställa om dessa frågor flera gånger under initiativets gång. Hur kommer lösningen faktiskt fungera och interagera med verksamhet och intressenter över tid? Vilka förändringar krävs i vår organisation, våra processer och vår datainsamling? Och under vilka förutsättningar riskerar en rekommendation istället att bli ett faktiskt beslut?

Hur formar vi modellen och hur formar den oss? Förstärker vi oönskat beteende och missar vi möjligheter på grund av gamla beteenden och fördomsfull eller snedvriden grunddata? Hur påverkas våra beslutsprocesser och vår förmåga att möta utmaningar i omvärlden?

Vad kan gå fel och vad händer då? Vem bär ansvaret, under vilka förutsättningar, och kan vi ens förstå varför det blivit fel?

När vi tillsammans med våra kunder diskuterar ovan frågor minskar vi inte bara risken för att något går fel, utan vi skapar tillsammans en bättre förståelse för den framtida lösningen och vad som krävs för att realisera målbilden.

På ”Business Intelligence & Data Science Day” den 9 april stod jag och min kollega Victor Bäckman på scen och delade med oss av våra erfarenheter och tankar kring dessa ämnen. Inspelningen från denna dragning finns tillgänglig här.

Tveka inte att höra av er om ni vill diskutera vidare dessa, eller andra frågor! Min mailadress är jonas.klingberg@advectas.se.

Jonas Klingberg
jonas.klingberg@advectas.se
Jag heter Jonas Klingberg och arbetar som senior managementkonsult på Advectas. Som ekonom med fokus på strategi och verksamhetsstyrning är tekniken för väldigt viktig för mig, men appliceringen av densamma för att skapa värde för min kund alltid det centrala. Det bästa som finns är att hitta nya, smartare sätt att göra saker och ting på, för att sedan tillsammans med kunden se detta realiseras. Fritiden spenderas gärna till fots eller på cykel i naturen, djupdykandes i dokumentärer om allt intressant i världen (vilket är mycket) eller utforskandes nya ölsorter eller spännande maträtter på någon av Göteborgs restauranger.

Alla inlägg av Jonas Klingberg

Vill du veta mer om affärsutveckling och verksamhetsoptimering med Data Science?

Läs vår broschyr ”Från BI till AI”.