Episode 15: The Multi-armed Bandit Problem

Si at du — som meg — arbeider med produktutvikling. Du skal lage nye produkter eller tjenester som folk trenger og vil betale for. Mulighetene du har er mange, og med så mange muligheter å utforske, hva bør du utforske først? Hva bør du bruke tiden og pengene og kreftene på? Hvordan vet du at det ene er viktigere å utforske før det andre eller tredje? Og hvis du ikke vet, hvordan velger du?

Hei, Martin her, og du lytter til Fimbul!

Velkommen til det man i sannsynlighetsteorien og maskinlæring kaller «The Multi-armed Bandit Problem». Et problem du kanskje ikke visste at du hadde, men som du garantert har stått overfor.

The Multi-armed Bandit Problem henviser til dilemmaet du står overfor når du skal spille på en enarmet banditt. Idet du kommer inn i lokalet ser du en rekke med identiske maskiner du kan spille på, hvor målet er å maksimere utbyttet. Du har begrenset med penger og du har begrenset med tid. Hvordan velger du maskinen du vil spille på? Hvor mange ganger spiller du på hver maskin? Hvordan velger du den neste? Og hvorfor velger du som du gjør?

The Multi-armed Bandit Problem har fått sitt navn fordi det er direkte overførbart til produktutvikling. Du kan velge å lage tjeneste X, Y eller Z. Hvordan bestemmer du hvem du bør lage, eller rettere sagt teste, først? Hvordan velger du mellom tjeneste X, Y eller Z?

Du har begrenset med ressurser. Begrenset med tid, begrenset med penger, begrenset med folk. Ingen har ubegrenset av alt. Hvordan prioriterer du ressursene mellom konkurrerende alternativer på en måte som maksimerer utbyttet, når du har begrenset innsikt og kunnskap om tjenestene du vil velge mellom, og slik innsikt og kunnskap først tilegnes ved å starte å jobbe med en av dem?

Dette er er blant de vanskeligere dilemmaene jeg står overfor på jobben. Og da snakker jeg ikke om mindre oppgaver som skal prioriteres fra dag til dag, men om nye konsepter som kan anses som en vesentlig utvidelse av dagens aktivitet og som krever strategisk forankring og beslutning.

Kunde A har behov for tjeneste X. Kunde B ønsker seg tjeneste Y. Og kunde C er ikke en gang klar over at tjeneste Z vil løse et stort problem for dem.

Kanskje har hver av disse kundene også en kundeansvarlig hos deg, som ivrer etter at disse tjenestene blir laget fordi kundene etterspør dem. Men at én eller to kunder etterspør en tjeneste er ikke det samme som at tjenesten bør lages eller at det er den som bør lages først.

I en slik situasjon er det lett å bli fanget i fjernlysene som et rådyr i natten. Paralysert og ute av stand til å fatte en riktig beslutning.

Se for deg en akse, fra venstre til høyre. På den ene siden har du null innsikt i alternativene du står overfor. På den andre har du all innsikt. Unødvendig å si er du ikke i noen av ytterpunktene. Du vil alltid ha litt innsikt. Men hvor mye? Og hvor mye trenger du egentlig?

Din jobb er å evaluere alternativene opp mot hverandre, på en strukturert og sammenliknbar måte. Og på en måte som ikke krever for mye tid i seg selv, tid du like gjerne kunne brukt på å starte med ett av alternativene. Bruker du for mye tid på å velge hva du skal starte med, kunne du kanskje ha testet ferdig hypotesen om at tjeneste Y er mest attraktiv. Gjennom en slik evaluering vil du kunne skaffe tilstrekkelig innsikt til å beslutte om du skal gå for X, Y eller Z.

Det første du må sikre er felles forståelse av hva de nye tjenestene faktisk innebærer, slik at alle har felles forståelse av dem. Hvis én person tror man skal lage en sykkel og en annen tror man skal lage en sparkesykkel, klarer man verken å evaluere attraktiviteten eller å bygge produktet riktig.

Det andre du trenger å kommunisere til dem omkring deg, er at dette er et veddemål. Det er et veddemål og du risikerer å tape. Du skaffer litt innsikt og deretter satser du tid og penger som du risikerer å tape fordi innsikten var feil, fordi forutsetningene endrer seg eller du rett og slett ikke klarer å levere på behovene.

Du må så avgjøre hvorvidt tjeneste X, Y og Z er innenfor bedriftens strategi. Hvor godt passer tjenestene i strategien, enten innenfor eksisterende tjenester eller som tjenester for ekspansjon. Hvor er vi i dag? Hvor sier strategien at vi skal? Bidrar alternativene til å komme oss fra nåsituasjonen til ønsket situasjon?

Når du nå vet hva alternativene innebærer og forstår at de passer med bedriftens strategi, må man kvantifisere attraktiviteten til det enkelte alternativ. Med kvantifisere mener jeg noe så enkelt som å gi terningkast til forskjellige kriterier.

Her er vi ved kjernen av jobben. Du må sette opp noen vurderingskriterier hvor du skaffer innsikt om etterspørsel i markedet, inntektspotensial, konkurrenter, kompleksitet, kostnad og risiko. Du kan sammenlikne det litt med å leste en test av forskjellige biler. Hvor mange liter rommer bagasjerommet? Hvor mange kilowattimer er batteriet? Har den firehjulstrekk? Slike ting. Gjerne så kvantifiserbart som mulig, men også kvalitative kriterier kan brukes.

Dette er en øvelse hvor det er lett å gå seg vill. Det er lett å gå seg vill fordi man fort bruker for mye tid på hvert kriterie. Hvor mange kunder trenger du å snakke med for å bli trygg nok på etterspørselen i markedet? Hvor mye vil du teste for å finne kundenes faktiske betalingsvilje? Hvor langt trenger du å gå for å skille hva kundene forteller deg at de trenger fra hva de faktisk trenger? Her trenger man å gjøre et visst stykke innsiktsarbeid med kundene, kombinert med de erfaringene man har gjort fra før. I denne fasen trenger du ikke å gjøre omfattende hypotesetesting, nå gjelder det først og fremst om å velge et alternativ å jobbe videre med.

Når du har gjennomgått vurderingskriteriene for hvert av alternativene, sitter du igjen et tall. Dette tallet kan du sette inn i en matrise med etterspørsel, inntektspotensial og konkurrenter i den ene aksen, og kompleksitet, kostnad og risiko på den andre.

Så kommer det spennende øyeblikket, fordi nå sitter du med et visuelt bilde som har plassert alternativene dine basert på vurderingene som er gjort. Forteller matrisen deg det samme som du selv trodde på forhånd? Selvfølgelig har du en formening, men hva gjør du hvis matrisen forteller alternativ Z og du selv trodde Y? Stoler du på resultatet? Hvis ikke får du vurdere kriteriene en gang til, men fall ikke for fristelsen av å justere på vurderingene bare for å få dem til å passe dine egne antakelser.

En slik strukturert gjennomgang leder ut i en rekkefølge som anbefaler deg hvilket alternativ du bør starte med først. Vi starter med alternativ Z og resten rører vi ikke.

Når jeg her forteller om prosessen om hvordan du håndterer The Multi-armed Bandit Problem, så høres det enkelt ut. Men at jeg bruker ti femten minutter på å snakke forenklet om en prosess gjør ikke prosessen enkel, fordi din prosess er vesentlig mer komplisert enn eksemplene jeg benytter. Sannsynligvis har du flere alternativer. Du har vanskeligere vurderingskriterier og du har sikkert også flere interessenter som bryr seg om hva du lager. Virkeligheten er grisete og det er din jobb å håndtere den. Det er derfor du har jobben!

I en senere episode må vi snakke om hvordan vi tester alternativ Z i markedet før vi lager tjenesten. Selg skinnet, skyt bjørnen! Hvordan tester du din hypotese om at alternativ Z er mest attraktivt? Hvordan tester du hva kundene vil betale? Hvordan vet du hva du trenger å teste?

Det er ikke sikkert at du velger riktig enarmet banditt, og kan hende taper du veddemålet. Det er derfor det er viktig å gjøre denne jobben FØR du starter å lage tjenestene du kan velge mellom, for da kaster du ikke bort tid og penger dersom veddemålet slår feil.

Forhåpentligvis har du blitt litt klokere om hvordan du tilnærmer deg problemet. Om ikke du gjør en full evaluering neste gang du tar danskebåten, bør du i det minste ta med deg kunnskapen fra denne episoden av Fimbul tilbake til jobben, i stedet for å stole på magefølelsen.

Tusen takk for at du lytter til Fimbul, vi høres!