Vi begynner ikke med AI. Vi begynner med en tom melkekartong.
Et kamera kan se at melken er tom. En modell kan forstå at du sannsynligvis trenger mer. En agent kan finne butikken, velge varen og være klar til å trykke «kjøp».
Men nå skjer noe nytt: maskinen er i ferd med å forandre verden.
Har den lov til å bruke pengene dine? Hvor mye? Fra hvilken konto? Gjelder tillatelsen fortsatt? Er det riktig vare?
Det er forskjell på «jeg vet», «jeg vil» og «jeg får lov».
Du har gitt maskinen lov til å kjøpe melk. Én liter er helt normalt.
Men hva hvis den vil kjøpe 4 000 liter?
Den kan fortsatt ha rett til å kjøpe. Likevel kan akkurat denne handlingen være økonomisk absurd, farlig eller kreve andre vilkår.
Myndighet og risiko er to forskjellige spørsmål. Lav risiko gir ikke myndighet. Myndighet gjør ikke høy risiko trygg.
Den gamle fortellingen om de blinde mennene og elefanten er nyttig: én kjenner snabelen, én beinet, én øret. Alle observerer noe virkelig. Ingen observerer hele virkeligheten.
Maskiner har samme problem. Kameraet ser én ting. Sensoren måler en annen. Modellen har en sannsynlighet. Databasen kan være gammel.
Derfor er «AI-en sa det» aldri nok til å skape en rett til å handle.
En beslutning kan være riktig klokken 08:00 og feil klokken 09:05.
Pengene kan være brukt. Mandatet kan være trukket tilbake. En person kan ha flyttet seg. En ventil kan allerede være åpen. Veien kan være blokkert.
Det som teller er forholdene når konsekvensen skal skje.
Noe kan ikke angres.
Kontrollen må derfor ligge før konsekvensen. Beviset må komme etterpå.
VALO er infrastrukturen mellom «maskinen vil» og «det faktisk skjer».
Modellen kan tenke. Agenten kan foreslå. VALO kontrollerer både om handlingen har rett til å skje og om risikoen er akseptabel på de gjeldende vilkårene — før den får nå virkeligheten. Etterpå skal vi kunne bevise hva som faktisk skjedde.
