En blogg om teknologi og ledelse

Etter min forrige artikkel om fremtiden til SaaS-selskaper, har jeg hatt noen interessante samtaler om hvordan man kan tenke seg at SaaS-produkter vil utvikle seg fremover. Et stykke ned i artikkelen skriver jeg:

AI driver frem behovet for flere og bedre API-er i sameksistens med MCP. Automatisering skjer ikke lenger isolert i ett system, men skjer gjerne over flere systemer som en konsekvens av en definert og regelstyrt prosess.

I denne artikkelen tenker jeg å utbrode hva jeg har ment med påstanden over, men la oss starte et litt annet sted.

AI-agentene kommer

OpenClaw har vært et brennhett tema de siste par månedene, et produkt jeg selv så vidt har begynt å titte på, og som det kan hende kommer en lengre artikkel om senere. OpenClaw er, svært forenklet, et stykke programvare som du installerer og drifter på din egen maskin, og som fungerer som din personlige AI-agent. Den kan settes opp til å automatisk gjøre ting du normalt bruker tid på, slik som å behandle e-post, administrere kalenderen og handle på nett. Enda enklere forklart blir den en digital representasjon av deg.

OpenClaw kommer ikke uten problemer og risiko. All ny teknologi gjør gjerne det. Skal en AI-agent opptre som deg, må den ha de samme tilgangene som deg.

Eller må den egentlig det?

Problemet med å la en AI-agent opptre som deg er at den trenger de samme tilgangene, tilgang til betalingskort, din digitale identitet og alt annet du trenger for det du gjør digitalt. Det er ikke bare et spørsmål om tid før det går galt, historiene på nett sirkulerer allerede.

Min påstand er derfor at jeg tror vi som en konsekvens av produkter som OpenClaw og andre AI-agenter vil se endringer både i SaaS-produkter og andre digitale tjenester der man ønsker å slippe inn en AI-agent.

La meg ta et eksempel fra min egen eksperimentering av hva jeg kan tenke meg å bruke OpenClaw til: Vi handler alle våre dagligvarer hos Oda. All historikk over husstandens innkjøp de siste ti årene ligger lagret hos Oda. Hypotesen er å slippe inn OpenClaw for å tråle igjennom historikken og basert på kjøpsfrekvens, historikk, tid på året og så videre, kan sette sammen et forslag til en handlekurv. Snart påske, sier du? Da pleier du å kjøpe lammestek og påskeegg og få dem levert nest siste fredag før påske.

Problemet er at jeg vil aldri slippe inn OpenClaw i Oda sånn helt uten videre. Plutselig sitter jeg der med truseinnlegg til 30 000,- levert til en helt annen adresse. Dermed oppstod ideen om en slags AI-mode for SaaS-produkter og andre digitale tjenester, for eksempel slik som Oda. Det er ikke bare jeg som har tenkt den tanken. Via det utmerkede nyhetsbrevet til Mats kunne jeg lese at Google jobber med nettopp dette.

En AI-agent skal ha begrenset tilgang

En AI-mode trenger ikke være annet enn en egen bruker som har begrensede rettigheter. Dette er velkjent fra forretningsprogramvare, der forskjellige brukere har forskjellige tilganger. Ikke alle ansatte skal ha tilgang til lønnsmodulen i regnskapssystemet, for eksempel. Det er også kjent fra hvordan man utarbeider API-er, der et API kan settes opp med forskjellige scopes som gir forskjellige tilganger. Dette er altså ikke noe nytt. Det ene som er nytt er for det første at dette også kan komme til løsninger som retter seg mot forbrukere og ikke bedrifter. Det andre som er nytt er at hensikten med en slik tilleggsbruker — en AI-mode — er at den er tiltenkt brukt av AI-agenter som ikke nødvendigvis kommer til å opptre regelstyrt.

På denne måten kan man begrense skadene en AI-agent som OpenClaw kan finne på å gjøre. Går vi tilbake til eksempelet med Oda og dagligvarer, så kan man tenke seg at den kan få tilgang til å lese historikken og opprette handlekurver, men ikke til å gjennomføre bestillingen uten godkjenning. Den kan heller ikke endre betalingsmåte, adresse, kontaktopplysninger eller liknende. Den må også ha en beløpsgrense.

Hvorvidt vi kommer til å se AI-mode i SaaS-produkter gjenstår å se, men jeg føler meg temmelig sikker på at det må innføres begrensninger i hva en AI-agent kan tillates å gjøre også på tilbydersiden, altså i tjenesten der AI-agenten slippes løs. Om det blir som beskrevet gjenstår å se. Spørsmålet er om SaaS-produktene og andre tjenester ønsker å slippe inn AI-agenter, det er nemlig heller ikke gitt. En nettbutikk er tjent med oppsalg, altså at et ekte menneske handler mer enn tiltenkt når det blir presentert varer i handleprosessen. Banker og forsikringsselskaper krysselger bank- og forsikringsprodukter når du er innlogget hos dem. Slike ting.

AI Disrupt or die Personvern Programvare Sikkerhet WWW