-
Bekkelund.net er en blogg om IT av Martin Bekkelund. Les mer...
Aksjeroboter
10.08.12
Datamaskiner tar over stadig flere oppgaver. Også børshandel. Det går ikke alltid like bra. Men hvem skal ta ansvaret?
Over lengre tid har vi kunnet følge utviklingen med bruk av aksjeroboter i børshandelen, programvare som har tatt over jobben til meglerne. En aksjerobot kan handle lynraskt og foreta lange, komplekse beregninger en megler trenger lengre tid på. Det er en god og naturlig utvikling for både børser og meglerhus.
Det som imidlertid ikke er like bra, er hvordan store deler av finansbransjen ser ut til å glemme hva en aksjerobot egentlig er. En aksjerobot er ingenting annet enn programvare, skrevet av mennesker på omtrent samme måte som man lager annen programvare. Og som vi vet inneholder all programvare feil. Spørsmålet er hvem som skal bære ansvaret for feil i en aksjerobot.
Vi kjenner godt den to år gamle saken om Svend Egil Larsen og Peder Veiby, to investorer på Oslo Børs, som forstod at de handlet med en aksjerobot og ikke et menneske, og dermed klarte å forstå dens algoritme og derfor også hvordan den slavisk ville reagere. Larsen og Veiby ble anklaget for manipulasjon. Selv mener jeg en slik anklage vitner om manglende forståelse for hva en aksjerobot — et dataprogram - egentlig er og gjør. Samtidig kan man diskutere hvorvidt Larsen og Veiby kan kategoriseres for det vi i IT-bransjen kaller white hat, grey hat eller black hat, altså om intensjonen og moralen var god eller dårlig. De har åpenbart misbrukt en svakhet i aksjeroboten, men når et meglerhus overlater handel til en robot må man selv ta konsekvensene av at den ikke resonnerer som et menneske.
Denne sommeren var det på den igjen, da meglerhuset Knight Capital installerte ny programvare 1. august. I følge Dagens Næringsliv var det «et dataprogram [som] løp løpsk og gjennomførte et gigantisk antall aksjehandler på kort tid i det amerikanske aksjemarkedet». Resultatet var et tap på 440 millioner dollar, omtrent 2,63 milliarder norske kroner.
Når man overlater ansvaret til et dataprogram og ikke et menneske, må man selv ta ansvaret for at aksjeroboten kun gjør det den er programmert til å gjøre — enten det er riktig eller feil. Programvare løper ikke løpsk. Programvare tenker ikke selv. Programvare gjør nøyaktig det brukeren ber den om, og gjør den noe annet er det fordi den som har laget programvaren — programmereren — har bedt den om det, bevisst eller ubevisst. Riktignok finnes det en uendelig lang liste faktorer som kan påvirke programvaren, men enkelt forklart er det slik.
Den som frivillig innfører programvare for å overta et menneskes oppgaver, må selv ta konsekvensen av det.
5 kommentarer
-
-
Jeg er helt enig i at programvare gjør svært mye rart en utvikler ikke selv ber den om, derav også den nest siste setningen hvor jeg skriver at
Riktignok finnes det en uendelig lang liste faktorer som kan påvirke programvaren, men enkelt forklart er det slik.
Her er vi for øvrig inne på en av de mange grunnene til at jeg liker fri programvare: at man har full transparens i absolutt alle involverte komponenter som påvirker sluttresultatet. For noen bransjer og sektorer er dette viktigere enn andre.
Ellers liker jeg betraktningene i det siste avsnittet ditt, noe jeg også er litt inne på der jeg diskuterer motivasjonen til de som stod tiltalt.
-
Vi tillater ikke barn å handle på aksjemarkedet, hvorfor skal vi da tillate dårlig skrevne dataprogram?
Det står voksne mennesker bak disse programmene. Vi tillater voksne mennesker å gjøre idiotiske aksjehandler, siden vi regner dem for å være ansvarlige for sine handlinger. Hvis de lar seg utnytte til dårlige kjøp og salg, så er det deres feil. Skal vi følge logikken din, må man altså enten si at det er ulovlig å utnytte at mennesker gjøre idiotiske handler på aksjemarkedet, eller tillate å utnytte at dårlig skrevne program gjør idiotiske handler på aksjemarkedet.
På den andre siden er det ganske åpenbart at disse programmene er ganske langt fra å besitte noen menneskelig intelligens.
Om det er moralsk rett å utnytte dem uten å si fra først, er en annen sak. En ‘white hat hacker’ ville jo sagt fra, men i tilfellet aksjemarkedet er det jo nettopp konkurranse som gjelder, og det er ikke snakk om en sikkerhetsfeil, men en feil som fører til “dårlig ytelse”. Uansett klarer jeg ikke å se noe argument for å gjøre det _ulovlig_ å utnytte at andre stoler på feilbarlig kode til aksjehandelen.
-
Spørsmålet er hvorvidt det skal være tillatt å svindle eller lure mennesker (og roboter). Jeg mener at det ikke bør være lovlig å svindle levende vesen.
F.eks. bør det ikke være OK for noen å betale for en vare med falske penger hvis man på forhånd har avtalt at det skal betales i gyldig valutta.
Jeg er ganske sikker på at falsk markedsføring er ulovlig mot voksne, så det er likegyldig om barn kan handle på børs eller ikke. Poenget er at svindel, er ulovlig.
Det som er spørsmålet, er hvorvidt handel utført av roboter i noen tilfeller kan kategoriseres som svindel.
Hvis en robot legger inn en veldig stor handel som den allerede på forhånd har planlagt i sin algoritme å trekke tilbake, da har roboten en intensjon til å manipulere børsen. Er dette svindel?
Hvis en robot forsøker å manipulere mennesker ved å gjennomføre handler basert på mønstere på børsen som er en indikator på psykologien bak handelen, og ikke reelle forandringer i markedet (og den reelle verdien av selskapene som selges eller kjøpes), er ikke dette da manipulasjon? Er det OK at roboter lurer mennesker og dermed lurer fra dem verdier på børsen?
Den andre veien, som Martin tar opp i saken sin her: Er det greit for mennesker å manipulere disse robotene til egen gevinst?
Ytterst få vil påstå at roboter har liv, slik vi definerer og forstår levende vesen idag. Men vi begynner å nærme oss en virkelighet for programvare, intelligente agenter, vil ta over mange av våre jobber og tankeprosesser. Mange vil få digital assistenter som utfører valg og handlinger på vegne av en person. Agentene blir en utvidelse av en persons bevissthet, personlig, person. Er det OK å manipulere disse? Forsøke å hacke dem?
Da må det også være lov å “hacke” et menneske, både fysisk og psykisk. De aller fleste mennesker er enig at det ikke bør være lov å utøve fysisk (eller psykologisk) terror, trusler, vold og annen form for manipulasjon mot andre mennesker.
Hvis en blind person har et hjerneimplantat som gjør at han kan se ved hjelp av et kamera, er det OK at noen hacker og potensielt skader denne personen? Hvis ikke det er greit, hvordan er dette annerledes enn noen som en agent som lever i “nettskyen” på vegne av seg selv?
Hvis mobiltelefonen min gir meg elektrisk støtt hver gang jeg taper penger på Oslo børs, blir det da galt for noen å manipulere min robot og dermed også påføre meg smerte?
-
-
-
For meg blir også dette veldig merkelig. Roboten er satt til å utnytte menneskers handlingsmønster til sin fordel. Dersom mennesker finner ut hvordan roboten handler og utnytter det til sin fordel, så skal det plutselig være ulovlig. Det er vel også ca. det du poengterer selv. Jeg er helt og holdent enig i at om du setter en robot til å handle for deg så får du ta konsekvensene av det.
Flere artikler
- Med kundens øyne
- Når metoden blir målet
- Kildekritikk, schmildekritikk
- En produkteiers prioriteringer
- Pølser, politikk og programvare
- Datafeil og andre feil
- Bredbåndsavgift
- Kaffe, epler, katt og mus
- Bedriftsbitching
- Rett i kartet
Enda flere artikler? Besøk arkivet.
Bekkelund.net er en blogg av Martin Bekkelund, hvor han lufter sine tanker om IT og IT-politikk. Martin arbeider til daglig som direktør for produkt- og forretningsutvikling i et av Norges største selskaper. Les mer...
© 1995-2013 Martin Bekkelund
Opphavsrett • RSS • Kontakt
SondreB
10. august 2012 9.39
Programvare kan gjøre masse ting som en utvikler ikke har programmert den til å gjøre. Det blir litt for enkelt å påstå at programvare kun gjør det som utviklere har programmert den til å gjøre. For det første mangler utviklere evnen til å forstå sin egen konstruksjon, for det andre evner ingen utviklere å forutsi kjøremiljøet og variablene i dette miljøet på forhånd.
En utvikler kan legge inn sikkerhetsmekanismer til en begrenset grad, men det vil alltid kunne oppstå situasjoner og variabler som ikke blir håndtert forutsigbart.
Er veldig enig at den som setter en aksjerobot ut i live, må ta ansvaret. Manipulering av en robot er et emne som jeg tror vil bli veldig interessant fremover og det er flere grunnleggende prinsipper her som vil måtte avgjøres og diskuteres av samfunnet som helhet.
Aksepterer vi manipulasjon av mennesker? Er det lov å bedrive åpenbar indoktrinering av mennesker? Markedsføring er en ting, men jeg tror det er regulerende lovgivning på dette området, uten at jeg vet med sikkerhet. Markedsføring mot barn er f.eks. veldig restriktivt. Hvis ikke dette er lov mot mennesker, hvorfor skal det være lov mot roboter – som med tiden vil besitte mange egenskaper til livet på jorden.