En enveisbillett til overflødighet, takk!

Støvet har begynt å legge seg etter at OpenAI i starten av september slapp sin etterlengtede og myteomspunne o1-modell. Kronikker med clickbait-overskrifter har florert i nyhetsbildet og Youtube-videoer med dommedagsprofetier har gått sin seiersgang på nett.

I en artikkel i Aftenposten 21. september skriver teknologijournalist Per Kristian Bjørkeng om hvordan han ved hjelp av den nye modellen fikk bygget en intern-tjeneste for korrekturlesning. Selv om ingen i tech-verden roper Stopp pressen! over at KI kan kode, er det egentlig ganske utrolig: En lekmann uten programmeringserfaring har laget en programvare som tilfredsstiller et forretningsbehov og gir verdi til selskapet.

Samme historie går igjen hos oss i Inmeta.I tett samarbeid med ChatGPTer kollegaer med økonomibakgrunn i stand til å levere enkle applikasjoner uten å involvere den kodekyndige majoriteten i selskapet.

Assistansen fra KI har faktisk blitt så god at man kan argumentere for at det er viktigere at de har god forretningsforståelse enn at de er flinke i Python. Så lenge man klarer å formulere hva man vil bygge, får man det bygget.

Not so fast, ChatGPT

Det er likevel et stort sprang fra Bjørkengs språkvaskingstjeneste og mine kollegaers demoapplikasjoner, hvor full automasjon er innen rekkevidde, til komplekse software-systemer i produksjon.

Modeller som o1 løser de fleste tenkelige kodeoppgaver på et blunk, gitt at den har tilgang på nødvendig informasjon og klare instrukser. Men med stor kodebase, mange integrasjoner og et drøss med avhengigheter øker kompleksiteten til konteksten som kreves for å løse oppgaven. 

Denne konteksten er nå et innviklet sammensurium av dokumentasjon på eksisterende kode, dårlig formulerte behov fra endebrukere, domenekunnskap, best-practices, budsjettrestriksjoner og mye mer. En språkmodell som blir promptet med noen få tekstlinjer som beskriver oppgaven den skal løse, ser med andre ord kun en brøkdel av totalbildet.

Riktig kontekst til riktig tid

Benchmarks som OpenAI, Meta og Google bruker for å rapportere ytelsen til språkmodeller på kodeoppgaver gir som et resultat av dette et overdrevent bilde av modellenes ferdigheter. Både fordi modellene er overtilpasset testene og fordi de eksamenslignende, veldefinerte oppgavene i liten grad representerer kompleksiteten til problemer som må løses i «den virkelige verden».

Konsekvensen er at mange blir skuffet når de prøver å bruke språkmodeller til å realisere faktisk forretningsverdi.

For å løse kontekstproblemet blir stadig nye informasjonskilder matet inn i språkmodellenes umettelige gap. Informasjon fra mailbokser, kalendere og møtereferater kartlegges og sorteres. KI får tilgang til internett og filsystemet på PCen din, og egne miljøer hvor den kan kjøre kode. Selv om maskiner kan prosessere enorme mengder data på en gang, er det vanskelig å matche menneskehjernens evne til å hente fram riktig kontekst til riktig tid.

Tilrettelegging av kunnskapsgrunnlaget som trengs for å løse en oppgave forblir en stor utfordring i systemer som bruker språkmodeller.

Samtidig har KI-baserte kodeassistenter allerede blitt et essensielt verktøy for mange utviklere. Jeg kan føle meg naken når manglende nettilgang blokkerer velmenende forslag fra Copilot fra å poppe opp på skjermen. Oppgavene den løser er per nå ikke spesielt vanskelige, men de er ofte repetitive og tidkrevende. KI-assistanse frigjør tid til de mer interessante delene av utviklerarbeidet.

Toget går!

Siden 70-tallet har grensesnittet mellom menneske og maskin gått fra hullkort til Python. Takket være språkmodeller er det nå på vei til å gå over til norsk og engelsk. En dag vil det være direkte gjennom tankene man interagerer med den digitale sfæren. Da er yrket programvareutvikler forsvunnet for lenge siden.

Veien dit er likevel lang. KI kan bygge Asteroidespill og løse alle oppgavene på AlgDat-eksamen, men det er det mange problemer som må løses før yrket programvareutvikler kan automatiseres. Foreløpig er det kun fordeler: ved hjelp av KI kan vi bygge raskere og større, og rette fokus mot de viktige problemene.

Endestoppet er kanskje kjent, men folk som Bjørkeng som omfavner utviklingen kan likevel nyte en lang og spennende reise. Alle andre blir stående igjen på perrongen.