Historisk eller hysterisk

Hvad skyldes ChatGPT-hypen?

Ikke en spritny teknologi

Til trods for den ekstreme opmærksomhed omkring ChatGPT er teknologien bag den – Large Language Models, eller LLM’s – ikke ny. Og på den måde passer ChatGPT umiddelbart fint ind i den velkendte Gartners Hype Cycle, hvor første fase kaldes for ”Technology Trigger”. Fasen hviler på års udvikling, som måske resulterer i et massivt teknologisk gennembrud. Der offentliggøres f.eks. proof-of-concepts og forskningsartikler, og mainstreammedierne begynder så småt at få øjnene op for teknologien.

Gartner Hype Cycle

Tidligere sprogmodeller fik også opmærksomhed

I ChatGPT's tilfælde rummer Technology Trigger-fasen OpenAI's arbejde med sprogmodellerne GPT-2, GPT-3 og GPT-3.5, hvilke ligger til grund for ChatGPT. GPT-3 fangede helt i tråd med hype-cyclen mainstreammediernes interesse, da The Guardian publicerede en artikel, hvor sprogmodellen skrev, at vi mennesker utilsigtet ville ende med at programmere kunstig intelligens til at udslette os. Sideløbende arbejdede de ovre hos Google med tilsvarende modeller og fik deres andel af offentlig opmærksomhed, da en af deres ingeniører var af den overbevisning, at chatbotten LaMDA havde bevidsthed.

Afgørende offentlig tilgængelighed

Når det alligevel blev ChatGPT og ikke GPT-3 eller LaMDA, der hoppede i bjergtrøjen og spurtede helt op til toppen af Gartners Hype Cycle – til det, der kaldes Peak of Inflated Expectations – skyldes det bl.a. det ret enkle forhold, at den blev gjort offentligt tilgængelig. GPT-3 var ikke hemmelig, for den kom allerede i slutningen af 2021 som et såkaldt åbent API, hvilket betød, at virksomheder kunne bruge teknologien til selv at bygge produkter på. Hvis ChatGPT var blevet lanceret sådan, kunne turen til global megahype formentlig have taget flere år og være sket i selskab med flere konkurrenter. Men OpenAI havde travlt med den offentlige lancering, så sådan blev det som bekendt ikke, hvilket nogle, herunder jeg selv, finder adskillige grunde til at begræde.

Ud over det svært anfægtelige faktum, at ChatGPT svarer uhyre overbevisende, omend nogle gange faktuelt forkert, skyldes hypen altså i høj grad, at vi alle kunne få lov at lege med. Men så forskellig fra andre eksisterende teknologier er ChatGPT heller ikke.

Faktafejl og vigtige guardrails

En afgørende forskel er, groft sagt, at ChatGPT er fintunet på store mængder samtaletekst, så den frem for især at kunne svare på spørgsmål også kan føre en nogenlunde meningsfuld samtale. Desuden er der opsat såkaldte guardrails, så det er svært at få den til at skrive meget politisk ukorrekte ting.

At OpenAI trods talrige svipsere har været gode til guardrails, har stor betydning. Der er før frigivet samtalesoftware, som hurtigt er blevet taget offline netop på grund af manglende barrierer for, hvad den kunne skrive om. Microsofts uheldige lancering af Tay er velkendt, men fjorten dage før ChatGPT lancerede Meta den langt mindre kendte chatbot Galactica. Den var udviklet til at skrive videnskabelige artikler, og den gjorde angiveligt i store træk, hvad man bad den om, men problemet – et af dem – var, at den også gjorde det, hvis man bad den om at skrive en artikel om fordelene ved nazisme. Galactica blev taget af nettet igen efter tre dage, og dens ikke så få videnskabelige vildskud spillede en vigtig rolle i det, men betydningen af de manglende guardrails bør næppe undervurderes.

Historisk eller hysterisk – er hypen berettiget?

Forsøg på at pille hypen ned

Der er delte meninger om, hvorvidt hypen omkring ChatGPT er berettiget, og der kom ret hurtigt kritik af chatbotten, hvilket netop er et af kendetegnene, når en teknologi begynder at tage turen ned ad Gartners Hype Cycles forventningstop til ”Trough of Disillusionment”. Er den egentlig så fed og nyttig, som vi først gik og troede?

Tusindvis af brugere demonstrerede få dage efter lanceringen ChatGPT’s evne til at enten simpelthen at skrive noget værre sludder eller at skrive overbevisende fake news. Eksempler på det kan være velargumenterede essays om, hvorfor (den meget spiritusglade) Winston Churchill aldrig drak alkohol og falske interviews med præsident Joe Biden, hvor han kommenterede på følsomme udenrigspolitiske emner. Churchill-eksemplet kaldes for at hallucinere og dækker over denne her meget selvsikre, men datamæssigt ubegrundede reaktion fra AI-modeller, hvor svaret kan lyde velargumenteret, men være helt forkert.

Erfarne tech-kommentatorer gik også flittigt i kødet på ChatGPT. Tae Kim fra mediet Barron mente, at ChatGPT var overhypet, og sammenlignede den med Amazons Alexa og Apples Siri, som aldrig formåede at leve op til forventningerne. I The Atlantic opsummerede kommentatoren Ian Bogost en stribe af områder, hvor ChatGPT er dummere, end vi tror, og anbefalede, at vi behandlede den som legetøj snarere end som værktøj.

Listen af folk, der har kritiseret ChatGPT på både funktionalitet og etik er lang, og personligt har jeg heller ikke lagt fingrene i mellem. Men hvis brugerne synes, at en teknologi er fed, påvirker det ikke nødvendigvis en hype alverden, at visse journalister, forskere og filosoffer rejser kritik, eller at brugerne foreslår justeringer i betaversionen, som ChatGPT stadig er. I øvrigt var ChatGPT’s vej til toppen af hype-cyclen særegen. Hypen blev i modsætning til f.eks. Metaverse ikke primært bygget op af forventninger, der senere kunne skuffes, men kom snarere med et stort brag, da folk selv kunne prøve teknologien.

OpenAI laver løbende rettelser

OpenAI reagerede da heller ingenlunde i stil med Metas Galactica-retræte. De var til gengæld hurtige til at justere på ChatGPT og frigiver løbende opdaterede versioner. ChatGPT er blevet sværere at få til at opdigte falske interviews med statsoverhoveder, og korrektheden er generelt blevet bedre, men den skriver stadig gerne et essay om Winston Churchill, som er fuld af løgn. Kritikken er heller ikke forstummet endnu.

Ny vind i hype-sejlene

Hypen fik om muligt endnu mere vind i sejlene, da Microsoft 23. januar annoncerede sin tredje store investering i OpenAI. Hvis ChatGPT overhovedet ramte Gartner-cyklussens desillusionerede bund, var besøget kort, for flere ting tyder på, at både ChatGPT og generativ AI generelt hurtigt bliver inddraget i stort og småt til effektivisering. Det næste spørgsmål handler om turen frem til det mere rolige Plateau of Productivity, hvor ChatGPT grundfæster sig som mere end hype og indgår som en naturlig del af produktionen.

Hvad kommer ChatGPT til at betyde?

Fra chat-interface til business-tool

Allerede nu bruger mange ChatGPT til at automatisere tekstopgaver, forbedre kommunikation, reparere computerkode og brainstorme. Men det er primært som en ren tekstbaseret webchat, hvilket har en del begrænsninger. At integrere teknologien som et produktionsværktøj i en eksisterende it-infrastruktur kræver et åbent API, og det er ikke tilgængeligt endnu.

Det får dog ikke konsulenthusene til at stoppe op. Danske Droids Agency, som laver AI- og automation-løsninger, siger til Kforum, at de i stedet bruger GPT-3, som er ligeså effektiv og har kunnet tilgås via OpenAI’s API i mere end et år. Noget af det, de selv er ved at udvikle og kalder for alt andet end hype, er følgende:

Effektive chatrobots, som svarer på interne og eksterne henvendelser
Sproglige referater af tekster
Forslag til forbedring af formuleringer
Automatisk identifikation af deadlines og aftaler i indbakken
Automatisk kategorisering af tekst.

Mens flere af os således nok kan drage nytte af ChatGPT i dele af vores daglige arbejde, bliver det formentlig GPT-3, der i første omgang kommer til at påvirke både vores arbejdsflow i Office365 og de forskellige servicer, vi møder, når vi bevæger os på nettet. Mange GPT-3-baserede apps har været live i et godt stykke tid allerede.

Næppe en Google-killer

Et spørgsmål, mange stadig stiller, er, om ChatGPT kan blive en seriøs konkurrent til Google. Den anerkendte professor, forfatter og iværksætter Gary Marcus stiller sig i høj grad tvivlende. I en podcast siger han bl.a., at det helt store problem med store sprogmodeller er føromtalte hallucinationer, hvilket er svært at forene med de forventninger og krav, man har til en søgemaskine.

I skrivende stund er Microsoft ikke desto mindre i fuld gang med at udrulle Bing Search, som kombinerer chatbottens prosastil med de klassiske link-resultater, som vi også kender fra Google. Google arbejder på en tilsvarende løsning, og konkurrencen mellem de to er for længst blevet kaldt et AI arms race. Det lyder dramatisk, og det kan det også meget vel blive.

Måske en human-killer

At den forståelige fascination af ChatGPT og dens øjeblikkelige folkelige succes er endt som en krig mellem giganter, kan således have uheldige slagsider. Det er ikke denne artikels ærinde at dykke ned i dem, men den enorme hype spiller en ikke uvæsentlig rolle, så det er værd at nævne. En mere stilfærdig udrulning havde nemlig givet tid til at forberede vores institutioner og digitale infrastruktur på de store sprogmodellers indtog. Mens hype er fascinerende og formentlig har bidraget væsentligt til OpenAI’s forretningsmæssige succes, er der en oplagt risiko for, at hypen forstyrrer de positive potentialer ved store sprogmodeller og kunstig intelligens og i stedet bidrager til kaos og usikkerhed. Move fast and break things kan muligvis være en brugbar intern tilgang i visse former for it-udvikling, men når det kommer til demokratier og uddannelsessystemer, siger jeg personligt nej tak – uanset hypen.