Godmorgon världen, Sveriges Radio, 22.1.23

Artificiellt skitprat

Som de flesta förmodligen vet finns sedan några månader ett dataprogram på nätet som kallas ChatGPT och som kan ge till synes intelligenta och välformulerade svar på snart sagt vilka frågor som helst. Vid ett första möte med ChatGPT är det svårt att tro att det är en maskin som varit i farten och inte en tänkande varelse. Jag har själv prövat och häpnat över hur bra svaren kan vara. Och mycket riktigt finns de som hävdar att ChatGPT har klarat det test, Turingtestet, som sägs avgöra om en maskin blivit intelligent nog att kunna tänka för sig själv. Eller i varje fall ge ett svar som inte går att skilja från en människas.

Och så kanske det kan se ut – på ytan kan svaren ibland synas nästan för perfekta – men det krävs inte mycket för att avslöja att ChatGPT inte kan tänka. På en viss typ av frågor kan man få till synes genomtänkta svar som likväl avslöjar att programmet inte förstår vad saken handlar om. På min direkta fråga svarar programmet också uppriktigt att det varken förstår sammanhang eller mening i de till synes genomtänkta och välformulerade texter det blixtsnabbt spottar ur sig.

Nej, det svarar inte uppriktigt, eftersom det inte vet vad uppriktighet är.

Det vet inte heller vad lögn och sanning är.

Vad programmet vet, om man nu ska använda det ordet, är att utifrån en oändlig mängd data på nätet identifiera, imitera och producera sammanhängande texter som kan se häpnadsväckande intelligenta ut – men som likväl kan visa sig vara, ursäkta ordet, skitprat – eller som det heter på engelska – bullshit.

I en uppmärksammad essä som heter just On Bullshit, skriver den amerikanske filosofen Harry Frankfurt att vad som utmärker skitpratet är inte nödvändigtvis att det är mindre sant eller mera falskt än annat prat, utan att det inte har något som helst förhållande till någondera. Medan skillnaden mellan sanning och lögn i regel betyder något också för den som ljuger, och naturligtvis också för den som försöker tala sanning, har den ingensomhelst betydelse för skitprataren.

Skitprat, eller bullshit, är därmed ett större hot mot sanningen än lögnen, varnade Harry Frankfurt för snart tjugo år sedan, då det huvudsakligen var det mänskliga skitpratet han hade för ögonen. Med kapaciteten hos ChatGPT och liknande dataprogram att producera oändliga mängder av till synes genomtänkta och välformulerade texter utan minsta förmåga att göra skillnad på sanning och lögn, än mindre förstå sammanhang och mening, har produktionen och spridningen av skitprat nått en helt ny dimension.

Hur mycket vi än kommer att häpnas över de här programmens förmåga att ge svar på snart sagt vilka frågor som helst, och producera texter som kan invagga snart sagt vemsomhelst i tron att det är en tänkande människa som skrivit dem, så är det med Frankfurts definition fortfarande skitprat det handlar om.

Kvalificerat skitprat måhända – men ändå.

Om vi redan tidigare tyckt oss gå mot en värld där vi får allt svårare att skilja på äkta och falskt, sanning och lögn, är det nog ingenting mot vad som nu stundar.

Informationsapokalypsen, eller infokalypsen, som någon redan döpt det hela till, är en flodvåg av maskinproducerade texter, till synes alltmer intelligenta och mänskliga, som tränger in i varje vrå av våra digitala liv och gör det allt svårare för oss att veta vem som vill oss vad och varför.

Och allt lättare för dem som av olika skäl vill skapa förvirring och osäkerhet om den saken.

Med all respekt, och rentav häpnad och beundran, för vad den här typen av program visat sig kunna göra, vilket i sin tur lär komma att blekna i jämförelse med vad nästa programgeneration är kapabel till, så är det inte bara det att de inget förstår, de är också extremt sårbara för manipulation av de som mycket snabbt lär sig förstå hur de kan användas för att förleda, fuska och bedra.

På universitet och högskolor, bokförlag och tidningsredaktioner, på nätets alla webbsidor och sociala medier, försöker man nu rusta sig mot chatbotarnas invasion.

Så vad gör vi ­för att motverka infokalypsen?

Jag frågade en god vän som svarade att nyckeln ligger i ett mera informerat, handlingskraftigt och motståndskraftigt samhälle som är bättre på att navigera i det digitala landskapet.

Nej, det var ingen god vän som kläckte ur sig den där klyschan.

Det var ChatGPT.

Men helt fel var det ju inte.