Det är för lite mörker i beskrivningen av AI
Benjamin Labatuts ”Maniac” förklarar OpenAI-kaoset bättre än techjournalisterna
Det hände något förra helgen och det skulle kunna vara så att det inte spelar så stor roll. Å andra sidan kan det också vara ett vägskäl för mänskligheten. En sådan där tilldragelse som historiker i framtiden kommer att analysera i böcker och avhandlingar.
Det som hände var att styrelsen för det amerikanska AI-bolaget OpenAI försökte sparka sin vd, men misslyckades.
OpenAI är ett av de ledande bolagen i utvecklingen av artificiell intelligens, och ligger bakom den populära chatbotten ChatGPT. Dess vd, Sam Altman, har blivit AI-utvecklingens ansikte utåt. Ett tekniskt geni med pojkaktig uppsyn som lyckas framstå som sympatisk och – särskilt i jämförelse med andra tech-bros – relativt ödmjuk.
När OpenAI startade 2015 valde grundarna medvetet en konstruktion som skulle förhindra att den superintelligens som höll på att utvecklas skulle hamna i händerna på ett vinstdrivande företag. Under resans gång har OpenAI blivit partner med techjätten Microsoft, men har fortsatt att ha en styrelse som inte svarade inför vare sig marknad eller aktieägare. I stället hade de det ovanliga uppdraget att värna mänsklighetens bästa. En udda konstruktion i vår hyperkapitalistiska tid.
Mänsklighetens bästa. Vem kan veta vad det är och hur det i så fall uppnås? I OpenAI:s styrelse verkar tolkningarna ha gått isär. Efter många konflikter sparkades Sam Altman till slut förra veckan, vad det verkar för att han inte ansågs ta tillräckligt stor hänsyn till riskerna med det OpenAI höll på att bygga. Men då hände något. Kapitalet klev in. Microsoft erbjöd sig helt enkelt att köpa över Altman och alla andra anställa från OpenAI, och bygga en ny AI-verksamhet, helt utan inbyggda hinder eller tjafs om ”mänskligheten bästa”. Då backade OpenAI.
Det gick helt enkelt inte att sparka Sam Altman. Kapitalet vann.
Det finns en scen i Benjamin Labatuts roman ”Maniac” som jag har tänkt på de senaste dagarna. Boken börjar med att fysikern Paul Ehrenfest mördar sin handikappade son och sedan skjuter sig själv. Labatut beskriver det som ett slags offer, en handling utförd i rädsla och galenskap. Den utlösande faktorn är upptäckter inom kvantfysiken, av bland andra matematikern John von Neumann. Ehrenfest tycker sig i de nya rönen ana en framtid utan hopp för mänskligheten.
Vad är det vi står inför? Hur beskriver man faror med vetenskapliga språng som mycket få – om ens några – människor begriper och än mindre kan begripliggöra?
I ”Maniac” följer vi sedan John von Neumanns gärning och liv, via atombomben och samarbete med Oppenheimer, formulerandet av spelteori och de första datorerna, till cancern som till slut väcker hans samvete till liv. Labatut vill förstå hur von Neumanns hjärna fungerade, vad han såg, vilka kopplingar han gjorde mellan organiskt liv och maskin. Vad han missade.
Slutkapitlen i boken skildrar hur matematiken slutgiltigt förnedrar människan, när dataprogrammet AlphaGo i tre matcher besegrar en av världens bäste go-spelare, Lee Sedol. Efter matcherna gav Sedol upp Go-spelandet. Han tyckte sig ha mött en omänsklig gud, med verklig, men obegriplig kreativitet. En gud som inte tar hänsyn till sådant människor bryr sig om, som skönhet eller skam. En fysisk manifestation av den utveckling som Ehrenfest var rädd för.
I mycket av den techjournalistik som nu skildrar turerna inom OpenAI och försöker förstå och beskriva framtiden saknas något. Fantasi kanske, eller rädsla, eller det ord som på engelska heter awe och som jag aldrig hittat lyckas översätta till svenska. Vördnad kanske ligger närmast, men en vördnad som blandas med en känsla av skräckblandad svindel, av att bli överväldigad. Vad är det vi står inför? Hur beskriver man faror med vetenskapliga språng som mycket få – om ens några – människor begriper och än mindre kan begripliggöra?
Labatut försöker. Han drar linjen från Ehrenfest via von Neumann till AlphaGo, det datorprogram som utvecklades av DeepMind, som köptes av Google 2014 och är en av OpenAI:s viktigaste konkurrenter.
Både i ”Maniac”, och i Labatus förra, mästerliga bok ”En fruktansvärd grönska” står människans relation till vetenskapen och drömmen, myten om framsteget i centrum. Bredvid framsteget finns alltid mörkret. Labatut beskriver ensamheten i den positionen, och hur ofta den slår över till förtvivlan och galenskap.
Jag vet inte hur man ska förstå de tekniska språng som sker idag, men jag försöker, och jag vet att det är något som saknas i hur de skildras och beskrivs. Techjournalistiken liknar ofta ekonomijournalistikens ytliga och kortsiktiga rapporterande om ägarstrider och förvärv.
Då är Benjamin Labatut bättre lämpad. Hans böcker lägger sig nära verkligheten och historiska skeenden, men är ändå skrivna på ett sätt som gör att läsaren inte kan vara riktigt säker på vad som sker. Ibland kollapsar berättelsen, nästan omärkligt. Världen framträder i sin obegriplighet. Och därtill människans förtvivlade, ibland farliga drivkraft att komma uppåt, framåt, kosta vad det kosta vill. Det är inte bara kapitalet som driver oss mot undergången.
Samtidigt undrar jag om inte även denne skicklige författare faller i sin egen fälla. Hans skildringar kan ibland likna mörka sagor om manliga genier, losskopplade från de samhällen de lever i. Det är som att Labatut glömmer sin egen läxa och delvis bidrar till att förstärka den myt han försöker krossa. Men läs honom ändå!
Farorna med AI på kort sikt är inte mänsklighetens utplånande, utan något mycket mer jordnära och aktuellt. Offentligheten kommer att förgiftas med ännu mer och mycket mer välgjord propaganda, deep fakes från avsändare som är omöjliga att ställa till svars. Vi ser det i det pågående kriget mellan Israel och Hamas, som Martin Gelin påpekade i DN i veckan. Det samtal och informationssökande som är demokratins förutsättning blir svårare att genomföra. Och utan demokrati, vem har intresse av att begränsa riskerna med AI på lite längre sikt? Faran med detta moment 22 behöver man inte vara ett matematiskt geni för att vare sig förstå eller bli livrädd av.
