Lita inte på männen som varnar för AI

De har en begränsad syn på vad intelligens är – men det finns andra som tänker bredare

Elon Musk, Max Tegmark och Steve Wozniak var tre av de män som publicerade ett brev för några veckor sen, som varnade för farorna med utvecklingen av AI och föreslog en sex månaders paus för att vi ska hinna förstå vad som händer.

Det råder AI-panik. Varningstrumpeterna ljuder från Silicon Valley och närliggande amerikanska elitmiljöer. Tiden måste stoppas, algoritmerna får snart eget liv och den mänskliga existensen är hotad.

Nyligen gjorde ännu en av AI-teknikens gudfäder (det är alltid just ”fäder”) avbön. Geoffrey Hinton jobbade tidigare på Google, men har nu gått i pension. Varpå han kom fram till att han ångrar sig. ”Riskerna var större än jag tidigare insåg”, säger han.

Jag oroas också av det som sker. Men jag har ett problem: jag litar inte på de röster som nu dominerar debatten.

Vad betyder det exempelvis att det varningsbrev som publicerades för några veckor sedan av ledande AI-tänkare till en början undertecknades av fjorton män som i stor utsträckning kommer ur samma miljö, är rika som troll och har samma smala perspektiv? Vad är det denna grupp ser, och vad är det de missar?

 

I sin bok ”Att uppfinna världen” – rekommenderad läsning dessa dagar – citerar Katrine Marçal robotikforskaren Rodney Brooks, och hans observation att AI-forskarna länge betraktade intelligens som synonymt med ”saker som högutbildade manliga vetenskapsmän tycker är svårt”, som att spela schack eller lösa matematiska problem. Som Marçal skriver: om de tidiga AI-pionjärerna inte hade varit en så snäv grupp av manliga vita professorer, hade de då definierat intelligens på ett annat sätt? Hade de kunnat se städning eller kärleksfull omsorg om ett barn som ett svårt och legitimt problem att försöka lösa?

Kroppen, och den kunskap som ligger utanför det matematiska tänkandet, har i moderniteten blivit kvinnligt kodat. Kanske för att kvinnor föder barn och står för den största delen av omsorgen om andra, medan det har varit lättare för män att tro att de är sina hjärnor. När nu AI-männen säger att den nya tekniken kan ”gå om” människan när det gäller intelligens, så är frågan vad de menar med detta.

Sanningen är att vi människor inte vet hur vi själva fungerar. Som professorn i teoretisk fysik Ulf Danielsson skrev i DN i veckan, så är det enda vi vet att medvetandet uppkommer i biologiska hjärnor. Men vi har ingen aning om varför eller hur.

Min poäng är denna: vad som definieras som risk, som intelligens eller centrala problem som behöver lösas hänger ihop med hur du ser världen

Det vi vet är att det är något annat att vara människa än en algoritm eller AI, hur kraftfull den än är. Detta just eftersom hjärnan är en del av kroppen, inte något som enkelt kan skiljas från den. Kroppen finns i sin tur i världen, och en del av den kunskap som inhämtas genom känsla, inlärning och samspelet med andra går att verbalisera, annat inte. Det vi kallar ”intelligens” är, som Ulf Danielsson också skriver, inte det som gör oss till människor, eller kanske ens det som fått oss att överleva.

Min poäng är denna: vad som definieras som risk, som intelligens eller centrala problem som behöver lösas hänger ihop med hur du ser världen. Och när vita män som tror att hjärnan är losskopplad från kroppen både äger, utför och kontrollerar tekniken så spelar det roll.

Det är inte länge sedan samma män från samma miljöer, med samma begränsade förståelse i kombination med enorma rikedomar lovade att deras uppfinningar skulle stärka demokratin. I stället lades grunden för övervakningskapitalism och exploderande ojämlikhet. Det skrämmer mig med denna totala och ihållande brist på förståelse för den politiska och ekonomiska logik som dessa teknikföretag både driver och är en produkt av. Det jag oroar mig för är att AI-männen kommer att förstöra världen, bara inte på det sätt de själva tror.

 

Lyssna exempelvis på Sam Altman, en av grundarna till OpenAI, som ligger bakom omtalade ChatGPT. Det du kommer att höra är en smart, trevlig, driven och ambitiös snubbe, som är fascinerad och klädsamt oroad av kraften i de verktyg han varit med och skapat. Men när han får frågor om hur hans uppfinningar påverkar samhället, eller om ekonomisk rättvisa, förlorade jobb eller försvagad demokrati, då blir han svarslös.

De delade en del av oron i brevet, men påpekade samtidigt att det inte tog upp några av de redan befintliga riskerna med tekniken

Strax efter det att Elon Musk, Steve Wozniak, Max Tegmark och de andra publicerat sitt varningsbrev kom ett svar från en grupp mestadels kvinnliga AI-etiker, bland annat datorlingvisten Emily Bender, och Timnit Gebru som är tidigare AI-etiker på Google. De delade en del av oron i brevet, men påpekade samtidigt att det inte tog upp några av de redan befintliga riskerna med tekniken, inklusive det faktum att makten över modellerna kontrolleras av ett fåtal företag och personer. De pekade också på att de redan farligt starka datamonopolen nu blir allt kraftfullare, och på att tekniken förstärker förtryck, diskriminering och ojämlikhet.

Det vi kallar AI är kraftfulla språkmodeller som tränas på språk och data som redan finns i världen. Språk är inget neutralt, utan speglar mänskligt liv och maktrelationer. Det är därför inte konstigt att svaren från de AI-modeller kommer att spegla den rasism, ojämlikhet och förtryckande strukturer som finns inbäddat i vårt samhälle.

Flera av de kvinnor som skrev brevet jobbade tidigare på Google, men fick sparken när de varnade för att AI-modellerna höll på att bli för kraftfulla. De sociala och politiska risker de såg ansågs inte vara ”existentiell” karaktär, kanske för att de män som ledde utvecklingen inte hade drabbats av dem. Det var helt enkelt en typ av kunskap, eller intelligens, som de saknade.

 

Hellre än att lyssna på Elon Musk läser jag dessa dagar tänkare som AI-forskaren Kate Crawford, som i sin bok ”Atlas of AI” kopplar tekniken till den fysiska världen, och beskriver hur den bidrar till att suga ut jorden på både energi och råvaror. Ett annat perspektiv står konstnären, tekniktänkaren och författaren James Bridle för, som i sin fina bok ”Ways of being” försöker bredda vår definition av just intelligens. Kanske, menar han, kan vår relation till den nya tekniken hjälpa oss att öppna oss inför andra sätt att vara, tänka och känna.

Jag kan inte bedöma riskerna med ett genombrott för det som kallas generativ AI, men jo, jag oroar mig också. Jag tror också att det finns en risk med att bara fokusera på de mest extrema scenarierna, i stället för att med lagar och regleringar försöka hantera den maktkoncentration och de problem som tekniken redan skapar.

Jag tröstar mig med att eftersom AI-männen inte verkar förstå vad det är att vara människa, så kanske de helt enkelt har överskattat hotet från en ”superintelligens”. Jag tänker att världen består av en komplex väv av trögheter, relationer, ett myller av liv och kropp som de helt enkelt inte tänker på och därför inte tagit med i beräkningen. Det är både skrämmande och trösterikt.

Kultur

Prenumerera på Kulturens nyhetsbrev

Aftonbladets kulturchef Karin Petterson guidar till veckans viktigaste kulturhändelser och mest intressanta idédebatt.