Kan AI hota mänskligheten?

”Science fiction”

Anställda på Open AI ska ha larmat om en upptäckt som kunde utgöra ett hot mot mänskligheten.

AI-experten Daniel Gillblad svarar på hur rädda vi egentligen behöver vara för tekniken.

TT: Open AI ska ha utvecklat en matematikprodukt som går under namnet Q* som anställda uppges ha slagit larm om, vad vet vi om den?

– Det är väldigt svårt att veta vad de har varnat för eller vad det handlar om. Men det mesta pekar inte direkt mot att det rör sig om en artificiell generell intelligens, utan snarare om en förbättring av den typen av modeller som redan finns inom till exempel matematik, säger Daniel Gillblad, AI-chef på Record Future.

TT: Vad är artificiell generell intelligens (AGI)?

– Det är en intelligens som är ännu bredare än den typ av AI-system som vi har i dag. Som är bättre på att lära sig nya problem. Som har lättare att överföra kunskap från ett område till ett annat. Ganska många, inklusive Sam Altman, tror att det nog krävs vissa typer av ytterligare genombrott för att nå fram dit.

TT: Varför tror du att det blivit sådan turbulens kring Open AI?

– Det finns väldigt många människor, även på den här typen av företag, som är lite nervösa över utvecklingen. Om det kommer nya modeller som kan uppvisa egenskaper som tidigare modeller haft svårt för, tolkas det gärna som ett steg på väg mot artificiell generell intelligens.

– Då trycker man gärna på knappen och säger att det är viktigt att ta det försiktigt.

helskärm

TT: Vad är det egentligen AI skulle kunna ställa till med?

– Kan AI användas för att utveckla nya biologiska och kemiska stridsmedel? Absolut. På samma sätt som det kan hjälpa oss att utveckla nya läkemedel, autonomi för självkörande bilar och automatiserade lager. Kapaciteten vi har i AI just nu är mer av en förstärkning. Du kan använda det till gott och till ont.

TT: Bland annat Elon Musk, som var med och startade Open AI, har varnat för att AI är det största hotet mot mänskligheten. Hur ser du på det?

– Det finns eventuellt konsekvenser av AI som är mer svåra att överskåda. Det vi inte vet att vi inte vet. Men det är svårt att spekulera kring.

TT: Går det att säga något mer konkret om potentiella hot?

– Det pratas till exempel om att AI skulle kunna utveckla substanser som skulle kunna ta död på mänskligheten. Men det är inte så den här typen av utveckling går till. Vi plockar inte bort människor ur loopen. Vi utvecklar redan i dag avancerade substanser, och vi testar dem.

– Det pratas också om vad som händer om det dyker upp superintelligens, något som är intelligentare än människan och som kan utveckla sin egen intelligens. Men vi är inte där, så det är hypotetiskt.

TT: Det låter som att det finns mycket vi inte vet?

– Ja och det skapar lätt utrymme för spekulation. Jag säger inte att risken är noll för att något skulle kunna gå fel. Men jag bedömer inte det som så sannolikt.

TT: Kan Hollywood ha påverkat bilden av AI med olika skräckscenarier?

– Jo, det tror jag säkert. Men det ska väldigt mycket till för att en starkare intelligens plötsligt ska finnas i massvis av olika vapensystem. Om det dyker upp en så smart modell är det inte så att den plötsligt får kontroll över massa saker.

TT: Så världen går inte under på grund av AI?

– Det går nog att spekulera i, men jag kan inte se vägen dit just nu. Då pratar vi mer eller mindre science fiction.

– Jag tycker att man ska vara ansvarsfullt entusiastisk när det gäller AI. Det är oavsett väldigt svårt att stoppa utvecklingen. Det finns enorma möjligheter om vi bara hanterar det rätt.