AI-forskare försökte stoppa egna robotarna

Joachim Kerpner

Anställda på Google och Microsoft försökte stoppa företagens nya textrobotar.

Robotarna lanserades ändå, eftersom världsherravälde över AI-marknaden står på spel.

– Det vore ett dödligt misstag att just nu oroa sig för saker som kan åtgärdas senare, säger Microsoft-chefen Sam Schillace.

På kort tid har osäkerheterna ökat kring artificiell intelligens, AI. Textroboten ChatGPT, som företaget OpenAI lanserade i november 2022, har redan 100 miljoner användare i månaden.

Den är så bra att över tusen techledare och AI-forskare nyligen gick ut i ett öppet brev och krävde att all utveckling av textrobotar som är bättre än ChatGPT-4 ska pausas i sex månader.

Annars riskerar vi att förlora kontrollen över vår civilisation, hävdade undertecknarna.

Eller som framtidsforskaren Olle Häggström sade till Aftonbladet:

– Risken är att vi skapar en artificiell intelligens som förintar oss.

helskärm

Villiga att ta risker

Nu visar det sig att framgången för ChatGPT har lett till att Microsoft och Google blivit villiga att ta större risker för att vinna kapplöpningen om att bli den största spelaren på AI-marknaden, uppger tidningen The New York Times med hänvisning till 15 intervjuade medarbetare och tidigare anställda.

En av Microsofts chefer, Sam Schillace, skriver i ett mejl till tidningen att det viktiga är att bli först med vinnande teknik.

Efter lanseringen av OpenAI:s textrobot i november förra året kom Microsoft med sin Bing-variant i februari, och den 21 mars släppte Google sitt system, Bard.

Trots intern kritik. Så sent som i mars rekommenderade två av Googles AI-forskare att lanseringen av Bard skulle stoppas, eftersom den spottade ur sig ”farliga påståenden”.

Forskare på Microsoft ville ha ett stopp för Bing-systemet, eftersom det ”skulle kunna översvämma Facebook-grupper med desinformation, undergräva kritiskt tänkande och erodera det moderna samhällets faktabas”, enligt The New York Times.

Textrobotarnas snabba framsteg har tvingat EU att skriva om det AI-lagförslag som redan finns, och Italien blockerade ChatGPT i mitten av mars.

USA:s president Joe Biden sade i tisdags:

– Techföretagen har ett ansvar för att säkerställa att deras produkter är säkra innan de lanserar dem.