08 september 2007

Singulariteten

Den här helgen äger en konferens rum i San Franscisco som knappast skulle ha kunnat ordnas i Sverige. The Singularity Summit.

Jag har skrivit om singulariteten tidigare, senast här och här.

Känner du inte till begreppet singularitet kan den här introduktionen vara värd tio minuter. Singulariteten beskriver den punkt i historien då vi för första gången konstruerar en datormaskin som är intelligentare än människan eller då vi finner en väg för att förstärka vår egen intelligens bortom dess nuvarande begränsningar. Snabbare och/eller smartare. Inom många skilda områden går utvecklingen i den riktningen; bioteknik, genetik, informationsteknologi, vilket fält som når fram först är en öppen fråga.

Singularitetsbegreppet myntades 1993 av matematikern och författaren Vernor Vinge som en beskrivning till hur, precis som de kända naturlagarna bryter samman i centrum av ett svart hål, våra möjligheter att förutsäga framtiden upphör vid den punkt i historien då vi upptäcker hur intelligens kan förstärkas eller konstrueras. Från den punkten, uppstår en loopeffekt: den förstärkta intelligensen kan i sin tur bygga ännu snabbare och smartare intelligenser, vad som händer sen kan ingen idag förutspå.

Låter det knäppt? Singlaritetskonferensens talare är inga knäppskalar. Där finns Googles forskningschef, Peter Norvig, robotutvecklaren Rodney Brooks från MIT, Bill Gates och många fler. I USA betraktas det inte som weirdo att tala om singulariteten.

Ray Kurzweil är förstås också där (alltså, via videolänk). Kurzweil är singluaritetsidéns främsta apologet, författare till Age of the machines och förra årets storsäljare The singularity is near.

Det är alltid uppfriskande att möta en välargumenterad optimist. Kurzweil är en sådan. I sin tegelstensprofetia visar Kurzweil, med resonemang och diagram hur snart sagt alla teknologins områden rör sig in i exponentialen. Moores lag gäller för den teknologiska utvecklingen som helhet och ger en mycket enkel framtidsprognos enligt Kurzweil: någon gång innan 2050 kommer vi antingen konstruera den första artificiella intelligensen eller kunna förstärka vår egen hjärnkapacitet mångdubbelt.


Även om mycket talar för att Ray Kurzweil lätt berusad av teknooptimism har en tendens att underskatta inneboende trögheter i samhället och verklighetens motsträviga omständigheter, såsom klimatkatastrofen och internationella konflikter, så är riktningen given. Och även om det tar 50 eller 100 år längre än vad Kurzweil föreställer sig, så kommer det ske inom en inte alltför avlägsen framtid. Mot det har jag ännu inte funnit en enda bärande invändning.

Inom tidsspannet av en till tio generationer kommer mänskligheten passera en avgörande punkt i historien. Vi lever just nu i vänteläget, mellanläget. Ironiskt nog kallat för postmodernt.

Vad innebär det här för politiken? Mycket mer än vad vi kan föreställa oss. Enorma risker, obegripliga möjligheter. Historien bortom singulariteten är som sagt, av uppenbara skäl, omöjlig att säga någonting om. Men det gör det inte oviktigt vilket modus samhället befinner sig i när själva skiftet inträffar.

Förenklat uttryckt: infaller singulariteten i ett datorlab eller en klinik inom ramen för ett klassamhälle då löper vi risken att se fram emot en helt ny typ av klasskamp, med en härskarklass som tänker ungefär mellan hundra och en miljon gånger snabbare än oss andra. Som betraktar oss andra normalsmarta dumskallar ungefär som människor betraktar kaniner; gulliga, men de bör bo i bur. Hejdå demokrati, hejdå mänsklighet.

Det finns även andra krafter med mindre goda intentioner som idag kan nå fram först. Världens just nu snabbaste konglomerat av datorkraft är de mellan 1-50 miljoner smittade persondatorer som ingår i Storm Botnet. Den kidnappade beräkningskapaciteten gör Storm Botnet snabbare än alla världens 500 största superdatorer tillsammans.

Visst finns möjligheten att intelligensförstärkning mer eller mindre automatiskt leder till ett mer humant och rimligt organiserat samhälle, om det nu finns en tillräckligt stark koppling mellan intelligens och empati. Men om det kan vi inget veta, förutom att chansen för det borde vara betydligt större om vi når skiftet med ett samhälle som är rimligt väl sammanhållet, som präglas av alla människors lika värde och rättigheter, snarare än med ett samhälle som präglas av den starkes rätt. Uppgiften att bygga ett jämlikt och demokratiskt samhälle är idag därför viktigare än någonsin förr, i synnerhet för den som förstått singularitetens implikationer.

Detta till trots är diskussion om det stora skiftet nästan helt frånvarande i svensk politik (undantaget är några få borgerliga bloggare). Inte så märkligt för all del, eftersom perspektivet inte är särskilt djupt rotat i vår föreställningsvärld överhuvudtaget. Varken här eller utomlands. Med undantag då för USA där singulariteten förekommer i mainstream-debatten.

Vänstern är märkligt dålig på att ta till sig implikationerna av den informationsteknologiska revolutionen. När den i övrigt övertygande världssystemteoretikern Immanuel Wallerstein prognostiserar de kommande 50 åren i ”Liberalismens död” är det som om exponentialen inte fanns. Wallerstein resonerar om deruralisering, ekologiska begränsningar, demografiska förskjutningar och kondratievcykler utan att beröra att den cykel vi nu är påväg in i kommer vara kvalitativt annorlunda än alla de föregående. Spinnrocken, ångmaskinen, bilen och transistorradion förändrade mycket, men ingen av dem förändrade människan som art. Det är vad bioteknologi och artificiell intelligens kommer att göra.

Hur förhåller sig vänstern till det? I Sverige förhåller vi oss väl knappast alls. Det närmaste man kan komma ett politiskt förhållningssätt formulerat från ett vänsterperspektiv är möjligen den ”demokratiska transhumanismen”, introducerad av James Hughes. Men det ligger långt vid sidan om den allmänna debatten.

Och så länge som det förhållandet består kommer politiken anlända försent till scenen och därmed riskera att inte betyda någonting alls.

Andra bloggar om: , , ,

6 kommentarer:

Filibabba sa...

orkade inte läsa precis hela inlägget, men rätt mycket. Väldigt intressant och samtidigt rätt skrämmande..!

Anonym sa...

Tack för ett viktigt inlägg, Erik!

Som jag ser det tar du upp två viktiga frågor.
Den ena berör vart vi är på väg(onekligen en viktig fråga).
Den andra berör varför vänstern inte förmår ta in framtidsfrågorna, eller formulera ett humanistiskt förhållningssätt till dem.(Detta senare noterar du främst, utan att analysera. Det vore annars värt ett eget inlägg.)
Några mycket korta reflexioner kring den första frågeställningen.

Förändringstempot ökar.
Människan som art har funnits under ett par miljoner år. Under 99,9% av den tiden levde vi som samlare och jägare, enkelt, glest och i lokala grupper. Förändringstempot var mycket långsamt .
För tiotusen år sedan gick vi över till jordbruk. Därmed förändrades människors sätt att leva i grunden. Men det var en övergång som tog tid, tusentals år, innan den slagit igenom globalt. Och fortfarande finns spridda rester av samlar- och jägarkulturer kvar.
Och för tvåhundrafemtio år sedan började jordbrukseran ersättas av industrisamhällen, och åter förändrades samhället i grunden.
Så började den samtida övergången till informationssamhällen för (max) femtio år sedan, och förändringstempot har gått in i exponentialen.

Förändringarna ökar klyftor och konflikter i samhället.
Varje övergång innebär att upparbetade samhälleliga utjämnings- och maktbalansmekanismer bryts ned. De mäktiga, de privilegierade, de hårda ökar regelmässigt sin makt och välfärd på de mångas bekostnad – och samhället förråas.

Möjligheten att tänka efter före – eller att se till helhetens intresse – minskar.
Så här stora förändringar inleds utan att någon ser - kan se – följdförändringarna eller deras slutliga effekt.
Ett diskuterat exempel på detta förhållande är industrisamhällets uppbrutna kretslopp; resurskrisen och miljöförstörelsen.

Effekterna blir alltmer genomgripande.
Människans historia är berättelsen om en kumulativ kunskapstillväxt och om denna kunskaps tillämpning via teknik och ekonomi.
Problemet är att kunskapen (och makten) alltid växer fortare än insikten och besinningen. Det beror på att de senare är sociala, kulturella – och högvärda – resurser; avsevärt svårare att uppnå än kunskap, blott.
Därför blir så mycket av god mänsklig strävan kortsluten av girig och egoistisk tillämpning. Ur Einsteins sanningssökande kom atombomben, terrorbalansen – och från nu ett damoklessvärd hängande över hela mänsklighetens huvud, exempelvis.

Det är viktigare än någonsin att föra en bred demokratisk framtidsdebatt.
Det utmärkande för en singularitet – vare sig det är ett svart hål eller (den största av dem alla) Big Bang är att de (trots allt ) är kritiskt beroende av sina ingångsvärden: små skillnader in ger stora skillnader ut.
Därför är en bred informerad debatt livsviktig.
Som grund för demokratisk handling.

Så till din andra frågeställning, kort och provisoriskt:

Varför förs ingen relevant diskussion i Sverige?
Ja, varför förs den inte?
Jag tror att en anledning till bristen på diskussion i Sverige beror på likgiltighet och okunnighet. Vänstern i Sverige i dag saknar förståelse för naturvetenskap och teknik. Det kontrasterar mot situationen under energidebatten, då vänsterns företrädare och debattörer var de kunnigaste och bäst pålästa.
En andra anledning är att vänstern har tappat hoppet: Var finns (de optimistiskt realistiska) utopierna?
Detta är förvisso mer symptombeskrivning än analys. Men frågan gäller trots allt vår framtid.
Mot den här bakgrunden är den totala frånvaron av en bred, medveten, progressiv framtidsdebatt, stabilt förankrad i förtrogenhet med modern vetenskap och teknik, likaväl som politik och ideologi, djupt bekymmersam.

Bengt-Åke

Anonym sa...

Du skriver att..
"någon gång innan 2050 kommer vi antingen konstruera den första artificiella intelligensen eller kunna förstärka vår egen hjärnkapacitet mångdubbelt".

Men en sak är jag som naturvetare säker på (tillsammans med hjärnforskaren och nobelpristagaren Arvid Carlsson), och det är att vi inte kan skapa (mänskliga) känslor i en artificiell "intelligens".
Visserligen tror jag att fröet till livet ligger inneboende i de huvudsakliga små beståndsdelarna av atomer och molekyler och deras energiändringstillstånd som det levande är uppbyggt av, nämligen kol, syre, kväve, fosfor och delvis svavel. Men sätt ihop dem till ett känsloliv så lär du nog få nobelpriset!

Grad sa...

Man kan simulera molekyler i en dator, så molekylerna är nog inget problem. Problemet, det verkliga, ligger i datorkraft. Och datorkraft kommer vi ha mer av i framtiden (due to Moore's law). Det är så vi transhumanister tänker.

Utvecklingen kan aldrig gå baklänges, bara stanna av (om vi inte dör, vilket verkar osannolikt). Det ser dock ut som att den växer exponentiellt. Folk har sagt i hundra år att vi kommit till en punkt där vi inte kan bli mer utvecklade... och hela tiden blir man motbevisad. Moore's law verkar vara en speciellt trögkrossad lag. Det enda som kan stå ivägen är ljusets hastighet, men då är det bara att göra bandbredden större - eller experimentera med quantum computers. (yes, jag gillar engelska!)

Den egentligt stora risken är människors okunskap och fördomar. Människor måste vakna! Don't dismiss this as "only scifi!" :)

Aksel sa...

:j Ja, fast det krävs ju också att man lyckats konstruera en vettig artificiell intelligens - annars hjälper det inte hur mycket datorkraft man har. Det bästa vore väl egentligen om utvecklingen hejdades och man började intressera sig för vettigare saker; såsom hiv-medicin eller antihårväxtmedel - nåt man faktiskt har nytta av..

Anonym sa...

hi, approximationer.blogspot.com!
[url=http://viagradeb.fora.pl/] viagra bestellen ohne rezept[/url] [url=http://viagradea.fora.pl/] viagra online[/url] [url=http://viagradec.fora.pl/] viagra bestellen online[/url] [url=http://viagraded.fora.pl/] viagra bestellen rezeptfrei[/url] [url=http://viagradef.fora.pl/] viagra kaufen rezeptfrei[/url] [url=http://viagradee.fora.pl/] viagra kaufen ohne rezept[/url]