IT-gurun Bill Joy är livrädd för framtiden (2000)

(Denna intervju från november 2000 publicerades i Dagens IT 7 dec 2000 och danska Ingenioren och finska Tietoviikko.) 

 Bill Joy oroar sig för nanotekniken.

46-åringen Bill Joy är ett av IT-branschens främsta namn och kallas ibland ”Internets Thomas Edison,” men har på sistone drabbats av en djup teknikångest. Tekniken hotar mänsklighetens överlevnad varnade han en starkt personlig essä i Wired Magazines aprilnummer. Han öppnade artikeln med ett långt citat av ”Unabombaren” Theodore Kaczynski och höll med honom i hans varning för teknikens komplexitet.

I Silicon Valley, Boston och New York skakade man på huvudet åt denna omvändelse från en man som till vardags är vetenskaplig chef för Sun Microsystems, som han var med om att grunda. Han ser ut som en 30-årig världsförbättrare på marsch i Seattle eller Prag, men han är en av männen bakom operativsystemet Unix, liksom Java och Jini. Härom satt han ordförande i Bill Clintons IT-råd (PITAC, the President's Information Technology Advisory Committee.)

Bill Joy är van att stå i centrum, men njuter knappast av det. Jag har intervjuat honom per telefon ett par gånger och vi har brevväxlat några gånger per epost. Hans ebrev är för det mesta nordiskt korta och utan versaler, som om den yttre formen inte spelar så stor roll. Jag fick nyligen en chans att prata med honom en stund under ett besök i Princeton, dit han bjudits in av av Institute of Advanced Studies (IAS.) När jag höjer kameran för att ta ett porträtt för han skyggt ena handen mot hakan.

I Wired-artikeln skisserar han en bild av sig själv som en ovanligt begåvad pojke som växte upp under enkla förhållanden i Illinois. Han kunde läsa redan i treårsåldern, men växte upp till att bli något av en enstöring med få nära vänner. ”Mitt liv har präglats av ett djupt behov av att ställa frågor och finna svar.” Som tonåring fascinerades han av teknik och vetenskap. Han sysslade med amatörradio, läste science fiction och utvecklade den matematiska begåvning som skulle föra honom till Michiganuniversitetet. Det var där han upptäckte datorn, som för honom bleve en nästan magisk bekantskap. ”Datorn hade en klar uppfattning och rätt och fel, sant och falskt. Var mina idéer korrekta? Maskinen kunde ge svaret. Det var en väldigt förförande tanke,” skriver han.

Bill Joy sa till snillena på IAS att det var en ”egendomlig sekvens av händelser” som ledde fram till artikeln i Wired. Han gav några hållpunkter som gick tillbaks till hans forskarstudier i Kalifornien (vilka aldrig ledde till någon doktorsexamen) och hoppade sedan fram till nuet via Carver Meads insikter om storskalig integration av halvledande kretsar (VLSI) och Moores lag, som föruspådde att datorkraften skulle fördubblas vartannat år (prognosen modifierades senare till var 18:e månad.) Slutligen var det mötet med dataforskaren och entreprenören Raymond Kurzweil under en konferens anordnad av teknikgurun George Gilder. Mötet med Kurzweil och läsningen av hans bok ”The Age of Spiritual Machines” gav Bill Joy ett nytt perspektiv på världen och släppte loss den kritiker och moralist som nog alltid funnits där.

Många av de faror som Bill Joy idag varnar för, har länge figurerat i science-fiction litteraturen. De har hittills ansetts omöjliga, men håller nu snabbt på att bli möjliga.
-Tills för ungefär ett år sedan trodde folk att kretsutvecklingen skulle köra in i en tegelvägg runt 2010, sa han på IAS och målade upp ett scenario han lånat från Kurzweil om varför det inte längre är fallet.

Forskarna har hittills trott att Moores lag sätter en yttersta gräns för kretskrympningen eftersom det inte går att göra chipens isolerande ”väggar” hur tunna som helst. Idag är de strax över fem atomer tjocka och om man gör dem mycket ”tunnare” kan de inte att förhindra elektroner från att hoppa rakt igenom dem. Med dagens teknik skulle kunna öka chipens kapacitet i tio år till, men sedan tar Moores lag slut.

Men då började andra forskare tala om molekylära chips där man manipulerar molekylers elektriska egenskaper i tredimensionella kemiska stukturer.
-Molekylerna är otroligt mycket mindre än vad man kan uppnå med traditionell litografisk teknik. Detta gör att vi nu kan säga, att det inte bara är möjligt, utan troligt att Moores lag fortsätter i 30 år till, vilket betyder att datorerna kommer att bli en miljon gånger mer kraftfulla än idag, sa Bill Joy och tilllade att man uppnått minst lika stora förbättringar av datorernas kapacitet genom smartare algoritmer som från själva chipen. Sammantaget står vi därför inför en ökning av datorkraften med en biljon (miljon miljoner.)

Detta kan leda till nya vetenskapliga revolutioner, inte minst inom bioteknik, nanoteknik och robotiken (GNR,) som både har en enorm potential och är svåra att kontrollera.

Så långt är Kurzweil och Joy på samma spår, men när det gäller framtiden börjar Bill bli rädd för att det som såg ut som en science-fiction-artad mardröm blivit en distinkt möjlighet.

För om vem som helst kan snickra ihop ett nytt dödligt biologiskt virus hemma i källaren; om är relativt lätt att med flit (eller av en olyckshändelse) släppa ut självförökande nanomaskiner i naturen vilka kan förstöra biosfären; om vi förlorar makten över nya superintelligenta – och självförökande - robotar ... hur går det då för oss människor?

GNR erbjuder enligt Bill Joy enastående möjligheter att skapa välstånd och lösa många av mänsklighetens problem - genom att öka produktiviteten, bota sjukdomar och förlänga livslängden - men också helt nya möjligheter till terrorism.
-Det brukade inte räcka med att vara en kille på Filippinerna om man ville skapa kaos. Det brukade vara så att saker som var farliga hade vikt och kunde låsas in, men nu slåss vi mot viktlösheten, sa han på IAS.

Vem som helst kan med andra ord bli Dr. Doom.

Hotet är enligt Joy så stort att vi inte längre bör låta darwinismen styra forskningen, utan måste försöka ta ett medvetet grepp om den.
-Om vi inte är försiktiga och bara tillämpar den totalt fria marknadsmodellen på all denna information, så försummar vi att det finns onda människor i världen och att skalan krymper för folk som vill skapa kaos. Vi kommer t ex att göra det möjligt för en individ att skapa en helt ny varelse. Vi har aldrig tidigare mött en sådan makt, sa Bill Joy.

Forskarna som skapade den första atombomben stod inför en liknande debatt om sitt ansvar och Joys artikel har jämförts med Einsteins varning för atombomben. Han skriver i Wired att det enda ”realistiska” svaret på GNR-hotet är ”relinquishment,” dvs att ”begränsa utvecklingen av teknologier som är för farliga, genom att begränsa vårt sökande av vissa slag av kunskap.”

Reaktionerna på artikeln har växlat mellan förakt och respektfull men principiell kritik, som den från f.d. chefen för Xerox PARC, John Seely Brown och Paul Duguid, en forskare vid Berkeley-universtitetet. De kritiserade honom för att han se tekniken isolerat, som i en tunnel, och att han underskattar de sociala systemen runt tekniken. De kan enligt Seely Brown och Duguid ”skapa, moderera och omdirigera teknologiernas råa styrka.” (The Industry Standard, 13 april.) De tycke också att han är naivt optimistisk om den tekniska utvecklingen, dvs han räknar som barnet när det säger ”1, 2, 3... en miljon.”

När jag träffade Bill Joy i Princeton gick han med på att ge mig en telefonintervju, men när flera försök att arrangera den kapsejsat pga tidsbrist föreslog jag en epostintervju. Sänd mig frågorna, sa hans assistent på Sun och det gjorde jag, men väntade mig inte mer än ett pliktskyldigt kompilat från hans många artiklar gjort av någon assistent. Ett par dagar senare kom dock ett långt ebrev som omisskänligen författats av Bill Joy. Ett par dagar senare kom ett addendum på ännu en sida. Här följer ett utdrag ur ebrev-intervjun.

Vad säger du om reaktionerna på din artikel? Var det något som förvånade dig när det gäller hur Silicon Valley reagerade eller inte reagerade?
-Mängden reaktion har varit enorm och den fortsätter, fast relativt lite har kommit från folk i Silicon Valley, där man verkar vara upptagna med mer kortsiktiga saker.

Vad säger du om John Seely Browns kritik för att du ägnar dig åt "1, 2, 3 ... en miljon?” Han kriserar dig också för att negligera de sociala krafterna och anklagar dig för tunnelvision.
-Jag tror inte att John Seeley Brown har studerat de vetenskapliga detaljerna. Jag har inte hans artikel tillgänglig, men Moores lag verkar kunna fortsätta ge oss mycket mer datorkraft när vi lär oss att arbeta i mycket mindre skala. Hur mycket förväntar han sig under nästa 30 år? Carver Mead, som är pionjär och expert på kisel, räknar med att vi kör in i väggen när vi nått 100 000 gånger. Och det utan molekylär elektronik, som jag tror kommer att ge oss 1 000 000 gångers ökning, vilket bara är tio gånger mer (än Meads uppskattning.) Under alla omständigheter kommer vi, när vi tar med förbättringarna av algoritmerna, kunna räkna med att helt och fullt kunna simulera celler, studera hur biologin fungerar och ny saker som naturen inte uppfunnit, liksom möjligheten av att förverkliga nanoteknikens dröm om att designa material på atomnivå.

-Det är sant att sociala krafter kan hjälpa: Jag argumenterar för att forskare ska ta störe ansvar för att MINSKA risken. Men om Seely Brown FÖRNEKAR risken på grund av sociala krafter, så är det en helt annan sak. Risken från biotekniskt missbruk är klar. De flesta människor håller med om att det finns faror med experiment på ickebiologiska material för skapa articifiellt liv, liksom faror med ”bots” (dvs programrobotar, min anm HS) som man förlorat kontrollen över. De behöver inte vara medvetna eller lika intelligenta som oss för att vara farliga. De skulle t o m kunna söka igenom material för att bygga fler av sig själva (de är inte begränsade till inre, omedvetna mekanismer som dem biologin använder.)

Du säger att vi kanske måste avstå från att söka mer abstrakt kunskap, inklusive kunskap som gör programvara mer tillförlitlig. Räcker det inte med att begränsa vissa tillämpningar?
-Nej, för vissa slag av kunskaper är så farliga, att vi måste göra en del svåra val. Det verkar t ex möjligt att bygga nanorobotar som skulle kunna förstöra biosfären. Bör vi publicera den designen på Internet? Ska vi forska på ett sätt så att varenda student kan göra detta om de vill? Eller ska vi begränsa denna forskning tills vi finner den visdom vi behöver för att kontrollera en sådan makt. Jag lägger min röst för att undersöka om vi kanske kan kontrollera oss själva, skriver snillet som flydde Silicon Valleys kaos till förmån för Kolorados höga berg, djupa skogar och klara luft.

Hans Sandberg