IT-gurun Bill Joy är livrädd för framtiden (2000)

(Denna intervju från november 2000 publicerades i Dagens IT 7 dec 2000 och danska Ingenioren och finska Tietoviikko.) 

 Bill Joy oroar sig för nanotekniken.

46-åringen Bill Joy är ett av IT-branschens främsta namn och kallas ibland ”Internets Thomas Edison,” men har på sistone drabbats av en djup teknikångest. Tekniken hotar mänsklighetens överlevnad varnade han en starkt personlig essä i Wired Magazines aprilnummer. Han öppnade artikeln med ett långt citat av ”Unabombaren” Theodore Kaczynski och höll med honom i hans varning för teknikens komplexitet.

I Silicon Valley, Boston och New York skakade man på huvudet åt denna omvändelse från en man som till vardags är vetenskaplig chef för Sun Microsystems, som han var med om att grunda. Han ser ut som en 30-årig världsförbättrare på marsch i Seattle eller Prag, men han är en av männen bakom operativsystemet Unix, liksom Java och Jini. Härom satt han ordförande i Bill Clintons IT-råd (PITAC, the President's Information Technology Advisory Committee.)

Bill Joy är van att stå i centrum, men njuter knappast av det. Jag har intervjuat honom per telefon ett par gånger och vi har brevväxlat några gånger per epost. Hans ebrev är för det mesta nordiskt korta och utan versaler, som om den yttre formen inte spelar så stor roll. Jag fick nyligen en chans att prata med honom en stund under ett besök i Princeton, dit han bjudits in av av Institute of Advanced Studies (IAS.) När jag höjer kameran för att ta ett porträtt för han skyggt ena handen mot hakan.

I Wired-artikeln skisserar han en bild av sig själv som en ovanligt begåvad pojke som växte upp under enkla förhållanden i Illinois. Han kunde läsa redan i treårsåldern, men växte upp till att bli något av en enstöring med få nära vänner. ”Mitt liv har präglats av ett djupt behov av att ställa frågor och finna svar.” Som tonåring fascinerades han av teknik och vetenskap. Han sysslade med amatörradio, läste science fiction och utvecklade den matematiska begåvning som skulle föra honom till Michiganuniversitetet. Det var där han upptäckte datorn, som för honom bleve en nästan magisk bekantskap. ”Datorn hade en klar uppfattning och rätt och fel, sant och falskt. Var mina idéer korrekta? Maskinen kunde ge svaret. Det var en väldigt förförande tanke,” skriver han.

Bill Joy sa till snillena på IAS att det var en ”egendomlig sekvens av händelser” som ledde fram till artikeln i Wired. Han gav några hållpunkter som gick tillbaks till hans forskarstudier i Kalifornien (vilka aldrig ledde till någon doktorsexamen) och hoppade sedan fram till nuet via Carver Meads insikter om storskalig integration av halvledande kretsar (VLSI) och Moores lag, som föruspådde att datorkraften skulle fördubblas vartannat år (prognosen modifierades senare till var 18:e månad.) Slutligen var det mötet med dataforskaren och entreprenören Raymond Kurzweil under en konferens anordnad av teknikgurun George Gilder. Mötet med Kurzweil och läsningen av hans bok ”The Age of Spiritual Machines” gav Bill Joy ett nytt perspektiv på världen och släppte loss den kritiker och moralist som nog alltid funnits där.

Många av de faror som Bill Joy idag varnar för, har länge figurerat i science-fiction litteraturen. De har hittills ansetts omöjliga, men håller nu snabbt på att bli möjliga.
-Tills för ungefär ett år sedan trodde folk att kretsutvecklingen skulle köra in i en tegelvägg runt 2010, sa han på IAS och målade upp ett scenario han lånat från Kurzweil om varför det inte längre är fallet.

Forskarna har hittills trott att Moores lag sätter en yttersta gräns för kretskrympningen eftersom det inte går att göra chipens isolerande ”väggar” hur tunna som helst. Idag är de strax över fem atomer tjocka och om man gör dem mycket ”tunnare” kan de inte att förhindra elektroner från att hoppa rakt igenom dem. Med dagens teknik skulle kunna öka chipens kapacitet i tio år till, men sedan tar Moores lag slut.

Men då började andra forskare tala om molekylära chips där man manipulerar molekylers elektriska egenskaper i tredimensionella kemiska stukturer.
-Molekylerna är otroligt mycket mindre än vad man kan uppnå med traditionell litografisk teknik. Detta gör att vi nu kan säga, att det inte bara är möjligt, utan troligt att Moores lag fortsätter i 30 år till, vilket betyder att datorerna kommer att bli en miljon gånger mer kraftfulla än idag, sa Bill Joy och tilllade att man uppnått minst lika stora förbättringar av datorernas kapacitet genom smartare algoritmer som från själva chipen. Sammantaget står vi därför inför en ökning av datorkraften med en biljon (miljon miljoner.)

Detta kan leda till nya vetenskapliga revolutioner, inte minst inom bioteknik, nanoteknik och robotiken (GNR,) som både har en enorm potential och är svåra att kontrollera.

Så långt är Kurzweil och Joy på samma spår, men när det gäller framtiden börjar Bill bli rädd för att det som såg ut som en science-fiction-artad mardröm blivit en distinkt möjlighet.

För om vem som helst kan snickra ihop ett nytt dödligt biologiskt virus hemma i källaren; om är relativt lätt att med flit (eller av en olyckshändelse) släppa ut självförökande nanomaskiner i naturen vilka kan förstöra biosfären; om vi förlorar makten över nya superintelligenta – och självförökande - robotar ... hur går det då för oss människor?

GNR erbjuder enligt Bill Joy enastående möjligheter att skapa välstånd och lösa många av mänsklighetens problem - genom att öka produktiviteten, bota sjukdomar och förlänga livslängden - men också helt nya möjligheter till terrorism.
-Det brukade inte räcka med att vara en kille på Filippinerna om man ville skapa kaos. Det brukade vara så att saker som var farliga hade vikt och kunde låsas in, men nu slåss vi mot viktlösheten, sa han på IAS.

Vem som helst kan med andra ord bli Dr. Doom.

Hotet är enligt Joy så stort att vi inte längre bör låta darwinismen styra forskningen, utan måste försöka ta ett medvetet grepp om den.
-Om vi inte är försiktiga och bara tillämpar den totalt fria marknadsmodellen på all denna information, så försummar vi att det finns onda människor i världen och att skalan krymper för folk som vill skapa kaos. Vi kommer t ex att göra det möjligt för en individ att skapa en helt ny varelse. Vi har aldrig tidigare mött en sådan makt, sa Bill Joy.

Forskarna som skapade den första atombomben stod inför en liknande debatt om sitt ansvar och Joys artikel har jämförts med Einsteins varning för atombomben. Han skriver i Wired att det enda ”realistiska” svaret på GNR-hotet är ”relinquishment,” dvs att ”begränsa utvecklingen av teknologier som är för farliga, genom att begränsa vårt sökande av vissa slag av kunskap.”

Reaktionerna på artikeln har växlat mellan förakt och respektfull men principiell kritik, som den från f.d. chefen för Xerox PARC, John Seely Brown och Paul Duguid, en forskare vid Berkeley-universtitetet. De kritiserade honom för att han se tekniken isolerat, som i en tunnel, och att han underskattar de sociala systemen runt tekniken. De kan enligt Seely Brown och Duguid ”skapa, moderera och omdirigera teknologiernas råa styrka.” (The Industry Standard, 13 april.) De tycke också att han är naivt optimistisk om den tekniska utvecklingen, dvs han räknar som barnet när det säger ”1, 2, 3... en miljon.”

När jag träffade Bill Joy i Princeton gick han med på att ge mig en telefonintervju, men när flera försök att arrangera den kapsejsat pga tidsbrist föreslog jag en epostintervju. Sänd mig frågorna, sa hans assistent på Sun och det gjorde jag, men väntade mig inte mer än ett pliktskyldigt kompilat från hans många artiklar gjort av någon assistent. Ett par dagar senare kom dock ett långt ebrev som omisskänligen författats av Bill Joy. Ett par dagar senare kom ett addendum på ännu en sida. Här följer ett utdrag ur ebrev-intervjun.

Vad säger du om reaktionerna på din artikel? Var det något som förvånade dig när det gäller hur Silicon Valley reagerade eller inte reagerade?
-Mängden reaktion har varit enorm och den fortsätter, fast relativt lite har kommit från folk i Silicon Valley, där man verkar vara upptagna med mer kortsiktiga saker.

Vad säger du om John Seely Browns kritik för att du ägnar dig åt "1, 2, 3 ... en miljon?” Han kriserar dig också för att negligera de sociala krafterna och anklagar dig för tunnelvision.
-Jag tror inte att John Seeley Brown har studerat de vetenskapliga detaljerna. Jag har inte hans artikel tillgänglig, men Moores lag verkar kunna fortsätta ge oss mycket mer datorkraft när vi lär oss att arbeta i mycket mindre skala. Hur mycket förväntar han sig under nästa 30 år? Carver Mead, som är pionjär och expert på kisel, räknar med att vi kör in i väggen när vi nått 100 000 gånger. Och det utan molekylär elektronik, som jag tror kommer att ge oss 1 000 000 gångers ökning, vilket bara är tio gånger mer (än Meads uppskattning.) Under alla omständigheter kommer vi, när vi tar med förbättringarna av algoritmerna, kunna räkna med att helt och fullt kunna simulera celler, studera hur biologin fungerar och ny saker som naturen inte uppfunnit, liksom möjligheten av att förverkliga nanoteknikens dröm om att designa material på atomnivå.

-Det är sant att sociala krafter kan hjälpa: Jag argumenterar för att forskare ska ta störe ansvar för att MINSKA risken. Men om Seely Brown FÖRNEKAR risken på grund av sociala krafter, så är det en helt annan sak. Risken från biotekniskt missbruk är klar. De flesta människor håller med om att det finns faror med experiment på ickebiologiska material för skapa articifiellt liv, liksom faror med ”bots” (dvs programrobotar, min anm HS) som man förlorat kontrollen över. De behöver inte vara medvetna eller lika intelligenta som oss för att vara farliga. De skulle t o m kunna söka igenom material för att bygga fler av sig själva (de är inte begränsade till inre, omedvetna mekanismer som dem biologin använder.)

Du säger att vi kanske måste avstå från att söka mer abstrakt kunskap, inklusive kunskap som gör programvara mer tillförlitlig. Räcker det inte med att begränsa vissa tillämpningar?
-Nej, för vissa slag av kunskaper är så farliga, att vi måste göra en del svåra val. Det verkar t ex möjligt att bygga nanorobotar som skulle kunna förstöra biosfären. Bör vi publicera den designen på Internet? Ska vi forska på ett sätt så att varenda student kan göra detta om de vill? Eller ska vi begränsa denna forskning tills vi finner den visdom vi behöver för att kontrollera en sådan makt. Jag lägger min röst för att undersöka om vi kanske kan kontrollera oss själva, skriver snillet som flydde Silicon Valleys kaos till förmån för Kolorados höga berg, djupa skogar och klara luft.

Hans Sandberg

Groove: Ny plattform för webbmöten

(Publicerad i Dagens IT och danska dagstidningen Politiken).

Ray Ozzie, mannen bakom Lotus Notes lanserade 24 oktober Groove Networks, som i likhet med Napster erbjuder oss ett nytt sätt samarbeta och dela på resurser via Internet. Groove använder s k ”peer-to-peer”-teknik (P2P) för att skapa virtuella mötesplatser dit vi kan bjuda in kollegor och vänner för att prata, chatta, ta del av dokument och multimedia.

”Groove har en väldigt stor potential med tanke på alla feta klienter (dvs Windows-baserade persondatorer, min anm HS) och behovet av en rikare miljö för samarbete,” säger Dana Gardner, analytiker vid Aberdeen Group i Boston.

När man gratis laddat ner och installerat klientprogrammet är det bara att invitera kollegor och vänner till den gemensamma sfär man skapar med Grooves hjälp. Poängen med Groove är att man direkt kan länka sin dator till andra datorer via Internet.

Det handlar inte bara om att läsa hemsidor och läsa epost, utan påminner mer om chattande där man har en gemensam yta som flera användare delar. Ray Ozzie sa i en intervju för Newsweek att han fick idén till Groove när han såg sin då 15-årige son spela Quake online samtidigt som han chattade med en medspelare som befanns sig någon helt annan stans. Med Groove kan vi studera dokument som ligger i en gemensam sfär, samtidigt som vi håller telefon- och videokonferenser om dem.

Programmet ser ut som ett kalenderprogram liknande dem många webbsajter erbjuder, men Groove låter, till skillnad från sådana server-baserade lösningar, både programmet och dina data sitta kvar på din lokala PC. Användaren behåller kontrollen över sina program och data, vilket är en grundtanke med peer-to-peer.

Under den synliga delen av klientprogrammet ligger ett antal nättjänster, dvs program som sköter datasäkerheten (med hjälp av kraftfull kryptering.) Där finns också XML-baserade tjänster som hanterar lagring, uppdatering och kommunikationerna med andra klienter.

Groove är tänkt som en plattform där grupper av människor ska kunna mötas och använda alla möjliga slags tilläggsprogram, från jobbrelaterade program till spel och underhållning. Det är lätt att addera nya funktioner utöver de som finns med i klientprogrammet och det är fritt fram för programföretag att distribuera nya applikationer till användarna med hjälp av de Grooves utvecklingsverktyg.

Groove påminner även om Lotus Notes vilket inte är så konstigt eftersom Ray Ozzie legat bakom bägge två. Notes var ett av de första ”groupware” programmen och det främsta skälet till att IBM köpte Lotus Development för 3,3 miljarder dollar 1995. Notes hade då 20 miljoner användare, en siffra som idag ökat till 60 miljoner.

Ray Ozzie lämnade IBM/Lotus 1997 för ett hemligt projekt som skulle bli Groove Networks. Det finansierades inledningsvis med pengar från Ozzie och Mitch Kapor, en av grundarna till Lotus. Målet var detsamma som för Notes, dvs en onlinemiljö som främjar grupparbete, men medan det senare var en tung och centraliserad apparat är Groove en smidig applikation som kan sättas ihop kring ett projekt, ett möte, eller någon annan slags sammankomst.

Bill Gates ser enligt företages pressmeddelande Groove som ”en djup och innovativ applikation” och ”ett fint exempel på vart Internet är på väg.” Men det är också en utmaning mot Microsoft, eftersom det är ett programlager ovanpå Windows, vilket kan ta över uppgifter från Microsoft Office, Netmeeting och andra applikationer. Ray Ozzie visade enligt Newsweek (6 nov) för säkerhets programmet för Bill Gates och Steve Ballmer i oktober och de gillade det skarpt, trots ”överlappningen.” På frågan om Bill Gates skulle vilja köpa det svarade han efter en lång tystnad att ”det är en fin Windows-applikation.” Alternativt skulle han förstås kunna bygga in liknande funktioner i framtida versioner av Windows.

Det är knappast troligt att Ozzie vill sälja sitt verk, men den saken beror också på om han förmår bygga en rörelse kring sin uppfinning, något som en del analytiker tvivlar på.
-Det är lite svårt att placera Groove, eftersom det inte riktigt är en plattform och inte riktigt är en applikation, utan något mittemellan. Jag tror därför inte att det kommer att bli nästa Notes, säger Aberdeens Dana Gardner.
-Min fråga är om det går att bygga en lönsam rörelse kring det. Under stordator- och klient-servermodellen byggde vi på relationen mellan applikationerna och plattformen, som med Office och Windows. Det är inte lika lätt att se hur man ska kunna skapa applikationer som man kan ta betalt för med Groove. Det är mycket som måste stämma om det ska fungera, säger han.

Dwight Davis, analytiker för Summit Strategies (tidigare vid nyhetsbrevet Windows Watcher,) reser även han frågetecken kring affärsmodellen.
-Det är ett av de mer lovande exemplen på peer-to-peer för näringslivet, men jag förstår inte riktigt deras affärsmodell. Det är möjligt att de kommer med en premium-klient som man måste betala för, eller att de kommer att försöka ta licensavgifter för extratjänster knutna till plattformen, spekulerar han.

Det som gjorde att Lotus Notes bröt igenom efter en trög start var att ett antal storföretag installerade Notes-nät med 10 000-tals användare, men det är inte helt givet att företag kommer att nappa på Groove. Samma decentraliserade och dynamiska struktur som attraherar mindre grupper av användare, kan verka avskräckande på centraliserade storföretag och deras IT-avdelningar som knappast helhjärtat kommer att vilja släppa sin kontroll.
-Styrkan i programmet är att det ger användarna kontroll, men det är samtidigt inte så säkert att företagen och deras IT-administratörer kommer att gilla tanken på att deras anställda kan skapa nätsessioner med vem som helst. Spontaniteten och möjligheten att skapa en rik interaktion mellan människor är en del av dess attraktion, men det är också ett problem för en centraliserad organisation, säger han.
-Det kan däremot vara lättare att se applikationer utanför företagssektorn. Både porr- och spelsajter skulle kunna dra fördel av de rika multimediainteraktioner Groove gör möjliga, säger han.

Hans Sandberg