Francis Fukuyama: Biotekniken hotar det mänskliga

(Dagens Forskning, april 2002).

Han har kallats en statsvetenskapens Björn Borg, men kanske ligger Cecil B. DeMille närmare till hands, med tanke på Francis Fukuyamas förkärlek för svepande filosofiska verk som The End Of History and the Last Man. Hans nya bok – Our Posthuman Future - knyter an till den första, men har en pessimistisk underton. Biotekniken hotar vår mänsklighet och måste regleras, varnar han.

PRINCETON (DF) Genombrottsboken byggde på den essä om ”historiens slut” som 1989 förvandlade analytikern i president George H.W. Bush:s utrikesdepartement till en internationell celebritet. Här var en ung spoling som sa att kommunismens fall inte bara var en seger för den liberala demokratin, utan slutet på historien i hegeliansk-marxistisk mening. Detta eftersom det inte längre fanns något ideologiskt alternativ till kapitalismen och demokratin.

Spolingen är idag en stadgad trebarnsfar, professor i internationell politisk ekonomi vid Johns Hopkins University och medlem i president George W. Bush:s nyinrättade Council on Bioethics.

-Boken är en direkt fortsättning på The End of History. Det började med att jag ombads att skriva en retrospektiv essä tio år efter den första artikeln. Den enda kritik jag inte kunnat besvara gällde den om historien kunde ta slut utan att vetenskapen också gjorde det, säger han.

Vetenskapen och tekniken var motorn i Fukuyamas historiemodell och så länge de tuffade på gick det inte att garantera att den liberala demokratin skulle besparas framtida utmaningar som skulle kunna dra igång den historiska processen igen.

Under 90-talets långa IT-ledda boom var det som om teknologin inte hade någon skugga och mycket av debatten handlade om datorer och Internet till alla. Men föreningen av informations- och biotekniken skulle radikalt förbättra förutsättningarna för den biotekniska forskningen och utvecklingen. Fukuyama fann denna utveckling lika lovande som skrämmande. Det var en teknik med enorma löften, men också en teknik som hotade att rycka undan grunden för det moderna demokratiska samhället. Han grep i likhet med andra kritiker tillbaks på Aldus Huxleys ”Du sköna nya värld” där vetenskapen eliminerat inte bara smärtan, utan också meningen med livet.

Fukuyama talar lågmält och avmätt, ibland en smula trevande, om sin nya bok som började säljas 10 april i USA, men redan föregåtts av publicerade utdrag och intervjuer, bland annat i New York Times.

Vad har vi att frukta från biotekniken?

-Den frågan kräver ett komplicerat svar. De som försvarar och främjar den nya tekniken säger att vi inte behöver oroa oss för eugenik (genetisk ”hygien”) eftersom de tidigare versionerna drevs i statlig regi. Det var staten och tvånget som var problemet, medan den nya eugeniken drivs av individer och individuella föräldrar. Så länge det är fallet har vi inget frukta säger man, men jag ser tre slags problem med detta argument.

-Det första är det ekonomer kallar negativa externa effekter. Det finns en rad fall där individuellt rationella beslut är dåliga eller inte fungerar på ett samhälleligt plan eftersom en tredje part drabbas. Det som händer i Asien när det gäller valet av kön på ens barn är ett uppenbart exempel på detta. Det är logiskt för enskilda föräldrar att vilja ha en pojke varför vi nu har ett 20-procentigt överskott på unga pojkar i Kina och Korea. Men det undergräver också samhällets stabilitet.

-Det andra är att folk drömmer om att göra om eller förbättra oss som människor och jag är inte övertygad om att man verkligen förstår vad det betyder. Många vill ha mer intelligens eller ett bättre fysiskt utseende, men den mänskliga naturen är mycket komplicerad och försök att förbättra den kan få komplicerade och inbland negativa resultat. Ett bra exempel är en medicinsk procedur som garanterar att vi inte får ett homosexuellt barn. Många föräldrar kommer att göra detta även om de i övrigt är toleranta mot homosexuella. De vill kanske ha barnbarn helt enkelt, men jag tror inte att man förbättrar den mänskliga rasen genom att eliminera homosexuella från befolkningen, säger Fukuyama.

-Slutligen har vi frågan om den mänskliga naturen och det är kärnan i min bok. De mänskliga rättigheterna och hela den moderna liberala demokratin hänger på existensen av en gemensam mänsklig natur. Om vi börjar leka med människans essens underminerar vi grundvalen för dessa rättigheter. Jag tror att Nietzsche blir en bättre guide för vad som då kan komma än John Stuart Mill. Om du skapar en värld med genetiskt skilda klasser av individer undergräver du grundvalen för den universiella jämlikheten, säger Fukuyama, som varnar för en bioteknik kallad ”germ-line engineering.” Dess ”löfte” är att manipulera inte bara arvsanlagen hos vår avkomma, utan också nedärvda egenskaper hos våra avkommors avkommor.

-Det är bara ett århundrade sedan teorierna om en ”vetenskaplig rasism” dök upp och svarta, kvinnor och andra minoriteter uteslöts från den politiska makten med argument om att de var genetiskt olika, säger han och fortsätter:

-Vi har idag mycket mer kraftfulla verktyg. Det är svårt att säga vad som kommer att hända när vi har fått bättre kognitiv neurologi, bättre biologiska förståelse för hur folk beter sig och mycket större möjligheter att kontrollera deras beteende med sofistikerade neurologiska läkemedel (som Prosac och Zoloft, min anm HS.) Det är något man inte hade på 1900-talet, säger han.

Det finns paralleller mellan Fukuyamas skepsis mot biotekniken och IT-snillet Bill Joys varning häromåret för forskningen inom bioteknik, nanoteknik och robotik (se Wired, april 2000 och min intervju i Dagens IT, 7 dec 2000).

-Jag var aldrig särskilt imponerad av Joys argument. En del av det han pratar om, som nanoteknik och artificiell intelligens, är inte alls så välutvecklade som han säger. Det rör sig också om hot som är uppenbara och fysiska; nanorobotar som förökar sig oupphörligt och käkar upp hela Chicago. De förefaller hanterbara, eftersom de är uppenbart farliga och folk kommer att motverka dem. Problemet med biotekniken är mycket mer subtilt. Den kommer tillsammans med en massa goda saker, varför det blir svårare byga ett konsensus om att vi måste vara försiktiga. Jag säger inte att vi ska låta bli att använda den, men vi måste vara väldigt försiktiga och reglera den, fortsätter han.

En slutsats som när allt kommer omkring ligger ganska nära Bill Joys:

-Om vi inte är försiktiga och bara tillämpar den totalt fria marknadsmodellen på all denna information, försummar vi att det finns onda människor i världen och att skalan krymper för folk som vill skapa kaos. Vi kommer t ex att göra det möjligt för en individ att skapa en helt ny varelse. Vi har aldrig tidigare mött en sådan makt, sa Bill Joy för två år sedan (Dagens IT, 7 dec 2000.)

Fukuyama delar i sin bok in den moderna tekniken i tre kategorier: Kärnvapnen och kärnenergin reglerades redan från början på grund av sin massiva förstörelsekraft, medan persondatorer och internet krävde relativt lite regleringar. Biotekniken hamnar någonstans mellan dessa extremer och det är enligt honom hög tid att fundera på att bygga ett regelverk och nya institutioner.

-Det kommer att bli mycket svårt för enstaka länder att kontrollera vad som sker i en globaliserad världsekonomi, men det betyder inte att vi ska låta bli att försöka.

-Jag tror att det kommer att leda till mycket stora politiska sprickor i framtiden. Kina antog 1995 en lag om eugenik som är mycket snarlik de lagar man hade i USA och i Europa i början av 20:e seklet. De talar om behovet av att hindra personer med låg intelligens från att föröka sig. Och om vi bortser från sker som mord på flickebarn och aborter, så har vi kvar att att de tar organ från politiska fångar och människor som avrättats. Kina har mycket lägre respekt för människolivet och mänskliga rättigheter än i väst, men jag hör trots det inte många som säger att vi ska göra som dem inom bioteknik, eller imitera dem när de tar organ från fångar.

-Vi behöver en kombination av moraliska normer, förbud för vissa saker och formella regler. Det kommer inte att fungera överallt, men de måste inte praktiseras överallt för att vara meningsfulla. Vi lagstiftar mot mord och barnamord även om det finns ställen dit rättvisan inte når.

Självreglering fungerar enligt Fukuyama inte när det gäller bioteknikbranschen, ”eftersom det finns för många kommersiella intressen som jagar alltför mycket pengar... ” Enbart den amerikanska bioteknikbranschen sysselsatte år 2000 över 150.000 och satsade samma år minst 110 miljarder kr på forskning och utveckling.

-Den amerikanska bioteknikbranschen är väldigt libertariansk och vill helst inte veta av några begränsningar av sin verksamhet. Den farmaceutiska industrin har varit med ett tag och är mer öppen för sådant. När jag pratar med folk i branschen säger jag att de bör skynda långsamt i sitt eget intresse. Det sista de skulle behöva är den moraliska stigma som följer av en stor katastrof från ett experiment som gått riktigt snett; från något som verkligen skadar folk på ett uppenbart sätt. Då kommer vi att få massvis med regleringar! Tyvärr har det ofta varit så att regleringarna följt på någon stor skandal eller olycka.

Vad göra?

-I USA är saken ganska enkel. Vi behöver en ny uppsättning institutioner som förmår injicera vissa etiska övervägningar i ett regelverk, som låter oss styra FoU-pengar till saker som helt klart handlar om att bota, medan vi avstyr eller bromsar projekt som medvetet syftar till att göra om eller förbättra människan som varelse. Det är det grundläggande valet.

Vad händer med denna diskussion om bioteknikens drömmar inte slår in, om den inte fungerar som man tänkt sig?

-Jag påstår inte att jag vet vart forskningen ska ta vägen, men det är uppenbart att hela området står inför en rad stora förändringar och troligen mer än på andra vetenskapliga områden. Det finns vetenskapsmän som säger att den humangenetiska ingenjörskonsten (i motsats till växtgenetik, min anm HS) kommer att misslyckas därför att de genetiska orsakssammanhangen är så komplexa till sin natur att vi aldrig kommer att kunna förstå dem. Det är möjligt och jag befinner mig inte i en position där jag kan säga att de har fel, men konsekvenserna är så allvarliga att det är värt att fundera en smula på saken i förväg. Det finns dessutom en hel rad olika teknologier och det är svårt att föreställa sig att ingen ska fungera, säger Fukuyama.

Hans Sandberg

IT-gurun Bill Joy är livrädd för framtiden (2000)

(Denna intervju från november 2000 publicerades i Dagens IT 7 dec 2000 och danska Ingenioren och finska Tietoviikko.) 

 Bill Joy oroar sig för nanotekniken.

46-åringen Bill Joy är ett av IT-branschens främsta namn och kallas ibland ”Internets Thomas Edison,” men har på sistone drabbats av en djup teknikångest. Tekniken hotar mänsklighetens överlevnad varnade han en starkt personlig essä i Wired Magazines aprilnummer. Han öppnade artikeln med ett långt citat av ”Unabombaren” Theodore Kaczynski och höll med honom i hans varning för teknikens komplexitet.

I Silicon Valley, Boston och New York skakade man på huvudet åt denna omvändelse från en man som till vardags är vetenskaplig chef för Sun Microsystems, som han var med om att grunda. Han ser ut som en 30-årig världsförbättrare på marsch i Seattle eller Prag, men han är en av männen bakom operativsystemet Unix, liksom Java och Jini. Härom satt han ordförande i Bill Clintons IT-råd (PITAC, the President's Information Technology Advisory Committee.)

Bill Joy är van att stå i centrum, men njuter knappast av det. Jag har intervjuat honom per telefon ett par gånger och vi har brevväxlat några gånger per epost. Hans ebrev är för det mesta nordiskt korta och utan versaler, som om den yttre formen inte spelar så stor roll. Jag fick nyligen en chans att prata med honom en stund under ett besök i Princeton, dit han bjudits in av av Institute of Advanced Studies (IAS.) När jag höjer kameran för att ta ett porträtt för han skyggt ena handen mot hakan.

I Wired-artikeln skisserar han en bild av sig själv som en ovanligt begåvad pojke som växte upp under enkla förhållanden i Illinois. Han kunde läsa redan i treårsåldern, men växte upp till att bli något av en enstöring med få nära vänner. ”Mitt liv har präglats av ett djupt behov av att ställa frågor och finna svar.” Som tonåring fascinerades han av teknik och vetenskap. Han sysslade med amatörradio, läste science fiction och utvecklade den matematiska begåvning som skulle föra honom till Michiganuniversitetet. Det var där han upptäckte datorn, som för honom bleve en nästan magisk bekantskap. ”Datorn hade en klar uppfattning och rätt och fel, sant och falskt. Var mina idéer korrekta? Maskinen kunde ge svaret. Det var en väldigt förförande tanke,” skriver han.

Bill Joy sa till snillena på IAS att det var en ”egendomlig sekvens av händelser” som ledde fram till artikeln i Wired. Han gav några hållpunkter som gick tillbaks till hans forskarstudier i Kalifornien (vilka aldrig ledde till någon doktorsexamen) och hoppade sedan fram till nuet via Carver Meads insikter om storskalig integration av halvledande kretsar (VLSI) och Moores lag, som föruspådde att datorkraften skulle fördubblas vartannat år (prognosen modifierades senare till var 18:e månad.) Slutligen var det mötet med dataforskaren och entreprenören Raymond Kurzweil under en konferens anordnad av teknikgurun George Gilder. Mötet med Kurzweil och läsningen av hans bok ”The Age of Spiritual Machines” gav Bill Joy ett nytt perspektiv på världen och släppte loss den kritiker och moralist som nog alltid funnits där.

Många av de faror som Bill Joy idag varnar för, har länge figurerat i science-fiction litteraturen. De har hittills ansetts omöjliga, men håller nu snabbt på att bli möjliga.
-Tills för ungefär ett år sedan trodde folk att kretsutvecklingen skulle köra in i en tegelvägg runt 2010, sa han på IAS och målade upp ett scenario han lånat från Kurzweil om varför det inte längre är fallet.

Forskarna har hittills trott att Moores lag sätter en yttersta gräns för kretskrympningen eftersom det inte går att göra chipens isolerande ”väggar” hur tunna som helst. Idag är de strax över fem atomer tjocka och om man gör dem mycket ”tunnare” kan de inte att förhindra elektroner från att hoppa rakt igenom dem. Med dagens teknik skulle kunna öka chipens kapacitet i tio år till, men sedan tar Moores lag slut.

Men då började andra forskare tala om molekylära chips där man manipulerar molekylers elektriska egenskaper i tredimensionella kemiska stukturer.
-Molekylerna är otroligt mycket mindre än vad man kan uppnå med traditionell litografisk teknik. Detta gör att vi nu kan säga, att det inte bara är möjligt, utan troligt att Moores lag fortsätter i 30 år till, vilket betyder att datorerna kommer att bli en miljon gånger mer kraftfulla än idag, sa Bill Joy och tilllade att man uppnått minst lika stora förbättringar av datorernas kapacitet genom smartare algoritmer som från själva chipen. Sammantaget står vi därför inför en ökning av datorkraften med en biljon (miljon miljoner.)

Detta kan leda till nya vetenskapliga revolutioner, inte minst inom bioteknik, nanoteknik och robotiken (GNR,) som både har en enorm potential och är svåra att kontrollera.

Så långt är Kurzweil och Joy på samma spår, men när det gäller framtiden börjar Bill bli rädd för att det som såg ut som en science-fiction-artad mardröm blivit en distinkt möjlighet.

För om vem som helst kan snickra ihop ett nytt dödligt biologiskt virus hemma i källaren; om är relativt lätt att med flit (eller av en olyckshändelse) släppa ut självförökande nanomaskiner i naturen vilka kan förstöra biosfären; om vi förlorar makten över nya superintelligenta – och självförökande - robotar ... hur går det då för oss människor?

GNR erbjuder enligt Bill Joy enastående möjligheter att skapa välstånd och lösa många av mänsklighetens problem - genom att öka produktiviteten, bota sjukdomar och förlänga livslängden - men också helt nya möjligheter till terrorism.
-Det brukade inte räcka med att vara en kille på Filippinerna om man ville skapa kaos. Det brukade vara så att saker som var farliga hade vikt och kunde låsas in, men nu slåss vi mot viktlösheten, sa han på IAS.

Vem som helst kan med andra ord bli Dr. Doom.

Hotet är enligt Joy så stort att vi inte längre bör låta darwinismen styra forskningen, utan måste försöka ta ett medvetet grepp om den.
-Om vi inte är försiktiga och bara tillämpar den totalt fria marknadsmodellen på all denna information, så försummar vi att det finns onda människor i världen och att skalan krymper för folk som vill skapa kaos. Vi kommer t ex att göra det möjligt för en individ att skapa en helt ny varelse. Vi har aldrig tidigare mött en sådan makt, sa Bill Joy.

Forskarna som skapade den första atombomben stod inför en liknande debatt om sitt ansvar och Joys artikel har jämförts med Einsteins varning för atombomben. Han skriver i Wired att det enda ”realistiska” svaret på GNR-hotet är ”relinquishment,” dvs att ”begränsa utvecklingen av teknologier som är för farliga, genom att begränsa vårt sökande av vissa slag av kunskap.”

Reaktionerna på artikeln har växlat mellan förakt och respektfull men principiell kritik, som den från f.d. chefen för Xerox PARC, John Seely Brown och Paul Duguid, en forskare vid Berkeley-universtitetet. De kritiserade honom för att han se tekniken isolerat, som i en tunnel, och att han underskattar de sociala systemen runt tekniken. De kan enligt Seely Brown och Duguid ”skapa, moderera och omdirigera teknologiernas råa styrka.” (The Industry Standard, 13 april.) De tycke också att han är naivt optimistisk om den tekniska utvecklingen, dvs han räknar som barnet när det säger ”1, 2, 3... en miljon.”

När jag träffade Bill Joy i Princeton gick han med på att ge mig en telefonintervju, men när flera försök att arrangera den kapsejsat pga tidsbrist föreslog jag en epostintervju. Sänd mig frågorna, sa hans assistent på Sun och det gjorde jag, men väntade mig inte mer än ett pliktskyldigt kompilat från hans många artiklar gjort av någon assistent. Ett par dagar senare kom dock ett långt ebrev som omisskänligen författats av Bill Joy. Ett par dagar senare kom ett addendum på ännu en sida. Här följer ett utdrag ur ebrev-intervjun.

Vad säger du om reaktionerna på din artikel? Var det något som förvånade dig när det gäller hur Silicon Valley reagerade eller inte reagerade?
-Mängden reaktion har varit enorm och den fortsätter, fast relativt lite har kommit från folk i Silicon Valley, där man verkar vara upptagna med mer kortsiktiga saker.

Vad säger du om John Seely Browns kritik för att du ägnar dig åt "1, 2, 3 ... en miljon?” Han kriserar dig också för att negligera de sociala krafterna och anklagar dig för tunnelvision.
-Jag tror inte att John Seeley Brown har studerat de vetenskapliga detaljerna. Jag har inte hans artikel tillgänglig, men Moores lag verkar kunna fortsätta ge oss mycket mer datorkraft när vi lär oss att arbeta i mycket mindre skala. Hur mycket förväntar han sig under nästa 30 år? Carver Mead, som är pionjär och expert på kisel, räknar med att vi kör in i väggen när vi nått 100 000 gånger. Och det utan molekylär elektronik, som jag tror kommer att ge oss 1 000 000 gångers ökning, vilket bara är tio gånger mer (än Meads uppskattning.) Under alla omständigheter kommer vi, när vi tar med förbättringarna av algoritmerna, kunna räkna med att helt och fullt kunna simulera celler, studera hur biologin fungerar och ny saker som naturen inte uppfunnit, liksom möjligheten av att förverkliga nanoteknikens dröm om att designa material på atomnivå.

-Det är sant att sociala krafter kan hjälpa: Jag argumenterar för att forskare ska ta störe ansvar för att MINSKA risken. Men om Seely Brown FÖRNEKAR risken på grund av sociala krafter, så är det en helt annan sak. Risken från biotekniskt missbruk är klar. De flesta människor håller med om att det finns faror med experiment på ickebiologiska material för skapa articifiellt liv, liksom faror med ”bots” (dvs programrobotar, min anm HS) som man förlorat kontrollen över. De behöver inte vara medvetna eller lika intelligenta som oss för att vara farliga. De skulle t o m kunna söka igenom material för att bygga fler av sig själva (de är inte begränsade till inre, omedvetna mekanismer som dem biologin använder.)

Du säger att vi kanske måste avstå från att söka mer abstrakt kunskap, inklusive kunskap som gör programvara mer tillförlitlig. Räcker det inte med att begränsa vissa tillämpningar?
-Nej, för vissa slag av kunskaper är så farliga, att vi måste göra en del svåra val. Det verkar t ex möjligt att bygga nanorobotar som skulle kunna förstöra biosfären. Bör vi publicera den designen på Internet? Ska vi forska på ett sätt så att varenda student kan göra detta om de vill? Eller ska vi begränsa denna forskning tills vi finner den visdom vi behöver för att kontrollera en sådan makt. Jag lägger min röst för att undersöka om vi kanske kan kontrollera oss själva, skriver snillet som flydde Silicon Valleys kaos till förmån för Kolorados höga berg, djupa skogar och klara luft.

Hans Sandberg