Kritik, kritik, kritik

Du är irrationell. Det är jag också. Vi lider alla av en egenhet som man inom den psykologiska litteraturen kallar för ”confirmation bias”. Denna egenhet innebär att vi anser att information som bekräftar våra uppfattningar är mycket mer trovärdig, av just den anledningen. Detta problem var marginellt före Internet. Då fanns det ett par auktoriteter man kunde vända sig till för att få information. Och de som gav en avvikande bild av läget var uppenbart knäppa extremister. På den tiden så visste man inget, eller så trodde man vad som låg inom den vetenskapliga mittfåran. Relativt få trodde uppenbart falska och missvisande teorier

Låt mig vara klar med en sak. Jag älskar Internet. Det är kanske det bästa som har hänt mänskligheten sedan smittkopporna utrotades. Internet berikar mitt liv varje dag. Men Internet gör det möjligt för mig, och för dig, att hitta en ”expert” som berättar saker och ting på exakt det sätt jag vill och du vill att de ska vara. Det innebär att du och jag är övertygade och kan prata och skriva övertygande om det allra mesta. Det här är farligt. Det är farligt därför att en person med fel uppfattning om saker och ting kommer att vara mer irrationell än en person som är agnostiker. Det är de som är felaktigt informerade som vägrar vacciner, frossar i fett för att bota sin diabetes, som tror att kondomer orsakar AIDS, som antingen tror att oljan håller på att ta slut eller tror att växthuseffekten bara är påhitt.

Jag kan inte påstå att jag inte fallit för det här. Jag vet till exempel att Ray Kurzweil är knäpp. Men jag önskar så innerligt att han har rätt. Så för ett tag sedan så hörde jag mig själv berätta för en vän, vad Kurzweil menar, som om det vore en vedertagen sanning. Min vän litar på mig, och har stort förtroende för mig. Jag har spridit desinformation, missbrukat min auktoritet. Bara för att jag ville att det ska vara sant. Det här har säkert hänt dig också. Ett annat exempel på detta är hela klimatdiskussionen. Det kan vara så, som James Hansen påstår, att vi kommer att nå en ”tipping point” i den globala uppvärmningen, där växthuseffekten kommer att accelerera ohämmat. Men han har inte lyckats övertyga en majoritet av forskarsamhället. James Hansen är, precis som Ray Kurzweil, en extremist. Om du tror vad James Hansen säger är du också en extremist. Jag gick på extremisternas desinformation, vilket tidigare blogginlägg i klimatfrågan visar. Nu har jag läst på mer, från mer diversifierade källor. Och min nya uppfattning liknar mer den konsensus som finns. Men det är inte osannolikt att jag har fel, på samma sätt som jag hade fel om klimatet, om andra saker. Det är helt enkelt sjukt svårt att försöka veta saker, med sin intellektuella heder i behåll. Därför har jag upprättat en checklista för mig själv, som jag har med mig när jag läser något på nätet, eller i tidningen också för den delen. Journalister är också människor, och påfallande ofta är de obildade.

Min checklista för att bedöma trovärdighet. Dessa saker ger ökad trovärdighet.

1. Om personen är disputerad akademiker är den personen mer trovärdig, allt annat lika.
2. Om personen är verksam vid ett universitet är den personen mer trovärdig, allt annat lika.
3. Om personen publicerar sig i en tryckt tidning är den personen mer trovärdig, allt annat lika.
4. Om personen publicerat sig i en peer-reviewed journal är den personen mer trovärdig, allt annat lika.
5. Om teorin eller förklaringen som föreslås är mer enkel och gör färre antaganden är den mer trovärdig, allt annat lika.
6. Om informationen är publicerad i en peer-reviewed journal är den informationen mycket mer trovärdig, allt annat lika.
7. Om det finns ett akademiskt konsensus i ett område, så är det så trovärdigt som det kan bli.

Dessa saker ger minskad trovärdighet:

1. Om informationen finns i en kolumn, ledare, blogg eller insändare så är den mindre trovärdig.
2. Personen är ”autodidakt” är den personen mindre trovärdig.
3. Personen menar att ”alla andra har fel” är den personen mindre trovärdig.
4. Personen förespråkar radikala förändringar av politik, livsstil eller trosuppfattningar är den personen mindre trovärdig.

Jag säger nu inte att alla personer som är mindre trovärdiga har fel. Det vore en självmotsägelse, då Politisk filosofi skrivs av en person som enligt denna checklista har låg trovärdighet. Det betyder bara att du bör vara tämligen skeptisk mot det jag säger. Även om det jag säger stämmer överens med vad du anser vara rätt. Särskilt om det jag säger stämmer överens med det du tror vara rätt.

Publicerad onsdag, maj 5th, 2010 i filosofi.

8 kommentarer

  1. Jesper Östman says:

    Karim:
    Viktig fråga, bra skrivet. Kanske för bra skrivet. Framförallt tycker jag att en sådan strävan efter rationalitet är mycket berömvärd. Det här håller jag inte med om: ”Detta problem var marginellt före Internet. ” Konfirmation bias är ett av de mest utbredda problemen i det mänskliga projektet, det drabbade i praktiken alla teorier om världen som formulerats och alla beslut som har fattats, långt innan internet var påtänkt.

    Däremot kan den svagare tesen att konfirmation bias (för vissa, i vissa fall) blivit värre på grund av internet. En sak är tex att de flesta människor inte bryr sig om att ha en expert som backup för att börja tro på en viss teori, de nöjer sig med någon eller några erfarenheter de haft som verkat bekräfta teorin.

    ”Det är farligt därför att en person med fel uppfattning om saker och ting kommer att vara mer irrationell än en person som är agnostiker.”

    Jag är osäker på om den här teorin stämmer. Den verkar (naivt tolkad) mena att det enda rationella är en sorts pyrrhonsk skepticism. Istället tror jag man bör kalla det ‘rationellt’ om en person tillordnar en subjektiv sannolikhet till en uppfattning som motsvaras av graden subjektiv evidens personen har.

    ”Jag vet till exempel att Ray Kurzweil är knäpp. ” I vilket avseende? Menar du att han har delusioner eller att han har någon central uppfattning som inte är välgrundad och som du känner till god evidens emot?

    I övrigt, intressanta och vid första anblicken rimliga principer. De kan nog vara nyttiga. Vidare tror jag var och en av principerna kräver en grundläggande undersökning för att se vad den grundar sig på och hur, var och när den är användbar i praktiken, om du inte har gjort mer arbete kring detta vore det intressant att diskutera det vidare vid något senare tillfälle.

  2. Anders S says:

    Det var förfasen det finaste och ödmjukaste jag hört sedan jag nästan konfirmerades!

  3. Jesper: Jag håller med din första invändning. Det gick lite väl snabbt där. Den svagare tesen, är den jag menade.

    Vad gäller det andra citatet, om att tvivel är på sin plats, bör den också tolkas svagare än att den förespråkar pyrrhonistisk skepsis. Jag menar bara att ideologisk övertygelse och brinnande entusiasm är farligt, och att sådan alltid bör balanseras med en dos skepticism och kritiskt ifrågasättande. Egentligen en ganska trivial tes.

    Att Ray Kurzweil är intelligent ifrågasätter jag inte. Men han är ett bra exempel på hur en person är så övertygad om något att han helt bortser från sunda akademiska principer. Jag tycker att följande recension i Nature uttrycker det hela på ett klockrent sätt: (copypastar, Nature kräver inloggning)

    Books and Arts

    Nature 440, 421-422 (23 March 2006) | doi:10.1038/440421a
    When computers take over

    Paul Davies1
    Top of page
    Abstract

    What if the current exponential increase in information-processing power could continue unabated?
    BOOK REVIEWED – The Singularity is Near: When Humans Transcend Biology

    by Ray Kurzweil

    Viking/Duckworth: 2005. 672 pp. $29.95/�14.99

    I recall reading a statistic from my student days to the effect that if physics journals continued to grow at the same rate, then by the end of the twentieth century, library bookshelves would have to expand at the speed of light to accommodate them. This absurdity is an illustration of what one might call the exponential-growth fallacy. Examples drawn from technology are legion. The Moon landing in 1969 was widely touted as the first small step on an escalator to the stars, with Arthur C. Clarke predicting huge lunar bases and a Jupiter expedition by 2001. The rapid uptake of robotics in the manufacturing industry after the Second World War led to predictions of cyborg servants and android armies within a few decades. In the event, these technologies became stuck or even slid backwards.

    The key point about exponential growth is that it never lasts. The conditions for runaway expansion are always peculiar and temporary (with the possible exception of the expanding Universe). But this sobering fact has not stopped futurologist and author Ray Kurzweil from invoking exponential, and even hyper-exponential, growth in the realm of information processing. There is no doubt that the rise and rise in computing power has dazzled us all. Gordon Moore, co-founder of Intel, famously predicted about 30 years ago that computer processing power would double every 18 months, and so far his prediction has come true. Kurzweil invokes ‘Moore’s law’ as if it were a law of nature, and extrapolates from it into a not-so-distant future in which burgeoning information processing transforms and transcends life as we know it. He refers to his culmination point, at which familiar human culture is obliterated by a tidal wave of unrestrained computation, as the ‘singularity’. The word is loosely analogous to the mathematician’s singularity, at which the rate of change of a quantity becomes infinite.

    If the sky’s the limit when it comes to processing information, it isn’t hard to think of startling applications. Tired of deciding what to eat? Let a swarm of sensors patrol your innards and order the right nutrients automatically through your personal wireless network. Concerned about dying? Then achieve immortality by flooding your body with smart nanobots to monitor and maintain your failing biosystems. Or better yet, ‘upload’ your mind into cyberspace, where you can have more fun, untrammelled by a material body.

    The question is not whether these wild ideas should be taken seriously, but whether the premise on which they are founded — unbounded exponential growth in information-processing power — somehow escapes the strictures that eventually curtail all other cases of headlong expansion. One obvious reason why accelerating growth in computation might stall concerns the availability of resources. What happens when the Earth’s entire surface has been converted into a gigantic information-garnering, bit-churning system? Kurzweil is ready with the answer: we move into space. (”We” here is a generic term. The sentient beings that will soon wrest control from humans, and which are destined to supervise the cosmic phase of development, will be some sort of superdupercomputers.) But by the remorseless logic of exponentiation, pretty soon thereafter the resource-hungry system will find itself spreading across the galaxy so fast it hits the speed of light. Like the physics journals on the bookshelves, exponential growth stops here. Or does it? Kurzweil toys with the idea that the speed-of-light barrier is there to be broken, which opens up the giddy prospect of the entire Universe being taken over by an omniscient superintelligence within just a few centuries.

    Such exhilarating speculation is great fun to read, but needs to be taken with a huge dose of salt. The biggest lacuna in Kurzweil’s argument is the tacit assumption that if we liberate enough information-processing power, then nature will succumb to all our desires. Control the Solar System? Just double the bit rate a few times and it will be within our grasp. Create life? Simulate consciousness? It all boils down to making a cheaper, faster processor. Unfortunately, the laws of physics may well dictate otherwise. Technology can harness physical laws but it can’t bend them. No amount of information processing will suspend the law of gravity or create perpetual-motion machines.

    When it comes to discussing the physics that underpins his predictions, Kurzweil is apt to be vague or even misinformed. The stupendous power demands implied by the rampant growth in computation and nanotechnology will be met by a concomitant ‘law of accelerating returns’ in power-generation technologies, such as fuel cells and high-temperature superconductors. And if these run into technical problems, well, just send in the nanobots to sort them out. ”All technologies,” claims Kurzweil, ”will essentially become information technologies, including energy.”

    On the vexed issue of the speed of light, Kurzweil cites evidence that the fine-structure constant, which expresses the strength of the electromagnetic force and contains the speed of light as a factor, may have increased very slightly over the past 6 billion years. The primary evidence comes from an analysis of quasar spectral lines by John Webb of the University of New South Wales in Australia and his collaborators, not from a study of the Oklo natural nuclear reactor in Gabon, as Kurzweil states. Furthermore, even if the observations opened the way to manipulating the value of the fine-structure constant, that is not the same as increasing the speed of light and leaving everything else unchanged. Indeed, the manipulation would involve a reduction of the fine-structure constant, which would slow the rate of information processing at the atomic level, and so prove self-defeating.

    These technical hiccups are irritating, but the book should not be read as a scientific treatise. Rather, it is a futuristic and somewhat breathless romp across the outer reaches of technological possibility, limited only by human imagination. Kurzweil coins the horrible term ‘singularitarian’ for someone who embraces his vision with alacrity. If Kurzweil is to be believed, we will all be singularitarians in just 29 years’ time. Hang in there.
    Top of page

    1. Paul Davies is at the Australian Centre for Astrobiology, Macquarie University, Sydney, New South Wales 2109, Australia. His latest book is How to Build a Time Machine.

  4. Malacoda says:

    När jag läste din check-lista för vad som ger ökad trovärdighet kom jag direkt att tänka på professorn/forskaren i psykologi vid göteborg universitet som var verksam vid sahlgrenska universitetssjukhuset och som med all säkerhet publicerats i en rad eminenta tidningar. Han hade med bravur klarat sig igenom den listan, tyvärr. Mr DAMP, Christopher Gullberg, mannen, myten, legenden som förstörde sin primärdata efter att kammarrätten krävt att få granska hans forskning.

    Inte ens akademikerna kan man lita på.

  5. Jesper Östman says:

    Karim:

    Ah, jag förstår. Ja, då håller jag mestadels med om dina positioner här.

    Intressant kritik av Kurzweil för övrigt, den kan peka mot att han inte behandlar singularity-frågan utan bias (tom med ganska mkt bias), dock är han ju tyvärr inte ens bland forskare ensam om sådan bristfällig metodik.

    Vidare tror jag dock inte kritiken ger några knockdown-argument mot värdet i att teoretisera kring ”singulariteter”. Det krävs inte något som liknar en matematisk singularitet, utan bara en möjlig framtida period av explosiv utveckling för att många frågor som ”singularitets-förespråkare” diskuterar ska vara relevanta.

  6. Efter min egen erfarenhet av den akademiska världen kan jag nog inte säga annat än att utbildning i sig garanterar inget när det kommer till trovärdighet. Skälet till detta är helt enkelt att universitetsvärlden mer styrs av sociala hänsyn än av någon jakt på sanning i sig. För att ge exempel ur den stolta svenska bildningstraditionen: Herman Lundborg. Eller kliv ned i vilket historiskt sammanhang som helst och se vad akademierna presterat i form av teorier som stöder det för tillfället rådande samhällsklimatet eller forskningsklimatet. En akademisk karriär är också en samhällelig karriär så man ska inte förvänta sig alltför mycket av de som har titlar.

  7. Håller lite med Lars. Det verkar nästan som att du likställer sanningen med majoritetsåsikter. Visst har du helt rätt i att trovärdigheten ökar enligt din lista men det är ändå ingen garanti. Som historien visar har vi en väldigt massa teorier och vedertagna sanningar som visat sig vara felaktiga. Sen existerar förstås fenomenet att socialt tryck även på universiteten skapar en konsensus-kultur där sådan kanske inte alltid borde finnas. Och så har vi förstås exempel på olika forskningsfält där antagonismen mellan olika ”grenar” kanske är större och även där yttre tryck från exempelvis privata intressen kan påverka vad som forskas på osv. Dock håller jag som sagt med om att det är ett bra sätt att värdera källor som du presenterar Karim.

Vad tycker du?