fredag, november 24, 2017

Heder och ära i Akademien

Kultursidan Västerbottens-Kuriren 171124

Efter DN:s avslöjande av vittnesmål om den så kallade kulturprofilens, med nära anknytning till Svenska Akademien, flerfaldiga sexuella övergrepp under flera decennier, har den ständige sekreteraren Sara Danius meddelat att Akademien anlitar en advokatfirma för att utreda vad akademiledamöterna har känt till.
         Kulturprofilen har av akademiledamöter hyllats, han har tilldelats en kunglig medalj (som nu kulturministern vill dra tillbaka), han har haft tillgång till lägenheter i Stockholm och i Paris, betalda av Akademien – är det ens möjligt att inte någon av Akademiens ledamöter känt till hans förehavanden?
         Vilka konsekvenser kan den tillsatta utredningen få? Är inte Akademiens 18 ledamöter tillsatta på livstid och omöjliga att avsätta?
         Nej, det är en myt. I Svenska Akademiens stadgar från 1786, paragraf XIX, står: ”Beträdes Ledamot med något som emot heder och ära går, varde han för altid utesluten.”
         Det går alltså alldeles utmärkt att utesluta ledamöter om man finner att de i relation till denne kulturprofil har agerat på ett sätt som går emot heder och ära.
         Och omvänt: Ledamöter som inte utesluts, trots kännedom om kulturprofilens omvittnade trakasserier och övergrepp, har därmed agerat hederligt och ärofyllt.

tisdag, november 21, 2017

Hatet är en man

Kultursidan Västerbottens-Kuriren 171121

Totalförsvarets forskningsinstitut (FOI) har av regeringen uppdraget att kartlägga och genomföra olika analyser av våldsbejakande extremistisk propaganda. Den tredje delrapporten av detta uppdrag publicerades nyligen, med titeln Det vita hatet: radikal nationalism i digitala miljöer. Sex forskare med olika kompetenser har bidragit till rapporten.
         Flera svenska nationalistiska, främlingsfientliga och nationalsocialistiska webbsajter har analyserats, med ett särskilt fokus på de största: Avpixlat (som nu heter Samhällsnytt) och Nordfront.
         De har analyserat både redaktionella artiklar och kommentarer till artiklarna i några olika avseenden. Genom att använda ny teknik inom området artificiell intelligens och maskininlärning, har forskarna låtit självlärande datorprogram analysera tusentals artiklar och kommentarer på dessa sajter.

En analys utgörs av så kallade dispytmarkörer. Det är markörer främst i form av citattecken runt sådana ord som avsändaren vill skapa dispyt kring, eller visa att man ifrågasätter riktigheten av.
         På sajten Avpixlat används citattecken runt ord som exempelvis ensamkommande, barn och flyktingar, för att på så sätt visa att man inte alls tror att personer som traditionell media rapporterar om är ensamkommande, barn eller ens flyktingar.
         På sajten Nordfront används dispytmarkörer på samma sätt, men oftare runt ord som exempelvis förintelsen (för att förneka dess historiska existens), nazist (eftersom Nordfront kallar sig nationalsocialister) och demokrati (eftersom dagens samhälle inte uppfattas som demokratiskt).
         I rapporten analyseras även hatintensitet. Med det avses hur ofta namnet på exempelvis en viss politiker, ledarskribent, journalist, minister eller riksdagsledamot nämns i samband med olika ord som förknippas med hat (exempelvis svordomar, ilska, död, oro och nedsättande benämningar). Ju fler gånger en person förknippas med hatord, desto högre hatintensitet.

En tredje analys är könsmönster. Den absoluta majoriteten av såväl redaktionella skribenter som kommentatorer på Avpixlat är anonyma. Därför har forskarna tränat upp en självlärande dator i att känna igen texter som är författade av män respektive kvinnor. Vid tester har det visat sig att datorn känner igen författarens kön med 84 procents träffsäkerhet.
         Av de 13 655 redaktionella artiklar från Avpixlat som ingick i studien, var 99,4 procent skrivna av män. Av de 18 470 registrerade kommentatorerna var 94 procent män.
         Det finns all anledning att ta till sig kunskap om hur hat kommer till uttryck i digitala miljöer: Vika ord som används, vilka ord som omges av dispytmarkörer, vad olika symboler uttrycker.
         Den viktigaste kunskapen är emellertid ändå att det är en så enorm övervikt av män som förekommer i dessa digitala miljöer; mansdominansen är så stor att man närmast måste tala om homogenitet.
         Ideologier, propaganda, gruppsykologiska processer och individuella fördomar i all ära: En väsentlig orsak till den rådande hatproblematiken i digitala miljöer stavas manlighet.

onsdag, november 08, 2017

#Vadfanfårjag? Ett produktivt risktagande

Kultursidan Västerbottens-Kuriren 171108

Efter Svenskt Näringslivs ordförande, Leif Östlings, skabrösa uttalande i Uppdrag granskning kring dennes skattehantering, skapades snabbt hashtaggen #Vadfanfårjag i sociala medier för att besvara Östlings fråga i intervjun: Vad fan får jag för skatten jag betalar?
        De vanligaste svaren berör så klart sjukvård, barn- och äldreomsorg, gratis skolgång ända upp till Östlings två egna universitetsexamina. Andra svar pekar på förutsättningar för Östling att verka som industriledare: infrastruktur i form av vägar, järnvägar, flyg. 
        Ett mindre vanligt svar på frågan ger den italienska ekonomen Mariana Mazzucato i boken Entreprenörsstaten (2016). Här avlivar hon myten om att staten måste krympa, för att ge marknadens entreprenörer och innovatörer fritt utrymme. 
        
Myten går tillbaka till Adam Smiths idé om den osynliga handen; det optimala är att marknader lämnas i fred och staten enbart sysslar med grundläggande infrastruktur.
        Det förhåller sig enligt Mazzucato tvärtom. Utan statliga investeringar i flygteknik, internet, datorer, bioteknik skulle många av våra viktigaste landvinningar inte existera.
        Staten är nämligen betydligt mer benägen än marknaden att investera i områden där risken är hög och förväntningar på avkastning är låg. Att krympa staten vore därför förödande.
        I ett kapitel plockar Mazzucato isär Apples produkter och visar hur olika komponenter tillkommit genom statligt stöd i olika former. Inte enbart Apple, så klart. Utvecklingen av den grundläggande algoritmen bakom Googles sökmotor finansierades av staten. Eller att flera grundläggande landvinningar inom bioteknik finansierades med statliga medel. För att inte tala om internet; utan statliga satsningar skulle det inte existera.
        
Så var kommer statens investeringsmedel från? Dum fråga. Skatter. Ändå menar de stora företagen och deras ledare att skatt är ett problem som borde planeras bort. Google och Apple är kända för kraftfull skatteplanering. Liksom, visar det sig från Paradisläckan, Leif Östling med flera som avslöjas.
        Vilket är en rent irrationell, för att inte säga kontraproduktiv uppfattning. Utan staten skulle inte de mest riskfyllda investeringarna göras, eftersom privata riskkapitalister inte tar sådana risker. 
        Problemet med Östlings fråga #Vadfanfårjag är pedagogiskt. Staten måste bli bättre på att tala om vilken betydelse den har i ekonomin, för innovationers utveckling och för industriers förutsättningar. Att läsa Massucatos bok är en bra början.

fredag, november 03, 2017

Martin Luther kan tacka Gutenberg för spridningen

Kultursidan Västerbottens-Kuriren 171103

I staden Wittenberg i östra Tyskland håller man som bäst på att fira 500-årsdagen av Martin Luther och den reformation av kyrkan som han inledde genom att spika upp sina 95 teser på porten till Schlosskirche, slottskyrkan i Wittenberg.
       Så hävdas det i alla fall. Om och i så fall exakt var teserna spikades upp är man oense kring. Att den 31 oktober är tidpunkten för de 95 tesernas publicering är man dock mer enig om.
       Mycket har skrivits om Luther och hans teser från teologiska och kulturella perspektiv – men hur fick de sådan spridning, i början av 1500-talet, när alla texter skrevs för hand? Luther hade turen att leva precis i inledningen av den tredje mediatekniska revolutionen: uppfinnandet av tryckpressen.
       Således hade Luther Johannes Gutenberg att tacka för spridningen av inte enbart de 95 teserna, utan för en mängd andra skrifter som Luther var upphovsman till.

I John Mans biografi Gutenberg (2004) framgår tydligt att vad Gutenberg uppfann under andra halvan av 1400-talet egentligen inte var själva tryckpressen, utan de lösa typerna med vilka man sätta textsidor och mångfaldiga dem på ett effektivt, närmast industriellt sätt.

       När Gutenbergs initiala tekniska problem med att konstruera typer och sättramar, med att utveckla bläckkvalitet och pappersdito var relativt lösta kunde böcker skulle tryckas i stora upplagor.
       Men vilka böcker skulle tryckas? Gutenberg var ingen författare, utan en teknikutvecklande entreprenör. Vilka texter fanns att tillgå?
       Inte helt oförutsebart blev Bibeln den första skrift som Gutenberg tryckte. Den katolska kyrkan välkomnade denna tryckteknik med öppna armar och såg framför sig hur alla kyrkor och kloster ägde samma version av bibeln att läsa och predika ur.
       Kyrkan såg framför sig möjligheten att eliminera såväl lokala variationer av Bibeln, som mänskliga fel hos handskrivarna. Inte enbart bibeln trycktes, utan även mässböcker och körböcker.

Däremot räknade inte den katolska kyrkan med att tryckpressen skulle användas mot den. Ett väsentligt skäl till att Luther lyckades reformera kristendomen var att han var synnerligen publiceringsivrig och att han snabbt kunde trycka stora upplagor av sina teser och sina predikningar.

       Ett annat skäl var att Luther skrev på tyska för tysktalande och inte på latin. Det gjorde hans verk än mer spridbara. Man räknar med att så många som en tredjedel av alla böcker som trycktes i Tyskland 1520 var författade av Luther.
       Med hjälp av Gutenbergs tryckteknik bidrog Luther inte enbart till att reformera kristendomen, utan även till att den tysktalande befolkningen blev mer medveten om sig själv och gränserna mot andra.
       Och med hjälp av Luther befästes den papperstryckta bokens särställning, en särställning som innehas fortfarande, i internetåldern.

onsdag, oktober 25, 2017

Formbar framtid

Jag har samlat ett antal tidigare texter och publicerat dem en ny bok; en essäsamling kring samhälleliga framtidsfrågor, främst om digitalisering och robotisering. Titeln är Formbar framtid: Essäer i skärningspunkten mellan nutid och framtidBoken finns att köpa på AdlibrisBokus, CDON och Amazon. Precis som mina tidigare böcker finns denna att ladda ned fritt, i meningen gratis, som Open Access i pdf-format.



I denna essäsamling söker Per-Olof Ågren syntesen mellan ett empiriskt nu och framtidsscenarier. Vad kan nutidens analytiska och experimentella forskning om och utveckling av informationsteknik säga om en framtida samhällsutveckling?

Det är i skärningspunkten mellan nutid och framtid som de viktigaste övervägandena om samhällsutvecklingen måste göras. 

Bokens bidrag är synliggöra sådan forskning och utveckling av informationsteknik och undersöka hur den i olika avseenden har möjlighet att forma framtidens samhälle.

Om boken även inspirerar till ytterligare analyser och diskussioner kring informationsteknikens inflytande över samhällsutvecklingen vore det synnerligen värdefullt. 

tisdag, september 26, 2017

Överlever demokratin internet?

Kultursidan Västerbottens-Kuriren 170926

Många talar om de där botarna som sprider propaganda, rasism och allehanda lögnaktiga påståenden, men hur ser de ut? Går det att särskilja en automatiskt genererad användare som sprider politiska lögner på Twitter från en människa som gör samma sak?
        Det är inte nödvändigtvis enkelt. Nyligen fick jag emellertid syn på ett antal twittrare som spred exakt samma budskap och stavfel: ”Rasism utgår från maktövertag, det är vara [sic!] vita som kan vara rasister. Samma med våldtäkt, en svart kan aldrig våldta.” Alla dessa twittrare uppvisade olika profilbild med en gemensam nämnare: Alla var unga kvinnor och hade svenska, kvinnliga namn.
        I ett blogginlägg undersökte journalisten Jack Werner lite noggrannare dessa 22 twittrare och fann även att profilbilderna utgjordes av flera delar från andra bilder som sammanfogats till enskilda bilder. Han fann även att alla dessa twitterkonton hade registrerats inom ett par dagar och den tweet jag citerade ovan publicerades av dessa 22 konton närmast samtidigt.
        Tidigare myntades begreppet trollfabrik och avsåg avlönade människor som spred propaganda i sociala medier för en regims räkning. I dag talar vi om automatiska botar som sprider propaganda.
        Frågan är vilken effekt automatiska botar får i politiska processer. Hur påverkas människor av botarnas twittrande? Vad betyder denna utveckling för demokratin? 
        Nu publiceras studier av hur användning av sociala medier – av såväl människor som botar – påverkar politik, politiska val och ytterst demokratin.

En kvartett forskare vid Indiana University i USA har analyserat vilken spridning falska nyheter får, när spridningen sker från sociala botar på Twitter. En social bot är en programvara som kan formulera och skicka meddelanden på Twitter och även kommunicera med andra twittrare, både botar och människor. 

        Med falska nyheter avser de osanna inlägg, konspirationsteorier, fabricerade rapporter och liknande. De har analyserat 14 miljoner meddelanden under 2016 års presidentvalskampanj i USA med hjälp av egentillverkade datorprogram för att detektera meddelande från sociala botar. 
        Ett av de mest intressanta resultaten av denna studie är att falska nyheter som sprids av sociala botar blir virala främst därför att dessa nyheter sprids vidare av människor. Med andra ord, vanliga användare har svårt att uppfatta om en twittrare är en bot eller en människa – om ett meddelande sammanfaller med eller förstärker människors åsikter, sprider de gladeligen meddelandet vidare.
        De sociala botarna förstärker dessutom trovärdigheten i sina meddelanden genom att på olika sätt referera till eller tagga faktiska, inflytelserika människor, så att det än mer döljer att boten är en bot. Och därmed ökar chansen – eller snarare risken – att människor sprider botarnas falska nyheter i större utsträckning.
        Det, menar denna kvartett forskare, tyder på att sociala botar rätt enkelt kan påverka och manipulera ett stort antal människor.

Det är inte nödvändigtvis sociala botar som avgör om sociala medier som exempelvis Twitter kan användas för att uppnå politiskt strategiska mål. Gunn Enli är norsk professor i medievetenskap och forskar om politisk kommunikation och sociala medier. 

        I en vetenskaplig artikel visar Enli den skarpa skiljelinjen mellan Hillary Clinton och Donald Trump med avseende på hur deras respektive valkampanjer använde Twitter för politisk kommunikation.
        Clinton och hennes stab använde Twitter på ett professionellt sätt, menar Enli, vilket innebär att strategin utgick från kända teorier om hur politisk kommunikation bör bedrivas i valkampanjer i liberala demokratier. 
        Trump och hans stab arbetade för en avprofessionalisering av den politiska kommunikationen. Enli menar att Trumps strategi bäst betecknas som amatörism, men inte en amatörism som härrör från okunskap eller inkompetens, utan en strategisk amatörism.
        Clinton var den kontrollerade politikern, Trump den autentiske outsidern. Med avseende på agendasättning, tweetspridning och citeringseffektivitet vann Trump kampen om de sociala medierna i valrörelsen. 
        Clinton gjorde allt rätt. Trump gjorde allt fel. Därför vann Trump.

I internets barndom tänkte sig många optimister och utopister att internet skulle bli den perfekta arenan, det perfekta verktyget för att utveckla demokratin. Särskilt den deliberativa demokratin, även benämnt deltagardemokrati, ansågs ha störst potential att utvecklas. Med ökad horisontell och vertikal kommunikation skulle medborgarnas deltagande stärkas och politikers relationer till medborgarna förbättras.

        I dag frågar vi oss snarare om demokratin kan överleva internet. Det frågar sig Nathaniel Persily, juridikprofessor vid Stanford i en artikel i tidskriften Journal of Democracy. Är frågan överdriven? Har inte demokratin tillräcklig motståndskraft att inte påverkas av sociala medier?
        Persily oroas också av hur sociala botar sprider falska nyheter så att de får stor spridning, men minst lika mycket av hur psykografisk profilering medger riktad propaganda till en omsorgsfullt utvald målgrupp.
        Det är dock inte propaganda med politiska budskap vi främst ska vara vaksamma på för demokratins överlevnad, utan sådana budskap som medvetet avser att motverka medborgarnas vilja att överhuvudtaget rösta i demokratiska val.
        
Nyhetssajten Bloomberg beskriver hur Brad Parscale, Trumps främste strateg för sociala medier, samt övriga kampanjmedarbetare manipulerade valrörelsen. Särskilt bestickande är det när Trumps kampanjarbetare plötsligt väljer en ny strategi under valrörelsen: I stället för att påverka fler människor att rösta på Trump, inleder de en motsatt strategi.
        Strategin är att med offensiv användning av sociala medier påverka människor att inte alls rösta – särskilt människor som de anar sympatiserar med motståndarkandidaten: vita liberaler, unga kvinnor och afro-amerikaner.
        Frågan är därmed berättigad: Överlever demokratin den användning av internet och sociala medier som initierades i den amerikanska valrörelsen 2016?

måndag, augusti 21, 2017

Demokratins motståndskraft

Kultursidan Västerbottens-Kuriren 170821

Vi kör längs Blutstrasse. Blodvägen. Vägen som tar oss de sista kilometrarna till koncentrationslägret Buchenwald, ett par mil norr om Weimar i östra Tyskland. Vägen som byggdes av koncentrationslägerfångar under brutalt överinseende från SS-personal. Därav namnet.
      Lägrets lokalisering är i sig ett symboliskt hån. Det var i Weimar den tyska republiken, tillika den tyska demokratin inrättades 1919, för att upplösas av nazistpartiet när det kom till makten 1933.
       Ovanför ingången till Buchenwald står det ”Jedem das seine”, vilket betyder ungefär ”Åt var och en det han förtjänar”. Lägerfångarna skulle förstå att de genom sin etniska tillhörighet, politiska åsikter, sexualitet och andra egenskaper förtjänade de att drivas i döden genom arbete, undernäring, sjukdomar, medicinska experiment och avrättningar.
       Det är varken första eller sista gången jag besöker ett koncentrationsläger. Besöken etsar sig fast på ett nödvändigt sätt. Jag tänker att vi måste ständigt hålla dessa mänsklighetens allra mest fruktansvärda handlingar i medvetande, för att inte riskera att upprepa dem.

Så hur gör vi för att inte dylika händelser ska upprepas? Tre danska statsvetare publicerade nyligen en rapport i tidskriften Journal of Democracy (nr 3, 2017), där de har studerat vilken betydelse demokratisk stabilitet hade i 44 olika länder under mellankrigstiden för att bibehålla ett demokratiskt statsskick.
       Länder som Sverige, Norge, Danmark, Nederländerna, Belgien, Storbritannien med flera klarade av att bibehålla demokratiska statsskick. Länder som Tyskland, Italien, Österrike, Grekland, Polen med flera klarade inte av det.
       Den främsta förklaringen enligt dessa forskare är att de länder som hade hunnit bygga upp en fungerande institutionell demokrati under flera decennier klarade av att stå emot totalitära rörelser såväl från vänster som från höger.
       Dessa länder lyckades även kanalisera den frustration bland medborgarna som uppstod på grund av ekonomisk kris och arbetslöshet inom ramen för det demokratiska systemet. De länder som gav upp demokratin för antidemokratiska statsskick var alla synnerligen unga demokratier, utan inarbetade institutionella processer, utan förmåga att hantera medborgarnas frustration.
 

Studien levererar en positiv slutsats: länder som konstitueras av långvariga och stabila demokratiska system, bör vara mindre oroliga för att antidemokratiska strömningar ska få fäste
       Å ena sidan måste vi hålla mellankrigstidens fruktansvärda handlingar i ständigt minne för att inte riskera upprepa dem.
       Å andra sidan bör lärdomen från mellankrigstiden vara att demokratin ändå har goda förutsättningar att stå emot totalitära rörelser.
       Vi bör emellertid vara extremt vaksamma mot nya, kanske ännu oupptäckta hot mot demokratin, hot som vi inte vet om våra demokratiska institutioner kan stå emot.

fredag, augusti 18, 2017

Nazister jagas bort från nätet

Kultursidan Västerbottens-Kuriren 170818

Efter nazisternas terrorhandlingar i Charlottesville, där en kvinna dödats och flera skadats, har de stora internetaktörerna börjat agera.
        Stora sociala mediejättar som Reddit och Facebook har börjat förbjuda så kallade hatgrupper, vilket är ett samlingsbegrepp för nazistiska, högerextrema, vit maktrörelser och liknande. Musiktjänsten Spotify meddelar att man plockar bort allt som kategoriseras som vit maktmusik.
        Det är synnerligen viktiga handlingar. Än viktigare är att alla de stora aktörerna också jagar bort den amerikanska nazismens flaggskepp, webbsajten The Daily Stormer, från den öppna webben, från YouTube, från Instagram med flera. Sajten försöker etablera sig på ryska och kinesiska domäner, dock utan framgång.
        Webbsajter som The Daily Stormer får söka sig till den mörka webben, bland drogförsäljning, barnpornografi, vapenförsäljning, bland annat hot och hat, där det till och med är möjligt att satsa pengar på framtida mord. Endast detta svarta hål kvarstår för sajten.
        Terrorn i Charlottesville kan mycket väl bli brytpunkten för nätaktörernas tolerans för hatgrupper, hatpropaganda och hets mot folkgrupper.
        En brytpunkt för demokratin.

tisdag, juni 13, 2017

I algoritmernas tid blir matematiken politisk

Kultursidan Västerbottens-Kuriren 170613

För många skolelever har matematikämnet upplevts som hin håles gåva till dem. Abstrakt, logik, formler med siffror och bokstäver. Och vad skulle man med matematiken till? Vore det inte viktigare att läsa samhällskunskap, historia och språk för att både förstå samhällets komplexitet och kunna bli en aktiv medborgare?

       Ja och nej, skulle matematikern Cathy O'Neil svara, när jag läser en intervju med henne i Harvard Business Review (161006). Hon har alltid uppfattat matematiken som en fristad från verklighetens komplexitet.
        Med matematik som verktyg kan olika delar av verkligheten uppfattas tydligare, komplexiteten kan reduceras och världen kan beskrivas ärligare, utan några agendor som färgar tolkningar.
        Tesen för denna essä är att i dag och i framtiden gäller det omvända. Med matematikens hjälp, i form av algoritmer som bearbetar stora datamängder, verkar vi skapa en grumligare, mer ogenomskinlig värld som tycks få stora konsekvenser.
        Tesen framläggs med stöd av Cathy O'Neils senaste bok Weapons of Math Destruction (Allen Lane, 2016). Om titeln kräver sin förklaring, ger undertiteln en tydlig fingervisning om innehållet: How Big Data Increases Inequality and Threatens Democracy (Hur big data ökar ojämlikhet och hotar demokratin).

Bokens studieobjekt, Weapens of Math Destruction, har konnotationer till massförstörelsevapen (weapons of mass destruction) som är särskilt ägnade att sprida död och förödelse i stor skala, som exempelvis kärnvapen, kemiska eller biologiska vapen.

        Weapons of Math Destruction, däremot, är algoritmer som för olika syften analyserar stora datamängder och levererar antingen självständiga beslut eller beslutsunderlag. Alla algoritmer är inte destruktiva, utan O'Neil fokuserar sådana som genom sin utformning genererar skadliga konsekvenser för många människor.
        De skadliga algoritmerna har tre egenskaper: De är ogenomskinliga, vilket innebär att vi inte vet hur de fungerar eller vilka premisser de utgår från. De är storskaliga, vilket innebär att det inte finns några begränsningar för hur många människor som kan drabbas av dem. Den tredje egenskapen är den självklara: de är skadliga för människor.
        Dock inte alla människor, vilket är en av bokens poänger. Vissa gynnas av dessa algoritmiska vapen. Precis som andra massförstörelsevapen.

Cathy O'Neil ger ett flertal intressanta exempel i boken. Automatiska personlighetstester av människor som söker arbete är ett. Syftet med dessa osynliga algoritmer är inte att finna den bäst lämpade för ett jobb, utan att exkludera så många som möjligt.

        Konsekvensen, menar O'Neil, blir ofta att de parametrar i algoritmerna som exkluderar sökanden också fungerar diskriminerande. Människor med sjukdomar, funktionsvariationer och kanske lite udda beteenden sorteras med lätthet bort per automatik.
        Ett annat exempel visar hur algoritmer kan samarbeta för att förstärka negativa strukturer. O'Neil menar att de matematiska modeller som klassar människor som kriminellt benägna, leder till att dessa oftare får strängare straff om de begår brott. Efter avtjänat straff sorterar de algoritmer som hanterar arbetssökande snabbt bort dessa från arbeten som söks. Och då blir dessa människor än mer benägna att begå brott.
        Den i algoritmerna inbyggda profetian uppfylls; således är det inte rättvisa som byggts in. Dessutom visar det sig att det oftare är människor med viss etnisk bakgrund som fastnar i dessa strukturer; således är det inte jämlikhet som byggts in.
        Ett ytterligare exempel handlar om matematiska modeller för att bestämma människors kreditvärdighet, vilket alltmer framstår som ett kvalitetsmått på en människa. Allt från bedömning av partners på dejtingsajter till bedömning av arbetssökande använder kreditvärdighet som en betydelsefull parameter.
        I algoritmåldern blir det än svårare för redan ekonomiskt utsatta människor att arbeta sig ur ekonomiska problem, eftersom betalningsanmärkningar och andra kreditparametrar utgör ett hinder för att få arbete. En veritabel fattigdomsfälla, förklädd till neutrala matematiska modeller.

Utöver fria val finns det ett antal hörnstenar i en demokrati: tryckfrihet, åsiktsfrihet, föreningsfrihet och liknande friheter. Men även jämlikhet i form av att medborgare ges lika förutsättningar och inte diskrimineras på grund av kön, etnicitet, sexuell läggning och övriga diskrimineringsgrunder. Samt rättvisa: att juridiska bedömningar är neutrala i förhållande till etnisk härkomst och socio-ekonomisk bakgrund.

        De framväxande problem Cathy O'Neil ger exempel på är inte rimliga i en demokrati. Vad kan vi göra? O'Neil har ett förslag: Att avkräva att varje person som arbetar med algoritmkonstruktion svär en sorts hippokratisk ed, likt den Hippokrates formulerade för läkarskrået för ca 2 500 år sedan.
        I allt väsentligt: Skapa aldrig Weapons of Math Destruction, utan gör algoritmer som uppfyller grundläggande värden i en demokrati, och låt demokratiska värden vara överordnade ekonomiska i de fall konflikter uppstår.
        Cathy O'Neil sätter fingret på något ytterst centralt. På senare tid vi sett ett stort fokus på problem med faktaresistens, på krav på evidensbaserad politik, på behovet av faktabaserade beslut. Detta fokus är så starkt att vi riskerar förstå beslutsfattande som enbart beroende av de korrekta fakta som datorer kan leverera.

Vi bör påminna oss om att förmågan att fatta rättvisa beslut har två ben. I dag ser vi en övervikt åt episteme; den formella kunskapen, vetandet, våra obestridliga fakta.

        Det andra benet är emellertid minst lika viktigt för att kunna fatta rättvisa beslut: fronesis; omdömesförmågan. Det är den förmåga som innefattar att kunna göra kritiska bedömningar och att förstå konsekvenserna av olika beslut.
        Kan vi bygga in fronesis i algoritmerna? Kan algoritmer vara omdömesgilla? Kan algoritmer kritiskt bedöma konsekvenser av handlingar och beslut? Eller är det förmågor som är enbart människor förunnade?

fredag, juni 09, 2017

Facebookgruppen som raserade drömutbildningen

Kultursidan Västerbottens-Kuriren 170609

Att våra aktiviteter i sociala medier kan få konsekvenser för andra delar av våra liv borde i dag vara en självklarhet. Ändå är det lätt att ryckas med i ett flöde, i en diskussion, på ett sätt som missgynnar både en själv och andra.
         Washington Post (170605) uppmärksammar ett extremfall som kan fungera som "sig själv till skräck och androm till varnagel", som den gamla rättsprincipen säger. Det amerikanska, prestigefyllda universitetet Harvard återkallade nyligen tio antagna studenters studieplatser, när universitetet upptäckte dessa tio personers aktiviteter på Facebook.
         Studenter som antagits vid Harvard går med i någon officiell Facebookgrupp för att lära känna andra studenter och få information om studierna innan de påbörjar dem. I en sådan grupp skapades en mindre, privat subgrupp – en så kallad gruppchat – för att skapa och dela memer kring populärkultur. (Att skapa och dela memer tycks vara en het trend vid elituniversiteten i USA.)

Det spårade snart ur. Memerna blev allt mer obehagliga. De blivande studenterna förlöjligade sexuella övergrepp, hånade Förintelsen och hetsade kring övergrepp på barn, bland annat. Ofta riktades memerna mot specifika etniska grupper. Moraliska övergrepp, men sannolikt inte juridiska.

         Harvard är ett privat lärosäte och har därmed stor frihet att formulera lokala regler och riktlinjer. En regel säger att Harvard förbehåller sig rätten att dra tillbaka ett antagningsbeslut av flera skäl, exempelvis om den blivande studentens beteende föranleder Harvard att ifrågasätta studentens ärlighet, mognad och moraliska karaktär.
         Vilket skedde i fallet med de tio studenterna som dök ned till memeskapandets mörkaste vrå, vars konsekvens blev att dessa inte ges tillgång till sin drömutbildning.

Åtminstone tre lärdomar bör dras av detta fall: Den första och enklaste är att aldrig inbilla sig att sociala forum på internet kan vara privata och fria från insyn, vilket innebär att man alltid bör agera såsom i en offentlighet.
Den andra lärdomen är mer komplicerad. Detta måste nog ses som ett extremfall med extrema konsekvenser. Vem trodde att människors beteende i sociala medier kan få så ödesdigra konsekvenser? Nu vet vi.
         Men vi vet inte var gränserna går för vad som är ett acceptabelt beteende i sociala medier givet olika situationer och givet olika tidpunkter. Kan ett beteende vara acceptabelt när man söker anställning hos en arbetsgivare, men oacceptabelt hos en annan?
         Juridiska gränser för yttranden i sociala medier kan förvisso vara svåra att dra ibland, men de finns åtminstone nedtecknade och kan ges generella tolkningar. Lämplighetsgränser är betydligt svårare att uppfatta, eftersom dessa kan tolkas så väldigt olika.
         Den tredje lärdomen är att det är från extremfallen vi bör lära oss något, eftersom dessa många gånger normaliseras.

tisdag, april 18, 2017

Framtidens datorer skapar egna språk

Kultursidan Västerbottens-Kuriren 170418

Språk och datorer har genom historien alltid hört samman. För att en dator ska kunna utföra operationer och aktiviteter måste den instrueras, vilket görs med olika programspråk, beroende på typ av applikation och aktivitet.

        En annan form av språkutveckling handlar om taligenkänning och talsyntes. Datorprogram tränas att uppfatta och tolka mänskligt tal, från enskilda 0rd till sammansatta meningar. Talsyntes handlar om att datorn tränas i att sätta samman ord till meningar så att vi såväl hör som förstår vad datorn säger.
        Den engelska termen för datorprogram som klarar av både taligenkänning och talsyntes är chatbots. Oxford Dictionary presenterade detta ord som ett av de ord som främst kännetecknar språkåret 2016 (årets ord 2016 blev post-truth). Det dröjer sannolikt inte länge förrän chatbot blir upptaget på den årliga nyordslistan i Sverige.
        På svenska brukar vi även tala om virtuella assistenter eller virtuella agenter som vi kan prata med. Den som använder en iPhonen har kanske talat med den virtuella assistenten Siri. SJ arbetar med en chatbot som ska assistera tågresenärer.
        Med hjälp av avancerade algoritmer och självlärande teknik går IT-jättar som Google, Apple, Microsoft, Amazon och Facebook i bräschen för denna utveckling. Ett väsentligt användningsområde för dessa talande applikationer är kunddialoger och kundstöd i olika företag, för att effektivisera dessa processer.
        Den gemensamma nämnaren för den utbredda forskning och teknikutveckling som pågår inom språk och IT är att det mänskliga språket är den överordnade normen som datorprogram ska dels kunna förstå, dels kunna tala.
        Med denna essä vill jag rikta blicken mot en liten forskningsnisch som avviker från denna gemensamma nämnare. Den övergripande frågan som ställs här är vad som skulle hända om vi låter datorprogram själva uppfinna sina egna språk i kommunikationen med varandra. Är det möjligt? Vilka syften skulle sådan forskning i så fall uppnå?

Vid det amerikanska forskningsinstitutet OpenAI bedrivs forskning med fokus på artificiell intelligens och robotik. I mitten av mars förhandspublicerade Igor Mordatch och Pieter Abbeel en artikel där de redovisar hur de arbetar med att låta virtuella agenter utveckla egna språk, utan att det mänskliga språket står som modell.

        Att träna datorer att efterhärma mänskligt språk ger förvisso ökade möjligheter att kommunicera med datorer, men det ger ingen kunskap om varför ett språk existerar. Ett syfte med denna forskning är att utöka den kunskapen. Inte kunskapen om strukturer inom eller relationer mellan språk, utan språkets funktion. Ett grundläggande antagande är att all kommunikation uppstår av nödvändighet; nöden är kommunikationens moder.
        Forskarna har skapat en enkel virtuell miljö med två virtuella agenter, två chatbots som kan agera självständigt i förhållande till varandra. Dessa agenter är också utrustade med självlärande algoritmer, så att de utan mänsklig inblandning, utan instruktioner självständigt utveckla språkliga färdigheter.
        Dessa virtuella agenter förses med olika enkla uppgifter som de ska utföra tillsammans. Det handlar exempelvis om att de ska förflytta sig från en plats i den virtuella miljön till en annan. Genom att utveckla ett språk ska dessa sedan koordinera sina rörelser så att de kan genomföra uppgiften.
        De virtuella agenterna får en uppsättning symboler till sitt förfogande, men utan förbestämda betydelser, så att agenterna måste skapa sina egna betydelser för symbolerna.
        Den forskning som presenteras i artikeln av Mordatch och Abbeel är i ett väldigt tidigt stadium. Än så länge prövar de möjligheter, snarare än fastställer signifikanta resultat. Ett resultat från denna studie är dock att de virtuella agenterna lyckas kommunicera med varandra med ett eget språk på ett funktionellt sätt, utan instruktioner från någon människa.
        De avslutar artikeln med ledtrådar till framtida studier: Att expandera komplexiteten i de virtuella agenternas språkbyggen och att utöka deras handlingsförmågor. De är även intresserade av att undersöka huruvida dessa agenters kommunikativa strategier kan tillämpas av människor.

Forskarnas syfte är som sagt att förstå hur språk utvecklas utifrån nödvändighet, men utan mänskligt språk som förlaga. Frågan är vilka ytterligare syften som kan uppfyllas med forskning som denna.

        Allt sedan människan började forska om artificiell intelligens har den mänskliga intelligensen fungerat som modell för datorers intelligens. Det klassiska turingtestet, uppkallat efter Alan Turing, den förste AI-forskaren, testade maskiners förmåga att efterhärma människors intelligens. 
        Om en människa kommunicerar med en maskin och inte kan avgöra om det är en maskin eller en människa man kommunicerar med, måste maskinen anses inneha mänsklig, men artificiell intelligens.
        På senare tid syns emellertid en diskussion där en motsatt uppfattning om intelligens förs fram. Med dagens exponentiella utveckling av datorteknik bör vi inte låsa oss vid den mänskliga intelligensen, utan låta datorer utveckla datorintelligens, det vill säga intelligens som utgår från datorernas förutsättningar – inte människans förutsättningar. Därtill är människans förutsättningar alltför begränsade.

Om vi vidgar sammanhanget ytterligare kan vi placera in denna forskning tillsammans med forskning om automatiska system i allmänhet; sociala robotar och självlärande maskiner.

        En farhåga som brukar framhållas kring konsekvenserna av sådan forskning är att människan placerar sig utanför robotarnas beslutsloopar, det vill säga att människan ges allt mindre inflytande över robotars och andra självlärande, automatiska systems beteenden. Robotarna fattar sina beslut oberoende av människan.
        Huruvida detta är en farlig utveckling eller inte är svårt att hysa en bestämd uppfattning om. Om vi går tillbaka till studien av Mordatch och Abbeel och deras språkutvecklande agenter, vet vi i alla fall en sak: Människan har visat att utveckling av språk är en mäktig idé.

torsdag, april 13, 2017

Var försiktig med vad du gillar och delar

Kultursidan Västerbottens-Kuriren 170413

Förtal är enligt brottsbalkens femte kapitel att utpeka ”… någon såsom brottslig eller klandervärd i sitt levnadssätt eller eljest lämnar uppgift som är ägnad att utsätta denne för andras missaktning”. Det gäller självfallet även om utpekandet sker i sociala medier.
       Hösten 2016 dömde en svensk tingsrätt en person för förtal efter att ha pekat ut en annan person som pedofil på Facebook. Inlägget gillades av många och fick därmed stor spridning.
        Den nyligen för populärvetenskapligt arbete prisade professorn i juridik, Mårten Schultz, kommenterade denna dom i SvD och avslutade med en brasklapp: Förtalsansvaret för spridning av klandrande uppgifter är ”… inte begränsat till den som först sätter uppgiften i omlopp”.
        Det innebär att även den som sprider uppgifterna vidare också skulle kunna åtalas för förtal. Att dela ett inlägg på Facebook eller att retweeta en tweet på Twitter skulle alltså kunna innebära ansvar för förtal.

Kan man även ställas till ansvar för att enbart ha gillat ett inlägg på Facebook, utan att ha delat det vidare? Ja. Enligt den schweiziska upplagan av The Local har en person i Schweiz stämts för förtal genom att personen har gillat ett inlägg på Facebook.

        Det ursprungliga inlägget beskrev en till viss del offentlig person som rasist och antisemit. Den person som har stämts delade inte inlägget vidare, men klickade på gillaknappen.
        Är ett gillaklick en form av spridning av information? Ja. Utan att vi exakt vet hur Facebooks algoritmer arbetar, styrs informationsflödet bland annat av hur många gillningar ett inlägg får.
        Ju fler som gillar ett inlägg, desto större är sannolikheten att inlägget synliggörs för fler. Facebookanvändare känner igen detta genom att obekanta personers inlägg kan synas i det egna flödet, därför att någon av ens vänner har gillat det.
        Domstolen i Schweiz har inte fastställt någon dom i det aktuella målet ännu, men följande kan fastställas: Var försiktig inte enbart med vad du skriver, utan även med vad du gillar, delar och retweetar i sociala medier. 

tisdag, april 11, 2017

Ny form av McCarthyism mot akademin

Kultursidan Västerbottens-Kuriren 170411

Det är självklart ett stort mediafokus på vad Donald Trump gör och inte gör när han tillträtt som president. Vi borde emellertid även rikta ljuset mot det som följer i Trumps kölvatten.

         Några veckor efter presidentvalet skapades en ny webbplats med namnet Professor Watchlist. Det är den konservativa organisationen Turning Point som står bakom webbplatsen, med syftet att registrera universitetslärare som yttrar uppfattningar som kan uppfattas som ”diskriminerande mot konservativa studenter, stödjer antiamerikanska värden och för fram vänsterpropaganda i lärosalen”.
         Grundaren av Turning Point, Charlie Kirk, citeras i en artikel i tidskriften Inside Higher Ed (22/11 2016): ”Det är ingen hemlighet att somliga bland Amerikas universitetslärare är helt olämpliga”. Han hävdar att han ofta får höra att universitetslärare attackerar konservativa och förmedlar liberal propaganda genom sina positioner på universiteten.
         Det Professor Watchlist gör är att registrera och synliggöra universitetslärare som antingen anmäls av studenter eller som har uttryckt sig i sociala medier på ett sätt som retar den konservativa organisationen.
         Ett syfte som inte uttrycks explicit, men kan tolkas mellan raderna, är att man önskar dels att universitetslärare ska anlägga självcensur i undervisningen, dels att skapa motstånd och protester mot vissa enskilda lärare hos såväl studenter som deras föräldrar.

Vi ser nu en liknande företeelse i Sverige, om än i mindre skala. Den liberale debattören Fredrik Segerfeldt söker i en reportageserie i Timbros regi nagla fast människor med vänstersympatier. I seriens fjärde del tittar han närmare på svenska universitetslärare och forskare (3/4 2017).
         Här namnger han några exempel på akademiska lärare och forskare som på olika sätt har positionerat sig till vänster i politiken och vill därmed påvisa att toleransen för vänsterns våldsideologier är stor.
         Syftet är att misskreditera den högre utbildningen i stort. Artikeln inleds med följande utsaga: "I den akademiska världen är toleransen för vänsterns våldsideologier stor." Men även om de enskilda exemplen stämmer, utgör de naturligtvis inget mönster. Att lyfta fram ett tiotal människor med vissa åsikter ur en population av cirka 16 000 personer visar inget mönster.
         Det är en modern form av McCarthyism vi ser framträda; en sorts häxjakt på universitetslärare som misstänks hysa vissa politiska uppfattningar.
         Det finns naturligtvis inget kausalt samband mellan Trumps presidentskap och denna McCarthyism. Att företeelserna sammanfaller i tiden är dock ett uttryck för den tidsanda vi lever i.

onsdag, april 05, 2017

Brusrobotar som motkrafter på nätet

Kultursidan Västerbottens-Kuriren 170405

Den 28 mars röstade USA:s kongress för en ny lag som ger internetleverantörer rätt att sälja sina kunders aktiviteter på internet till hågade köpare. Vilka webbsidor kunderna har surfat på, vilka länkar de klickat på har blivit en handelsvara. Och den är lukrativ. För företag som vill skapa riktad reklam på individnivå är dessa persondata guld värda.
       För medborgaren i ett samhälle där internet inte med enkelhet kan väljas bort, och där vi är helt beroende av någon internetleverantör för att nå nätverket, innebär detta en högre grad av övervakning och en större risk för integritetsintrång.
        Redan dagen efter kongressens omröstning dök emellertid en motkraft upp på internet. I nätupplagan av Wired (30/3) presenteras programmeraren Dan Schultz skapelse Internet Noise.
        Det är ett så kallat insticksprogram till webbläsaren som i all enkelhet utför automatiska sökningar på Google med slumpmässiga sökord i stor skala. På så sätt skapas en komplex och slumpmässig bild av internetaktiviteter som förvisso skett på den egna datorn, men som inte har något med individen bakom skärmen att göra.
        Programmet skapar helt enkelt en massa brus. Visst går det att hålla sig dold på internet genom att inte alls finnas där, men det är för de allra flesta ett ickealternativ. Ett annat sätt är att skapa sådant databrus att individen döljs.
        Dan Schultz syfte med Internet Noise är främst att skapa medvetenhet kring integritetsfrågor. Jag håller dock för sannolikt att vi kommer att få se flera och ännu mer utvecklade motkrafter på nätet.
        Det blir även intressant att se om internetleverantörerna kan skapa sina motkrafter i form av programvaror som lär sig skilja på brusrobotar och på människors aktiva nätanvändning. 

fredag, mars 10, 2017

BB-ockupanternas mångdubbla ilska är rättfärdigad

Kultursidan Västerbottens-Kuriren 170310

I slutet av 1990-talet deltog jag i ett seminarium kring IT och demokrati som arrangerades av dåvarande Demokratiutredningen. I mina minnesanteckningar framstår särskilt ett inlägg av före detta kulturminister Bengt Göransson som särskilt intressant.
        Flera seminariedeltagare ville se mer av experimenterande med olika typer av IT-användning för att stödja och utveckla lokal demokrati. Utan experiment får vi inte veta något om teknikens kvaliteter för demokratisk utveckling.
         På det svarade Bengt Göransson att det är alltid vanskligt; faller ett försök väl ut är de omöjligt att avbryta, och därmed måste det finnas ekonomiska resurser, inte bara under försökstiden, utan även för lång tid framåt.
         Det går inte att göra ett IT-demokratiförsök som förbättrar människornas leverne i Sveg, för att efter två år stänga ned projektet och återgå till en sämre situation. Därför är det många gånger bättre att avstå – eller att se till att projekt som lyckas är finansierade för lång tid framåt.

Jag tänker tillbaka på det seminariet när jag läser om den frustration medborgarna i Sollefteå ger uttryck för när landstinget i Västernorrland beslutat att stänga Sollefteå BB. Sjukhuset ockuperas, en kvinna har fött sitt barn i bilen mellan Sollefteå och Ö-vik mitt i vintern, arga insändare skrivs.

         Men, sådana är väl många människors villkor i mindre samhällen, på landsbygden, särskilt i Norrlands inland. Det finns knappast något BB i Sorsele, Ånge, Arvidsjaur eller Hofors. Har Sollefteåborna någon särskild rätt att klaga på frånvaron av ett BB?
         Ja, menar jag, det har de. I boken Tänka, snabbt och långsamt (2012) har nobelpristagaren Daniel Kahneman samlat ett stort antal forskningsresultat inom beteendeekonomi. Ett kapitel handlar om prospektteorin, där begreppet förlustaversion är centralt.
         Förlustaversion innebär i korthet att människor hatar förluster av något mer än de älskar vinster av samma sak. Vi reagerar betydligt starkare på hot än på möjligheter. Vi upplever det viktigare att undvika förluster än att skaffa oss vinster.

Det är förlustaversionen som kommer till uttryck i Sollefteåbornas ilska mot BB-nedläggningen. Det är också förlustaversionen Bengt Göransson uttryckte under demokratiseminariet.

         Det är förlustaversionen som rättfärdigar att Sollefteåborna är mångdubbelt arga för att förlora BB, än andra inlandskommuners medborgare för att de aldrig erhållit något BB. Det negativa värdet av en förlust av ett BB är större än det positiva värdet av att erhålla ett.
         BB i Sollefteå är, med Bengt Göranssons ord, ett lyckat demokratiprojekt. Därför borde det vara finansierat för lång tid framåt.