måndag, augusti 21, 2017

Demokratins motståndskraft

Kultursidan Västerbottens-Kuriren 170821

Vi kör längs Blutstrasse. Blodvägen. Vägen som tar oss de sista kilometrarna till koncentrationslägret Buchenwald, ett par mil norr om Weimar i östra Tyskland. Vägen som byggdes av koncentrationslägerfångar under brutalt överinseende från SS-personal. Därav namnet.
      Lägrets lokalisering är i sig ett symboliskt hån. Det var i Weimar den tyska republiken, tillika den tyska demokratin inrättades 1919, för att upplösas av nazistpartiet när det kom till makten 1933.
       Ovanför ingången till Buchenwald står det ”Jedem das seine”, vilket betyder ungefär ”Åt var och en det han förtjänar”. Lägerfångarna skulle förstå att de genom sin etniska tillhörighet, politiska åsikter, sexualitet och andra egenskaper förtjänade de att drivas i döden genom arbete, undernäring, sjukdomar, medicinska experiment och avrättningar.
       Det är varken första eller sista gången jag besöker ett koncentrationsläger. Besöken etsar sig fast på ett nödvändigt sätt. Jag tänker att vi måste ständigt hålla dessa mänsklighetens allra mest fruktansvärda handlingar i medvetande, för att inte riskera att upprepa dem.

Så hur gör vi för att inte dylika händelser ska upprepas? Tre danska statsvetare publicerade nyligen en rapport i tidskriften Journal of Democracy (nr 3, 2017), där de har studerat vilken betydelse demokratisk stabilitet hade i 44 olika länder under mellankrigstiden för att bibehålla ett demokratiskt statsskick.
       Länder som Sverige, Norge, Danmark, Nederländerna, Belgien, Storbritannien med flera klarade av att bibehålla demokratiska statsskick. Länder som Tyskland, Italien, Österrike, Grekland, Polen med flera klarade inte av det.
       Den främsta förklaringen enligt dessa forskare är att de länder som hade hunnit bygga upp en fungerande institutionell demokrati under flera decennier klarade av att stå emot totalitära rörelser såväl från vänster som från höger.
       Dessa länder lyckades även kanalisera den frustration bland medborgarna som uppstod på grund av ekonomisk kris och arbetslöshet inom ramen för det demokratiska systemet. De länder som gav upp demokratin för antidemokratiska statsskick var alla synnerligen unga demokratier, utan inarbetade institutionella processer, utan förmåga att hantera medborgarnas frustration.
 

Studien levererar en positiv slutsats: länder som konstitueras av långvariga och stabila demokratiska system, bör vara mindre oroliga för att antidemokratiska strömningar ska få fäste
       Å ena sidan måste vi hålla mellankrigstidens fruktansvärda handlingar i ständigt minne för att inte riskera upprepa dem.
       Å andra sidan bör lärdomen från mellankrigstiden vara att demokratin ändå har goda förutsättningar att stå emot totalitära rörelser.
       Vi bör emellertid vara extremt vaksamma mot nya, kanske ännu oupptäckta hot mot demokratin, hot som vi inte vet om våra demokratiska institutioner kan stå emot.

fredag, augusti 18, 2017

Nazister jagas bort från nätet

Kultursidan Västerbottens-Kuriren 170818

Efter nazisternas terrorhandlingar i Charlottesville, där en kvinna dödats och flera skadats, har de stora internetaktörerna börjat agera.
        Stora sociala mediejättar som Reddit och Facebook har börjat förbjuda så kallade hatgrupper, vilket är ett samlingsbegrepp för nazistiska, högerextrema, vit maktrörelser och liknande. Musiktjänsten Spotify meddelar att man plockar bort allt som kategoriseras som vit maktmusik.
        Det är synnerligen viktiga handlingar. Än viktigare är att alla de stora aktörerna också jagar bort den amerikanska nazismens flaggskepp, webbsajten The Daily Stormer, från den öppna webben, från YouTube, från Instagram med flera. Sajten försöker etablera sig på ryska och kinesiska domäner, dock utan framgång.
        Webbsajter som The Daily Stormer får söka sig till den mörka webben, bland drogförsäljning, barnpornografi, vapenförsäljning, bland annat hot och hat, där det till och med är möjligt att satsa pengar på framtida mord. Endast detta svarta hål kvarstår för sajten.
        Terrorn i Charlottesville kan mycket väl bli brytpunkten för nätaktörernas tolerans för hatgrupper, hatpropaganda och hets mot folkgrupper.
        En brytpunkt för demokratin.

tisdag, juni 13, 2017

I algoritmernas tid blir matematiken politisk

Kultursidan Västerbottens-Kuriren 170613

För många skolelever har matematikämnet upplevts som hin håles gåva till dem. Abstrakt, logik, formler med siffror och bokstäver. Och vad skulle man med matematiken till? Vore det inte viktigare att läsa samhällskunskap, historia och språk för att både förstå samhällets komplexitet och kunna bli en aktiv medborgare?

       Ja och nej, skulle matematikern Cathy O'Neil svara, när jag läser en intervju med henne i Harvard Business Review (161006). Hon har alltid uppfattat matematiken som en fristad från verklighetens komplexitet.
        Med matematik som verktyg kan olika delar av verkligheten uppfattas tydligare, komplexiteten kan reduceras och världen kan beskrivas ärligare, utan några agendor som färgar tolkningar.
        Tesen för denna essä är att i dag och i framtiden gäller det omvända. Med matematikens hjälp, i form av algoritmer som bearbetar stora datamängder, verkar vi skapa en grumligare, mer ogenomskinlig värld som tycks få stora konsekvenser.
        Tesen framläggs med stöd av Cathy O'Neils senaste bok Weapons of Math Destruction (Allen Lane, 2016). Om titeln kräver sin förklaring, ger undertiteln en tydlig fingervisning om innehållet: How Big Data Increases Inequality and Threatens Democracy (Hur big data ökar ojämlikhet och hotar demokratin).

Bokens studieobjekt, Weapens of Math Destruction, har konnotationer till massförstörelsevapen (weapons of mass destruction) som är särskilt ägnade att sprida död och förödelse i stor skala, som exempelvis kärnvapen, kemiska eller biologiska vapen.

        Weapons of Math Destruction, däremot, är algoritmer som för olika syften analyserar stora datamängder och levererar antingen självständiga beslut eller beslutsunderlag. Alla algoritmer är inte destruktiva, utan O'Neil fokuserar sådana som genom sin utformning genererar skadliga konsekvenser för många människor.
        De skadliga algoritmerna har tre egenskaper: De är ogenomskinliga, vilket innebär att vi inte vet hur de fungerar eller vilka premisser de utgår från. De är storskaliga, vilket innebär att det inte finns några begränsningar för hur många människor som kan drabbas av dem. Den tredje egenskapen är den självklara: de är skadliga för människor.
        Dock inte alla människor, vilket är en av bokens poänger. Vissa gynnas av dessa algoritmiska vapen. Precis som andra massförstörelsevapen.

Cathy O'Neil ger ett flertal intressanta exempel i boken. Automatiska personlighetstester av människor som söker arbete är ett. Syftet med dessa osynliga algoritmer är inte att finna den bäst lämpade för ett jobb, utan att exkludera så många som möjligt.

        Konsekvensen, menar O'Neil, blir ofta att de parametrar i algoritmerna som exkluderar sökanden också fungerar diskriminerande. Människor med sjukdomar, funktionsvariationer och kanske lite udda beteenden sorteras med lätthet bort per automatik.
        Ett annat exempel visar hur algoritmer kan samarbeta för att förstärka negativa strukturer. O'Neil menar att de matematiska modeller som klassar människor som kriminellt benägna, leder till att dessa oftare får strängare straff om de begår brott. Efter avtjänat straff sorterar de algoritmer som hanterar arbetssökande snabbt bort dessa från arbeten som söks. Och då blir dessa människor än mer benägna att begå brott.
        Den i algoritmerna inbyggda profetian uppfylls; således är det inte rättvisa som byggts in. Dessutom visar det sig att det oftare är människor med viss etnisk bakgrund som fastnar i dessa strukturer; således är det inte jämlikhet som byggts in.
        Ett ytterligare exempel handlar om matematiska modeller för att bestämma människors kreditvärdighet, vilket alltmer framstår som ett kvalitetsmått på en människa. Allt från bedömning av partners på dejtingsajter till bedömning av arbetssökande använder kreditvärdighet som en betydelsefull parameter.
        I algoritmåldern blir det än svårare för redan ekonomiskt utsatta människor att arbeta sig ur ekonomiska problem, eftersom betalningsanmärkningar och andra kreditparametrar utgör ett hinder för att få arbete. En veritabel fattigdomsfälla, förklädd till neutrala matematiska modeller.

Utöver fria val finns det ett antal hörnstenar i en demokrati: tryckfrihet, åsiktsfrihet, föreningsfrihet och liknande friheter. Men även jämlikhet i form av att medborgare ges lika förutsättningar och inte diskrimineras på grund av kön, etnicitet, sexuell läggning och övriga diskrimineringsgrunder. Samt rättvisa: att juridiska bedömningar är neutrala i förhållande till etnisk härkomst och socio-ekonomisk bakgrund.

        De framväxande problem Cathy O'Neil ger exempel på är inte rimliga i en demokrati. Vad kan vi göra? O'Neil har ett förslag: Att avkräva att varje person som arbetar med algoritmkonstruktion svär en sorts hippokratisk ed, likt den Hippokrates formulerade för läkarskrået för ca 2 500 år sedan.
        I allt väsentligt: Skapa aldrig Weapons of Math Destruction, utan gör algoritmer som uppfyller grundläggande värden i en demokrati, och låt demokratiska värden vara överordnade ekonomiska i de fall konflikter uppstår.
        Cathy O'Neil sätter fingret på något ytterst centralt. På senare tid vi sett ett stort fokus på problem med faktaresistens, på krav på evidensbaserad politik, på behovet av faktabaserade beslut. Detta fokus är så starkt att vi riskerar förstå beslutsfattande som enbart beroende av de korrekta fakta som datorer kan leverera.

Vi bör påminna oss om att förmågan att fatta rättvisa beslut har två ben. I dag ser vi en övervikt åt episteme; den formella kunskapen, vetandet, våra obestridliga fakta.

        Det andra benet är emellertid minst lika viktigt för att kunna fatta rättvisa beslut: fronesis; omdömesförmågan. Det är den förmåga som innefattar att kunna göra kritiska bedömningar och att förstå konsekvenserna av olika beslut.
        Kan vi bygga in fronesis i algoritmerna? Kan algoritmer vara omdömesgilla? Kan algoritmer kritiskt bedöma konsekvenser av handlingar och beslut? Eller är det förmågor som är enbart människor förunnade?

fredag, juni 09, 2017

Facebookgruppen som raserade drömutbildningen

Kultursidan Västerbottens-Kuriren 170609

Att våra aktiviteter i sociala medier kan få konsekvenser för andra delar av våra liv borde i dag vara en självklarhet. Ändå är det lätt att ryckas med i ett flöde, i en diskussion, på ett sätt som missgynnar både en själv och andra.
         Washington Post (170605) uppmärksammar ett extremfall som kan fungera som "sig själv till skräck och androm till varnagel", som den gamla rättsprincipen säger. Det amerikanska, prestigefyllda universitetet Harvard återkallade nyligen tio antagna studenters studieplatser, när universitetet upptäckte dessa tio personers aktiviteter på Facebook.
         Studenter som antagits vid Harvard går med i någon officiell Facebookgrupp för att lära känna andra studenter och få information om studierna innan de påbörjar dem. I en sådan grupp skapades en mindre, privat subgrupp – en så kallad gruppchat – för att skapa och dela memer kring populärkultur. (Att skapa och dela memer tycks vara en het trend vid elituniversiteten i USA.)

Det spårade snart ur. Memerna blev allt mer obehagliga. De blivande studenterna förlöjligade sexuella övergrepp, hånade Förintelsen och hetsade kring övergrepp på barn, bland annat. Ofta riktades memerna mot specifika etniska grupper. Moraliska övergrepp, men sannolikt inte juridiska.

         Harvard är ett privat lärosäte och har därmed stor frihet att formulera lokala regler och riktlinjer. En regel säger att Harvard förbehåller sig rätten att dra tillbaka ett antagningsbeslut av flera skäl, exempelvis om den blivande studentens beteende föranleder Harvard att ifrågasätta studentens ärlighet, mognad och moraliska karaktär.
         Vilket skedde i fallet med de tio studenterna som dök ned till memeskapandets mörkaste vrå, vars konsekvens blev att dessa inte ges tillgång till sin drömutbildning.

Åtminstone tre lärdomar bör dras av detta fall: Den första och enklaste är att aldrig inbilla sig att sociala forum på internet kan vara privata och fria från insyn, vilket innebär att man alltid bör agera såsom i en offentlighet.
Den andra lärdomen är mer komplicerad. Detta måste nog ses som ett extremfall med extrema konsekvenser. Vem trodde att människors beteende i sociala medier kan få så ödesdigra konsekvenser? Nu vet vi.
         Men vi vet inte var gränserna går för vad som är ett acceptabelt beteende i sociala medier givet olika situationer och givet olika tidpunkter. Kan ett beteende vara acceptabelt när man söker anställning hos en arbetsgivare, men oacceptabelt hos en annan?
         Juridiska gränser för yttranden i sociala medier kan förvisso vara svåra att dra ibland, men de finns åtminstone nedtecknade och kan ges generella tolkningar. Lämplighetsgränser är betydligt svårare att uppfatta, eftersom dessa kan tolkas så väldigt olika.
         Den tredje lärdomen är att det är från extremfallen vi bör lära oss något, eftersom dessa många gånger normaliseras.

tisdag, april 18, 2017

Framtidens datorer skapar egna språk

Kultursidan Västerbottens-Kuriren 170418

Språk och datorer har genom historien alltid hört samman. För att en dator ska kunna utföra operationer och aktiviteter måste den instrueras, vilket görs med olika programspråk, beroende på typ av applikation och aktivitet.

        En annan form av språkutveckling handlar om taligenkänning och talsyntes. Datorprogram tränas att uppfatta och tolka mänskligt tal, från enskilda 0rd till sammansatta meningar. Talsyntes handlar om att datorn tränas i att sätta samman ord till meningar så att vi såväl hör som förstår vad datorn säger.
        Den engelska termen för datorprogram som klarar av både taligenkänning och talsyntes är chatbots. Oxford Dictionary presenterade detta ord som ett av de ord som främst kännetecknar språkåret 2016 (årets ord 2016 blev post-truth). Det dröjer sannolikt inte länge förrän chatbot blir upptaget på den årliga nyordslistan i Sverige.
        På svenska brukar vi även tala om virtuella assistenter eller virtuella agenter som vi kan prata med. Den som använder en iPhonen har kanske talat med den virtuella assistenten Siri. SJ arbetar med en chatbot som ska assistera tågresenärer.
        Med hjälp av avancerade algoritmer och självlärande teknik går IT-jättar som Google, Apple, Microsoft, Amazon och Facebook i bräschen för denna utveckling. Ett väsentligt användningsområde för dessa talande applikationer är kunddialoger och kundstöd i olika företag, för att effektivisera dessa processer.
        Den gemensamma nämnaren för den utbredda forskning och teknikutveckling som pågår inom språk och IT är att det mänskliga språket är den överordnade normen som datorprogram ska dels kunna förstå, dels kunna tala.
        Med denna essä vill jag rikta blicken mot en liten forskningsnisch som avviker från denna gemensamma nämnare. Den övergripande frågan som ställs här är vad som skulle hända om vi låter datorprogram själva uppfinna sina egna språk i kommunikationen med varandra. Är det möjligt? Vilka syften skulle sådan forskning i så fall uppnå?

Vid det amerikanska forskningsinstitutet OpenAI bedrivs forskning med fokus på artificiell intelligens och robotik. I mitten av mars förhandspublicerade Igor Mordatch och Pieter Abbeel en artikel där de redovisar hur de arbetar med att låta virtuella agenter utveckla egna språk, utan att det mänskliga språket står som modell.

        Att träna datorer att efterhärma mänskligt språk ger förvisso ökade möjligheter att kommunicera med datorer, men det ger ingen kunskap om varför ett språk existerar. Ett syfte med denna forskning är att utöka den kunskapen. Inte kunskapen om strukturer inom eller relationer mellan språk, utan språkets funktion. Ett grundläggande antagande är att all kommunikation uppstår av nödvändighet; nöden är kommunikationens moder.
        Forskarna har skapat en enkel virtuell miljö med två virtuella agenter, två chatbots som kan agera självständigt i förhållande till varandra. Dessa agenter är också utrustade med självlärande algoritmer, så att de utan mänsklig inblandning, utan instruktioner självständigt utveckla språkliga färdigheter.
        Dessa virtuella agenter förses med olika enkla uppgifter som de ska utföra tillsammans. Det handlar exempelvis om att de ska förflytta sig från en plats i den virtuella miljön till en annan. Genom att utveckla ett språk ska dessa sedan koordinera sina rörelser så att de kan genomföra uppgiften.
        De virtuella agenterna får en uppsättning symboler till sitt förfogande, men utan förbestämda betydelser, så att agenterna måste skapa sina egna betydelser för symbolerna.
        Den forskning som presenteras i artikeln av Mordatch och Abbeel är i ett väldigt tidigt stadium. Än så länge prövar de möjligheter, snarare än fastställer signifikanta resultat. Ett resultat från denna studie är dock att de virtuella agenterna lyckas kommunicera med varandra med ett eget språk på ett funktionellt sätt, utan instruktioner från någon människa.
        De avslutar artikeln med ledtrådar till framtida studier: Att expandera komplexiteten i de virtuella agenternas språkbyggen och att utöka deras handlingsförmågor. De är även intresserade av att undersöka huruvida dessa agenters kommunikativa strategier kan tillämpas av människor.

Forskarnas syfte är som sagt att förstå hur språk utvecklas utifrån nödvändighet, men utan mänskligt språk som förlaga. Frågan är vilka ytterligare syften som kan uppfyllas med forskning som denna.

        Allt sedan människan började forska om artificiell intelligens har den mänskliga intelligensen fungerat som modell för datorers intelligens. Det klassiska turingtestet, uppkallat efter Alan Turing, den förste AI-forskaren, testade maskiners förmåga att efterhärma människors intelligens. 
        Om en människa kommunicerar med en maskin och inte kan avgöra om det är en maskin eller en människa man kommunicerar med, måste maskinen anses inneha mänsklig, men artificiell intelligens.
        På senare tid syns emellertid en diskussion där en motsatt uppfattning om intelligens förs fram. Med dagens exponentiella utveckling av datorteknik bör vi inte låsa oss vid den mänskliga intelligensen, utan låta datorer utveckla datorintelligens, det vill säga intelligens som utgår från datorernas förutsättningar – inte människans förutsättningar. Därtill är människans förutsättningar alltför begränsade.

Om vi vidgar sammanhanget ytterligare kan vi placera in denna forskning tillsammans med forskning om automatiska system i allmänhet; sociala robotar och självlärande maskiner.

        En farhåga som brukar framhållas kring konsekvenserna av sådan forskning är att människan placerar sig utanför robotarnas beslutsloopar, det vill säga att människan ges allt mindre inflytande över robotars och andra självlärande, automatiska systems beteenden. Robotarna fattar sina beslut oberoende av människan.
        Huruvida detta är en farlig utveckling eller inte är svårt att hysa en bestämd uppfattning om. Om vi går tillbaka till studien av Mordatch och Abbeel och deras språkutvecklande agenter, vet vi i alla fall en sak: Människan har visat att utveckling av språk är en mäktig idé.

torsdag, april 13, 2017

Var försiktig med vad du gillar och delar

Kultursidan Västerbottens-Kuriren 170413

Förtal är enligt brottsbalkens femte kapitel att utpeka ”… någon såsom brottslig eller klandervärd i sitt levnadssätt eller eljest lämnar uppgift som är ägnad att utsätta denne för andras missaktning”. Det gäller självfallet även om utpekandet sker i sociala medier.
       Hösten 2016 dömde en svensk tingsrätt en person för förtal efter att ha pekat ut en annan person som pedofil på Facebook. Inlägget gillades av många och fick därmed stor spridning.
        Den nyligen för populärvetenskapligt arbete prisade professorn i juridik, Mårten Schultz, kommenterade denna dom i SvD och avslutade med en brasklapp: Förtalsansvaret för spridning av klandrande uppgifter är ”… inte begränsat till den som först sätter uppgiften i omlopp”.
        Det innebär att även den som sprider uppgifterna vidare också skulle kunna åtalas för förtal. Att dela ett inlägg på Facebook eller att retweeta en tweet på Twitter skulle alltså kunna innebära ansvar för förtal.

Kan man även ställas till ansvar för att enbart ha gillat ett inlägg på Facebook, utan att ha delat det vidare? Ja. Enligt den schweiziska upplagan av The Local har en person i Schweiz stämts för förtal genom att personen har gillat ett inlägg på Facebook.

        Det ursprungliga inlägget beskrev en till viss del offentlig person som rasist och antisemit. Den person som har stämts delade inte inlägget vidare, men klickade på gillaknappen.
        Är ett gillaklick en form av spridning av information? Ja. Utan att vi exakt vet hur Facebooks algoritmer arbetar, styrs informationsflödet bland annat av hur många gillningar ett inlägg får.
        Ju fler som gillar ett inlägg, desto större är sannolikheten att inlägget synliggörs för fler. Facebookanvändare känner igen detta genom att obekanta personers inlägg kan synas i det egna flödet, därför att någon av ens vänner har gillat det.
        Domstolen i Schweiz har inte fastställt någon dom i det aktuella målet ännu, men följande kan fastställas: Var försiktig inte enbart med vad du skriver, utan även med vad du gillar, delar och retweetar i sociala medier. 

tisdag, april 11, 2017

Ny form av McCarthyism mot akademin

Kultursidan Västerbottens-Kuriren 170411

Det är självklart ett stort mediafokus på vad Donald Trump gör och inte gör när han tillträtt som president. Vi borde emellertid även rikta ljuset mot det som följer i Trumps kölvatten.

         Några veckor efter presidentvalet skapades en ny webbplats med namnet Professor Watchlist. Det är den konservativa organisationen Turning Point som står bakom webbplatsen, med syftet att registrera universitetslärare som yttrar uppfattningar som kan uppfattas som ”diskriminerande mot konservativa studenter, stödjer antiamerikanska värden och för fram vänsterpropaganda i lärosalen”.
         Grundaren av Turning Point, Charlie Kirk, citeras i en artikel i tidskriften Inside Higher Ed (22/11 2016): ”Det är ingen hemlighet att somliga bland Amerikas universitetslärare är helt olämpliga”. Han hävdar att han ofta får höra att universitetslärare attackerar konservativa och förmedlar liberal propaganda genom sina positioner på universiteten.
         Det Professor Watchlist gör är att registrera och synliggöra universitetslärare som antingen anmäls av studenter eller som har uttryckt sig i sociala medier på ett sätt som retar den konservativa organisationen.
         Ett syfte som inte uttrycks explicit, men kan tolkas mellan raderna, är att man önskar dels att universitetslärare ska anlägga självcensur i undervisningen, dels att skapa motstånd och protester mot vissa enskilda lärare hos såväl studenter som deras föräldrar.

Vi ser nu en liknande företeelse i Sverige, om än i mindre skala. Den liberale debattören Fredrik Segerfeldt söker i en reportageserie i Timbros regi nagla fast människor med vänstersympatier. I seriens fjärde del tittar han närmare på svenska universitetslärare och forskare (3/4 2017).
         Här namnger han några exempel på akademiska lärare och forskare som på olika sätt har positionerat sig till vänster i politiken och vill därmed påvisa att toleransen för vänsterns våldsideologier är stor.
         Syftet är att misskreditera den högre utbildningen i stort. Artikeln inleds med följande utsaga: "I den akademiska världen är toleransen för vänsterns våldsideologier stor." Men även om de enskilda exemplen stämmer, utgör de naturligtvis inget mönster. Att lyfta fram ett tiotal människor med vissa åsikter ur en population av cirka 16 000 personer visar inget mönster.
         Det är en modern form av McCarthyism vi ser framträda; en sorts häxjakt på universitetslärare som misstänks hysa vissa politiska uppfattningar.
         Det finns naturligtvis inget kausalt samband mellan Trumps presidentskap och denna McCarthyism. Att företeelserna sammanfaller i tiden är dock ett uttryck för den tidsanda vi lever i.

onsdag, april 05, 2017

Brusrobotar som motkrafter på nätet

Kultursidan Västerbottens-Kuriren 170405

Den 28 mars röstade USA:s kongress för en ny lag som ger internetleverantörer rätt att sälja sina kunders aktiviteter på internet till hågade köpare. Vilka webbsidor kunderna har surfat på, vilka länkar de klickat på har blivit en handelsvara. Och den är lukrativ. För företag som vill skapa riktad reklam på individnivå är dessa persondata guld värda.
       För medborgaren i ett samhälle där internet inte med enkelhet kan väljas bort, och där vi är helt beroende av någon internetleverantör för att nå nätverket, innebär detta en högre grad av övervakning och en större risk för integritetsintrång.
        Redan dagen efter kongressens omröstning dök emellertid en motkraft upp på internet. I nätupplagan av Wired (30/3) presenteras programmeraren Dan Schultz skapelse Internet Noise.
        Det är ett så kallat insticksprogram till webbläsaren som i all enkelhet utför automatiska sökningar på Google med slumpmässiga sökord i stor skala. På så sätt skapas en komplex och slumpmässig bild av internetaktiviteter som förvisso skett på den egna datorn, men som inte har något med individen bakom skärmen att göra.
        Programmet skapar helt enkelt en massa brus. Visst går det att hålla sig dold på internet genom att inte alls finnas där, men det är för de allra flesta ett ickealternativ. Ett annat sätt är att skapa sådant databrus att individen döljs.
        Dan Schultz syfte med Internet Noise är främst att skapa medvetenhet kring integritetsfrågor. Jag håller dock för sannolikt att vi kommer att få se flera och ännu mer utvecklade motkrafter på nätet.
        Det blir även intressant att se om internetleverantörerna kan skapa sina motkrafter i form av programvaror som lär sig skilja på brusrobotar och på människors aktiva nätanvändning. 

fredag, mars 10, 2017

BB-ockupanternas mångdubbla ilska är rättfärdigad

Kultursidan Västerbottens-Kuriren 170310

I slutet av 1990-talet deltog jag i ett seminarium kring IT och demokrati som arrangerades av dåvarande Demokratiutredningen. I mina minnesanteckningar framstår särskilt ett inlägg av före detta kulturminister Bengt Göransson som särskilt intressant.
        Flera seminariedeltagare ville se mer av experimenterande med olika typer av IT-användning för att stödja och utveckla lokal demokrati. Utan experiment får vi inte veta något om teknikens kvaliteter för demokratisk utveckling.
         På det svarade Bengt Göransson att det är alltid vanskligt; faller ett försök väl ut är de omöjligt att avbryta, och därmed måste det finnas ekonomiska resurser, inte bara under försökstiden, utan även för lång tid framåt.
         Det går inte att göra ett IT-demokratiförsök som förbättrar människornas leverne i Sveg, för att efter två år stänga ned projektet och återgå till en sämre situation. Därför är det många gånger bättre att avstå – eller att se till att projekt som lyckas är finansierade för lång tid framåt.

Jag tänker tillbaka på det seminariet när jag läser om den frustration medborgarna i Sollefteå ger uttryck för när landstinget i Västernorrland beslutat att stänga Sollefteå BB. Sjukhuset ockuperas, en kvinna har fött sitt barn i bilen mellan Sollefteå och Ö-vik mitt i vintern, arga insändare skrivs.

         Men, sådana är väl många människors villkor i mindre samhällen, på landsbygden, särskilt i Norrlands inland. Det finns knappast något BB i Sorsele, Ånge, Arvidsjaur eller Hofors. Har Sollefteåborna någon särskild rätt att klaga på frånvaron av ett BB?
         Ja, menar jag, det har de. I boken Tänka, snabbt och långsamt (2012) har nobelpristagaren Daniel Kahneman samlat ett stort antal forskningsresultat inom beteendeekonomi. Ett kapitel handlar om prospektteorin, där begreppet förlustaversion är centralt.
         Förlustaversion innebär i korthet att människor hatar förluster av något mer än de älskar vinster av samma sak. Vi reagerar betydligt starkare på hot än på möjligheter. Vi upplever det viktigare att undvika förluster än att skaffa oss vinster.

Det är förlustaversionen som kommer till uttryck i Sollefteåbornas ilska mot BB-nedläggningen. Det är också förlustaversionen Bengt Göransson uttryckte under demokratiseminariet.

         Det är förlustaversionen som rättfärdigar att Sollefteåborna är mångdubbelt arga för att förlora BB, än andra inlandskommuners medborgare för att de aldrig erhållit något BB. Det negativa värdet av en förlust av ett BB är större än det positiva värdet av att erhålla ett.
         BB i Sollefteå är, med Bengt Göranssons ord, ett lyckat demokratiprojekt. Därför borde det vara finansierat för lång tid framåt.

fredag, mars 03, 2017

Könskvotering ökar politisk kompetens

Kultursidan Västerbottens-Kuriren 170303

I en tidigare studie, som jag kommenterade på denna sida (160907), utvecklade en internationell forskargrupp med bland andra Olle Folke, Torsten Persson och Johanna Rickne en modell för att mäta kunskap, kompetens och ledarskapsförmåga hos folkvalda politiker. De gjorde även en jämförelse med befolkningen.

         Studien pekade på att politiker har kognitiva förmågor som överstiger den genomsnittliga medborgarens, särskilt med avseende på ledaregenskaper. Samt att detta inte beror på någon form av elitistiskt urval, utan att politiker är representativa i förhållande till befolkningen vad gäller socioekonomisk bakgrund.
         Nu har ovan nämnda forskare tillsammans med Timothy Besley genomfört en studie som utgår från samma modell för att undersöka vilka effekter könskvotering i politik har på kunskaps- och kompetensnivån hos politiker.
         Artikeln, som nu är kollegialt granskad och accepterad för publicering i en vetenskaplig tidskrift, har rubriken: Könskvotering och den mediokra mannens kris: Teori och evidens från Sverige (min översättning).

Inför valet 1994 införde socialdemokraterna i Sverige kvoteringsmodellen "varannan damernas" för att säkerställa att lika många män som kvinnor fanns representerade på valsedlarna. Forskargruppen undersökte vilken effekt sådan könskvotering får för kompetensnivån hos män på kommunal nivå.

         De studerade med sin kompetensmodell alla socialdemokratiska kandidater i Sveriges kommuner från 1982 till 2014, för att fånga kompetensnivån såväl före som efter könskvoteringens införande.
         När hälften av de valbara politikerna på kommunala valsedlar ska vara kvinnor, minskar antalet män på valsedlarna, eftersom män alltid varit i majoritet på valsedlarna. Studien visar att de män som faller bort från valsedlarna är de medelmåttiga männen; de som i forskarnas kompetensmodell hade låg kompetens konkurrerades ut av kvinnor i och med kvoteringen.
         Studien visar dessutom att den totala kompetensnivån hos politikerna ökade efter införandet av kvoteringsmodellen, vilket innebär att de kvinnor som kvoterades in var i hög grad kompetenta.

Könskvotering i olika sammanhang har ett egenvärde i form av rättvisa och demokrati; vi ska ha samma förutsättningar oberoende av kön och demokratiska församlingar ska representera hela befolkningen.

         Den här studien påvisar värden utöver egenvärdet: Vi fick kunnigare och kompetentare politiker med bättre ledarförmågor när könskvotering för politiska representanter infördes.
         Med könskvotering blir det helt enkelt svårare för män att behålla politiska positioner på andra meriter än kompetens. Med könskvotering säkerställer vi att också kvinnors kompetens bidrar till politiska beslut.

onsdag, mars 01, 2017

Psykografisk profilering i politikens tjänst

Kultursidan Västerbottens-Kuriren 170228

I informationsåldern är kampen om människors uppmärksamhet central. Information finns i överflöd, medan människors uppmärksamhet begränsas av såväl tid som kognitiva förmågor. Redan 1971 skrev Herbert Simon att en informationsrik värld skapar ett underskott av det informationen konsumerar: människors uppmärksamhet. Därmed måste människors uppmärksamhet allokeras alltmer effektivt i takt med att informationsmängden ökar.

        Att fånga människors uppmärksamhet har länge varit ett mål för marknadsförare av allehanda ting: varor, tjänster, budskap. Det trubbigaste sättet att fånga uppmärksamhet är masskommunikation, där samma budskap går ut till alla människor, även om budskapet är utformat för att fånga uppmärksamheten endast hos en del av människorna. Reklam för blöjor sänds i kommersiell teve, men endast spädbarnsföräldrar är målgruppen.
        När mer information om en befolkning blir tillgänglig, kan precisare segment av befolkningen urskiljas. Ett flertal enkla geografiska och demografiska indelningsfaktorer används för att rikta budskap till de som antas ha störst intresse av den: Kön, ålder, yrke, boendeort, utbildningsnivå, husdjursägarskap, föräldraskap – alla demografiska preciseringar är av intresse för den som söker människors uppmärksamhet.

I dag, när datamängderna om människor ökar exponentiellt och datorernas förmåga att bearbeta stora datamängder, framstår tidigare indelningar av befolkningen som ytterst trubbiga. Med stora mängder persondata kan betydligt precisare distinktioner mellan människor skapas, och därmed precisare budskap på individnivå.

        Vi ser en rörelse från geografiska och demografiska segment till psykografiska. Från att identifiera grupper av individer som segment, till att se varje individ som ett segment. Frågan som denna essä ställer är i vilken utsträckning psykografi bidrog till Donald Trumps seger i presidentvalet samt vilka konsekvenser psykografi kan få för framtidens demokrati.
        I ett långt reportage i tidskriften Vice (170128) beskrivs hur ett företag vid namn Cambridge Analytica med hjälp av enorma mängder persondata om amerikanska medborgare genomförde psykografisk profilering och skapade riktade politiska budskap på individnivå med syftet att övertyga människor att rösta på Trump.
        Psykografi är ett samlingsbegrepp för metoder att kartlägga en individs psykologiska karakteristika, som exempelvis värderingar, åsikter, attityder, intressen, livsstil och beteenden. Den psykografiska modell Cambridge Analytica använder kallas med en akronym OCEAN, även kallad The Big Five, eller på svenska: Femfaktormodellen.
        Individen analyseras med avseende på hennes öppenhet inför nya idéer, upplevelser och liknande (openness), samvetsgrannhet i form av noggrannhet, självdisciplin och liknande (conscientiousness), extraversion i form av social förmåga, vänlighet i form av tillit och samarbetsvilja (agreeableness) samt neuroticism i form av ångestbenägenhet, impulsivitet och stresskänslighet.

I dag kan sådan informationsinsamling effektiviseras genom att hämta data om individer på internet, företrädesvis från människors kommunikativa handlande i sociala medier. Varje enskilt inlägg på Facebook, retweet på Twitter, gillaklick på Instagram säger ingenting om en individ, men den som kan samla stora mängder små bitar av persondata, kan också skapa en psykografisk profil av denne individ med oceanmodellen.

       "Vi har personlighetsprofiler för varje vuxen människa i USA – 220 miljoner människor", hävdade företagets vd, Alexander Nix.
        Det självklara målet för Cambridge Analytica under Trumps kampanj var att identifiera typiska Trumpväljare och förse dem med budskap som uppmuntrade dem att rösta på Trump. En strategi var att inte betrakta traditionella republikaner som Trumpväljare, eftersom Trump inte är någon traditionell republikan. Det krävdes att se bortom partisympatier för att identifiera de individer som delade värdegrund med Trump.
        Ett annat mål för Cambridge Analytica var att identifiera potentiella Clintonväljare och förse dem med individuellt preciserade budskap som reducerade deras vilja att alls rösta i valet.

Det går att resa invändningar mot effektiviteten i de metoder Cambridge Analytica tillämpar för att stödja politiska budskap genom psykografi. Är det så enkelt att ett företag kan dammsuga internet på persondata och därefter vinna ett val åt en viss kandidat? I så fall torde andra företag kunna göra detsamma för andra kandidater.

        Även om vi lägger ut mycket information om oss i sociala medier, är det tveksamt hur tillgänglig denna information är. Har alla Facebookanvändare publika konton? Knappast.
        Vilken reliabilitet har sådana persondata för att skapa personlighetsprofiler? I vilken utsträckning är mitt beteende i sociala medier representativt för min personlighet? Decennier av forskning har kunnat peka på hur vi bygger olika personas i olika forum på nätet.

Election Management är det begrepp som bäst representerar det Cambridge Analytica sysslar med: Att styra väljare med personaliserade budskap i syfte att rösta på ett specifikt parti eller kandidat. Nu står kunder i Europa på tur. Frankrike, Tyskland och Holland står inför politiska val under 2017. Sverige har ett val 2018. Cambridge Analytica är sannolikt berett att bistå den som vill betala för deras tjänster.

        I USA är personuppgifter i högre grad en handelsvara jämfört med Sverige och Europa, vilket bidrar till att psykografiska metoder är enklare att använda i USA. Det belyser samtidigt värdet av en restriktiv lagstiftning kring användning av personuppgifter, om vi vill begränsa dessa metoder.
        Den stora frågan är nämligen om denna användning av psykografi och big data enbart ska ses som en gradvis legitim utveckling av hur politiska budskap formas och riktas till väljare – eller om en sådan utvecklingen leder till att det demokratiska valet av politiska representanter kommer att uppfattas så manipulerat att det blir korrupt.

tisdag, januari 03, 2017

Sociala medier som framtidens visum?

Kultursidan Västerbottens-Kuriren 170103

Hur vi agerar i sociala medier kommer att bli allt mer intressant för allt fler aktörer. Att arbetsgivare googlar och gör bakgrundskontroller i sociala medier av arbetssökande är sedan gammalt. Nu ser vi att det sker även vid inresekontroller.

       I Business Insider (23/12) rapporteras att vid gränskontrollen för inresa till USA har man börjat efterfråga användaruppgifter till olika sociala medier, såsom Facebook, Twitter, Instagram, LinkedIn, YouTube med flera.
        Syftet som anges av myndigheterna är att kunna identifiera potentiella hot mot landet; ett led i Homeland Securitys arbete med bakgrundskontroll av resenärer för att upptäcka terrorister.
        Ett datoriserat formulär används för resenärer att fylla i uppgifterna. Än så länge är det frivilligt, men man menar att det är osannolikt att resenärer skulle välja att inte fylla i dem, och därmed riskera att inte komma in i landet.
        Och samtidigt ska detta ha en preventiv verkan: Den som bedriver ljusskygga aktiviteter i sociala medier som inte tål granskning, kommer inte att resa till USA.

Det är ingen vild gissning att man har välutvecklade algoritmer för att bedöma människors personlighet mot bakgrund av deras aktiviteter i sociala medier. Vad man skriver, gillar, ogillar, länkar, vilka filmklipp man tittar på, vilka bilder man distribuerar, vilka vänner man har i sina nätverk – allt kan utgöra grund för personlighetsbedömningar.
        Kommer våra aktiviteter i sociala medier att fungera som ett slags visum i framtiden? Vad sker med resenärer som inte är aktiva i något socialt medium? Kommer de att vägras inresa?
        Är det små steg i utvecklingen av sociala medier till någon form av socialt kreditsystem vi beskådar?
        Många frågor. Det tycks dock rimligt att bli mer strategisk i sin användning av sociala medier. Frågan är bara vilka strategier som är bäst. 

lördag, december 31, 2016

Befinner vi oss i verkligheten?

Kultursidan Västerbottens-Kuriren 161231

Ett sätt att förstå vad som hände i USA under 2016 är att läsa Konspirationen mot Amerika av Philip Roth från 2005. Det är en kontrafaktisk roman som tar sin början 1940, då Amerika ska välja sin näste president.
         Den ene kandidaten heter Franklin D Roosevelt och är liberal. Den andre heter Charles Lindbergh, en populistisk politiker, en folkets man, lyhörd inför människors rädsla för det obekanta, med goda kontakter med Hitler och utpräglad antisemit.
         Att skriva en kontrafaktisk roman innebär att skriva fram en osann historia som berättar hur det skulle kunna ha blivit, när Lindbergh vinner presidentvalet framför Roosevelt.

Han skulle aldrig kunna bli republikanernas presidentkandidat i primärvalen, sade de. Han skulle aldrig kunna vinna presidentvalet mot Hillary Clinton, sade de.

         Med populistiska propåer, främlingsfientliga förslag, protektionistisk politik, kvinnoförnedrande kommentarer och en antielitistisk hållning till den politiska administrationen i Washington blir Donald Trump vald till president. Trots att Hillary Clinton får cirka tre miljoner fler röster.
         Apropå antielitism: De 17 ministrar Trump utsett när denna text skrivs, har en gemensam förmögenhet som är större än de 43 miljoner hushåll med lägst inkomster.
         Utöver den politiska retorik som präglade Trump under valkampanjen, är det ändå hans förhållande till sanningen som är allra mest anmärkningsvärt. En studie, där Trumps tusentals tweets mellan 1/6 2015 och valdagen 2016 undersöktes, visar att den högerpopulistiska och konspiratoriska sajten Breitbart är den främsta källan till hans twittrande.

Trumps egenartade förhållande till sanningen har dock genererat vissa positiva effekter. Ett exempel är att Washington Post har sett sig nödgad att skapa ett litet insticksprogram för webbläsare som faktagranskar Trumps olika tweets.

         Ett par veckor efter valet i november kunde traditionella nyhetsmedier notera en kraftig ökning av läsare. The New York Times uppgav att man hade fyrfaldigat antalet nya prenumeranter jämfört med en normal novembervecka.
         The Washington Post angav inga siffror men hävdade att de såg en stadig ökning av antalet prenumerationer. The Atlantics prenumerationer ökade med 160 % samtidigt som trafiken till dess webbplats dubblerades. The Guardian US ökade enbart dagen efter valet antalet prenumeranter med 25 gånger jämfört med en genomsnittlig dag.
         Men frågan kvarstår ännu på årets sista dag: Befinner vi oss i en kontrafaktisk roman av Philip Roth eller i den så kallade verkligheten?

tisdag, december 20, 2016

Oetisk forskning förförs av teknikens glitter

Kultursidan Västerbottens-Kuriren 161220

Ända sedan internets utbredning på 1990-talet har vi kunnat se att den tekniska utvecklingen och hur vi använder internet utgör olika utmaningar för andra samhällssystem. Det gäller exempelvis lagstiftning. Juridiken hänger inte med teknikutvecklingen, brukar det heta.

        När möjligheten att dela upphovsrättsskyddat material på internet skapades, behövde juridiken en tid på sig att reagera. Eller den tid det har tagit för rättsvårdande myndigheter att finna metoder att utreda näthat och näthot.
         Att våra sociala system inte hänger med teknikutvecklingen kan skönjas i den snabba tillväxten av sociala medier och vår oförmåga att upprätthålla en god social miljö i dessa medier. Rasism, misogyni, förföljelser och annat asocialt beteende florerar.
         Utvecklingen av alternativa informationssajter, ofta med desinformation och konspirationsteorier, visar att våra traditionella nyhetsmedier inte helt lyckats med strategier för att möta den tekniska utvecklingen.
         I takt med den ökade intensiteten i teknikens automatisering, utvecklingen av självlärande maskiner och artificiell intelligens börjar vi nu skönja att inte heller våra moralsystem hänger med. Syftet med denna essä är att försöka förstå hur framtidens teknik kan utmana våra moralsystem genom att fördjupa oss i ett enskilt fall.

Två forskare, Xiaolin Wu och Xi Zhang vid universitetet i Shanghai, har utvecklat en självlärande dator med syftet att lära sig känna igen och förutse vilka människor som är predestinerade för kriminella handlingar och vilka som är laglydiga. Datorn ska göra detta genom att identifiera särskilda kännetecken i människors ansikten.

         Forskarna har använt 1 856 ansiktsbilder, varav hälften är bilder av dömda brottslingar och hälften laglydiga medborgare. När datorn har bearbetat dessa bilder med de algoritmer forskarna skapat, finner de tre signifikanta detaljer i ansikten som skiljer kriminella från icke-kriminella.
         En viss form på överläppen, avståndet mellan ögonvrårna och vinklarna mellan nästippen och respektive mungipa. Enkelt uttryckt: Den som har en liten mun med krökt överläpp och tätt mellan ögonen är kriminell, eller kommer sannolikt att bli kriminell.
         Forskarna hävdar nämligen att deras maskins förmåga att korrekt identifiera kriminalitet utifrån ansikten landar på ca 90 procent. Därmed menar forskarna att det är möjligt att förutse vem som kommer att bli kriminell.

Det grundläggande antagandet i detta projekt är att människors karaktär och sociala beteende kan bedömas utifrån deras biologiska egenskaper. Det har alltid varit en lockande tanke hos människan genom historien.

         På 1800-talet och en bit in på 1900-talet mätte man människors skallar för att utröna och värdera deras egenskaper. Parallellt med detta försökte man även se om det fanns ett samband mellan hudfärg eller etnicitet och intelligenskvot. Det här skedde inom ramen för rasbiologin, där det främsta syftet var att visa hur en viss del av befolkningen är överlägsen en annan.
         Än i dag försöker man fastställa om människor kan vara födda till kriminalitet, det vill säga att det finns genetiska betingelser som kan upptäckas i människors DNA.
         Såväl rasbiologi som frenologi (läran om att människors sociala egenskaper kan utläsas i hennes utseende) är i dag helt förkastade kunskapsfält och räknas som pseudovetenskap. Forskning inom dessa fält skulle omedelbart betecknas som oetisk.

Hur kommer det sig att det finns en vetenskaplig artikel som i allt väsentligt sysslar med frenologi, men med avancerad teknik inom artificiell intelligens? Är det nyhetsvärdet i utvecklingen av självlärande algoritmer som motiverar denna forskning?

         Först och främst ska sägas att denna artikel, med titeln Automated Inference on Criminality using Face Images, är en så kallad pre-print, det vill säga förhandspublicering i en stor databas för publicering av forskning innan den publiceras i någon vetenskaplig tidskrift. Databasen heter arXiv.org och förvaltas av Cornell University Library.
         Kommer artikeln att passera den kollegiala granskning som görs inför publicering i tidskrifter?
         Frågan är om det spelar någon roll. Artikeln har ändå fått viss uppmärksamhet på relativt kort tid. Främst kritisk sådan, men även nyfiken.
         Finns det någon diskussion i artikeln om etiska problem eller om detta projekts relation till pseudovetenskapliga idéer? Nej, knappast alls. En liten passus finns kring varför det finns så lite forskning kring ansiktsformens betydelse för människors kriminella beteende. Dock berör de inte rasbiologi eller frenologi, utan tror att det beror på "historiska kontroverser som omgärdar undersökningar och stigman som associeras med socialdarwinism".
         Dessa forskare tror att de kommer undan med sin forskning genom att hävda att det är en maskin som utför ansiktsanalyserna, och att en maskin inte är behäftad med fördomar kring kön, etnicitet, religion, politik, ålder och andra faktorer.
         Datorer kan inte vara rasister, eftersom de är datorer, tycks de hävda, men glömmer att även datorer som utrustas med inslag av självlärande algoritmer är utformade av människor. Om människor har fördomar, kan man omöjligen hävda att datorprogram som designats av människor är fria från fördomar.

Det som oroar allra mest inför framtida forskning inom artificiell intelligens och maskinlärande är dessa forskares motiv till sin forskning. Det blir, hävdar de, med denna moderna teknik oemotståndligt att utforska relationen mellan ansiktsform och kriminalitet.

         Oemotståndligt. Det är, som jag brukar kalla det, teknikens glitter som förför. Det som glittrar är teknikens makt, samma makt som berusade de vetenskapsmän som utvecklade atombomben.
         Man behöver inte tänka länge för att bli rent ut sagt rädd för nyfikna forskare som drabbas av teknikens glitter utformar algoritmer för att fastställa olika samband mellan biologiska egenskaper och sociala beteenden.
         Varför nöja sig med kriminalitet? Vilka andra beteenden kan man vara nyfiken på att förutsäga genom biologiska uttryck? Ser vi början till en eugenik 2.0?