Krönika:

Om farligheten i att effektivisera.

5:11 min

För den som är intresserad av den pågående utvecklingen inom artificiell intelligens – med allt från marknadsföringsalgoritmer och självkörande bilar till vårdrobotar och i slutändan, tror åtminstone somliga, maskiner som i mer allmän mening faktiskt kommer att vara intelligenta – blir ett visst tankeexperiment mycket
snabbt bekant. I princip vilken bok om AI-teknik man än öppnar så finns den där: Gemapokalypsen. Denna vitt spridda undergångsberättelse utgår från scenariot att den första
maskinen som uppnår en allmän intelligens som överträffar människans, råkar vara en som skapats i syfte att maximera produktionen på en gemfabrik. Vi föreställer oss alltså en maskin som, till skillnad från tidigare AI:er, inte bara kan utföra en viss uppgift som exempelvis matematiska beräkningar, utan som är allsidigt intelligent på samma sätt som vi själva, bara på en högre nivå. Maskinen har som enda mål att se till att det tillverkas så många gem som möjligt. Så långt låter det harmlöst, vi
tänker oss att gemfabriken skulle göra extra goda affärer det året men kanske inte så mycket mer än så, men det visar sig vara en felbedömning. Den superintelligenta maskinens mål är att tillverka gem, och den kommer med alla medel att fortsätta tillverka gem så länge det finns lämpligt material kvar på jorden,
eller i solsystemet, eller i Vintergatan – och som en maskininlärningsforskare har uttryckt det så vill maskinen oss varken illa eller väl, men vi ”består av atomer som den kan ha annan användning för”. Gemscenariot har anklagats för att vara alltför orealistiskt, och ungefär lika angeläget att diskutera som risken för överbefolkning på Mars: Den övermänskligt intelligenta supermaskin som genom att manipulera sig ut från sin fabrik och ta kontroll över världen skulle kunna omvandla universum till en hög med gem – finns helt enkelt inte. Men kanske har detta lite skruvade exempel något att säga oss även i frånvaro av en högintelligent AI med kapacitet att göra världen till kontorsmateriel. Vad det handlar om är ju nämligen inte alls gemproduktion, eller ens fabrikstillverkning. Vilken målsättning maskinen har är egentligen mer eller mindre oväsentligt, i synnerhet som det också visat sig vara nästan omöjligt att formulera något enda mål som aldrig kan vändas till något destruktivt – nej, vad tankeexperimentet visar är helt enkelt att det är livsfarligt att vara alltför effektiv, oavsett mål. Ett annat område där effektiviteten visat sig bokstavligt talat livsfarlig är strävan att motverka klimatförändringarna. Medan optimistiska bedömare gärna framhåller energieffektivisering som ett sätt att minska människans utsläpp av växthusgaser, visar all historisk erfarenhet att effekten är den direkt motsatta. Ju billigare och mer effektiv en teknik är, desto mer är vi benägna att använda den. Blir husen energisnåla tenderar vi alltså att köpa ett dubbelt så stort, och i en bil med låg bränsleförbrukning tycker vi oss ha råd att köra några extra mil. På samma sätt som ett mer högavkastande jordbruk inte leder till mindre uppodlad markareal, utan istället till snabbare befolkningstillväxt.

Den nya sortens glödlampor, så kallad LED-belysning, utgör ännu ett, i dubbel mening lysande, exempel. När lamporna först introducerades fanns starka förhoppningar om att deras mer energisnåla teknik skulle leda till en minskning av elförbrukningen i belysningssektorn. Istället har de nya billigare lamporna lett till en
lavinartad ökning av i synnerhet utomhusbelysning. Den förväntade
energibesparingen uteblev med andra ord, och överflödigt spilljus orsakar dessutom allt större störningar av den biologiska rytmen hos djur och växter. Ännu ett fall där effektiviteten i sig tycks utgöra en betydande del av problemet. Så vad allt detta vill säga är väl egentligen att när du på andra sidan tomtgränsen skymtar grannen sätta igång med att måla om husfasaden, efter att redan ha
trimmat häcken och kört barnen till teaterkollot, medan din egen gamla gräsklippare står trasig i garaget och du fortfarande kämpar med att få ungarna att sätta sig och äta frukost – då kan du tänka på att din ineffektivitet faktiskt kan vara det mest livsbefrämjande, säkerhetsmedvetna och politiskt framåtsyftande du har.