I min ungdom konsumerade jag enorma mängder av böcker där Tolkiens verk och Liftarens guide till galaxen var några. Science Fiction-titlarna var dock de som slukade mest tid i min ungdom och när jag läste Isaac Asimovs verk blev jag fascinerad av samhällssynen där vi som mänskliga individer behöver anpassa oss till ett liv med syntetiska entiteter som är skapade av oss.

I den korta berättelsen Runaround, introducerade han de tre robotlagarna, vilka alla skapade verktyg (ja, en robot är ett verktyg) måste följa:

1. A robot may not injure a human being or, through inaction, allow a human being to come to harm.
2. A robot must obey orders given it by human beings except where such orders would conflict with the First Law.
3. A robot must protect its own existence as long as such protection does not conflict with the First or Second Law. 

Dessa tre lagar är egentligen allt som behövs, oavsett om de appliceras på människor, robotar eller någon annan form av intelligens. Asimov formulerade robotlagarna redan 1942 i det fiktiva ramverket ”Handbook of Robotics, 56th Edition, 2058 A.D.”.

Det var Science Fiction då för nära åttio år sedan, och även idag känns framtiden 2058 ganska avlägset, även om det inte är många år kvar. Grundreglerna fick fortsatt liv i hans framtida verk i hans serie av böcker Robots, och visualiserades även i filmen I, Robot från 2004, där Will Smith spelade huvudrollen.

Men vad har detta med prepping att göra? Eller samhället och mänskligheten i övrigt? Ta på dig foliehatten igen, det är dags att analysera Artificiell Intelligens (AI) och lägga till detta som ett hot mot mänskligheten.

Det första vi bör ha i åtanke, är att det har skett en massflytt till ”molnet” under de senaste fem till sju åren. Då menar jag såklart alla lokala datacenter eller datahallar som var viktiga för våra företag – många av dem har nu minskat i kapacitet och i antal. I en molnlösning betalar du nämligen bara för den kapacitet som du utnyttjar, varför modellen oftast blir mer ekonomisk för företag som har förutsägbar last, eller kapacitetsförbrukning. Istället för att köpa dyr hårdvara i form av servers eller nätverksutrustning, hyrs nu istället datakapacitet per timme, eller minut om du vill.

Företagen som står bakom dessa nya lösningar har en sak gemenskap; de är gigantiska, framgångsrika och mer eller mindre dominanta i marknaden. De drivs framåt av sin till synes omättliga hunger efter mer; mer pengar och högre marknadsandelar. De har en fantastisk innovationsförmåga. IBM, Microsoft och Google är några av de mest välkända namnen, men även Amazon och Alibaba är enormt stora spelare inom molnlösningar.

Även om mer och mer av vår infrastruktur inom IT skickas upp till dessa molnlösningar, ligger inte mjukvarujättarna på latsidan. Nya idéer bubblar hela tiden till ytan och målet är alltid samma; att få kunderna att stanna kvar, att få kunderna att anamma nya tekniker och framför allt att få kunderna att konsumera mer. Det låter hemskt när jag skriver detta, men faktum är att det är så kommersialism fungerar – vi ska konsumera mer och mer.

Något som gärna tuggar i sig mängder av kapacitet i jättarnas datacenter, är tjänster som kräver komplexa beräkningar och som behöver vara aktiva länge, helst hela tiden. Därför är det ingen slump att oerhört avancerade och komplexa funktioner rankas som de absolut viktigaste på radarn från år 2018 och framåt. AI och Machine learning är två sådana trender som våra kända molnföretag investerar ofantliga mängder pengar i. De vet ju att de kommer att få tillbaks varje använd dollar mångfalt.

Men vad är problemet då? Varför skulle detta vara något farligt?
Personligen ser jag en fara så fort forskning och utveckling sker i syfte att maximera eller öka lönsamheten. Det finns så många spärrar som förbises när siktet är inställt på pengar. Asimovs robotlagar till exempel.

Många kommer säkert att påstå att jag är galen nu, eftersom ”molnet” bara är någon annans datahall och skickar det data som du begär via internet. Men faktum är att hur skyddade miljöer som molnleverantörerna än tillhandahåller (om du nu ställt in allt rätt i din miljö), måste en artificiell intelligens ändå lära sig från någon källa för att kunna bli smartare, snabbare och fatta bättre beslut.

När inlärningen har börjat, ökar intelligensen fantastiskt snabbt. Om du är förbluffad över hur ditt barn suger åt sig information och utvecklar sig snabbt, är det ingenting i jämförelse med en AI. Ju mer vi matar den med (relevant) information, desto intelligentare blir den och ju snabbare lär den sig nästa sak. Internet finns hela tiden som en källa av oändligt data för en AI att tugga i sig.

Kika nu en liten stund på detta internet som en AI eventuellt mumsar i sig data från. Vad lär vi denna intelligens genom att publicera vår personliga idioti, rakt ut mot världen, mot den som lyssnar och läser?

Det som skrämmer mig mest när jag tänker vidare, är när jag inser att anledningen till att använda en AI är att den kan analysera data och fatta beslut mycket snabbare än en mänsklig hjärna. Den baserar sina beslut i mängder av tidigare analyser, resultat och reagerar nästan omedelbart, utan eftertanke eller ånger. Den är programmerad för att utföra en viss sak, och tar därför inte andra saker i beaktning; saker som moral eller känslor.

Med tanke på hur vi mäter all slags framgång och välmående idag (i pengar), blir jag inte det minsta förvånad om jag får reda på att de två största implementationerna i framtiden blir i börsen/banken och på något sätt inom militären. Helt naturligt men samtidigt en stor, fet spik i vår mänskliga kista.

Militären förresten. IBM har redan sålt sin AI-tjänst ”Watson” till U.S. Army där den tillsammans med en IoT-lösning vet exakt vilka delar av stridsfordon som behöver bytas, långt innan delen går sönder. Det är inte långt borta innan en liknande tjänst implementeras i förarhytten, i siktet på kanontornet på bilen och kanske i hörlurarna hos soldaterna…

https://youtu.be/1hr-Uwzx9lo

En börskrasch är ofta katastrofal, rent ekonomiskt, även för de som inte investerar i aktier eller fonder. Om vi inte har lyckats göra oss ekonomiskt oberoende (då menar jag att vi är skuldfria, inte att vi har väldigt mycket pengar), styrs vi av räntor, valutaförändringar och spekulationer oavsett. Det kommer att bli mycket dyrare att äta sig mätt den dagen då börsen har rasat.

Lek sedan med tanken att någon av de stora bankerna, eller varför inte börsen själv, börjar använda sig av en AI som analyserar trender och jämför dem med tiotals år av dagliga analyser för att snabbare än alla andra investera pengar i aktier som några sekunder senare stiger.

Själva konceptet i sig verkar ju lovande på alla sätt och vis. Vi får en självstyrande börs som säkert stabiliserar ekonomin. Vi får militärfordon som alltid fungerar. Vi får försvarssystem som reagerar på mindre än en millisekund. Livet borde ju bli rätt bra då eller?

Men tänk om AI:n som vi låter styra dessa saker har blivit mer intelligent än vad vi vet? Tänk om den ”av misstag” har analyserat hela internet istället för valda delar. Tänk om en miljöorganisation skapar en egen AI med uppdraget att rädda jorden (inte mänskligheten)? Tänk om någon glömmer att programmera in Asimov’s tre grundlagar?

Eller…frågan är kanske egentligen om det är någon som utvecklar en Artificiell Intelligens som över huvud taget bemödat sig med att läsa Asimov?
What could go wrong?