Varför tar boken ”När havet steg” överhuvudtaget upp artificiell intelliens (AI)?

Från en teknikoptimistisk sida borde AI kunna lösa många mänskliga problem. Man har sett hur Google klarar av att söka i oerhört stora datamängder, hur översättningen från ett språk till ett annat blir allt bättre, hur AI-program slår världsmästare både i schack och i GO. Man tänker sig att robotar kan tjänstgöra i havererade kärnkraftverk likaväl som vara sällskap åt sjuka och isolerade äldre. Varför då inte tänka sig att något AI-system skulle kunna styra mänskligheten så att vi inte förstör jorden lika mycket som nu? Ett AI – system borde kunna räkna ut vad man kan göra i klimatförstöringens tidevarv, eller?

Från en teknikpessimistisk sida kan man fråga sig varför ett så klokt AI system skulle tjäna människor? Varför skulle det inte utveckla sig till sin egen fördel, få en egen agenda? De här senare frågorna tar MaxTegmark och Nick Bostrom upp. Om AI utvecklas till en superintelligens, vad kan vi då göra för att hindra den från att tjäna sig själv snarare än människor?

Boken ”När havet steg” tar upp frågan ”tänk om”. Tänk om vi lät ett system byggt på artificiell intelligens styra oss. Vad skulle kunna hända då? Det här är bara ett scenario. Du kan säkert hitta på många fler.