Om man gör det matematiska antagandet att alla processer inom en människa är materiella och således potentiellt replikerbara, möjliga att återskapa av en maskin, framstår självklart generell AI som en ständigt närvarande potential. Vars förverkligande endast är en fråga om när, inte om. Men är den typiska slutledningen, att den med nödvändighet kommer vara förödande för mänskligheten om den realiserades, lika självklar? Om vi leker med tanken att vi lyckades återskapa en människa, har inte den saken då samma potential för godartade och elakartade utfall som vi andra? I bästa fall en produktiv medborgare och i värsta fall en kompetent brottsling? Problemet med den matematiska synen är att den lurar oss att tro att man kan slänga mer av något på något annat och att det då kommer få väntade effekter. Att vi kan dra upp ett reglage, ge en singularitet ännu mer kraft och förvänta oss mer IQ, mer av samma, mer människolikhet. Den blev ännu mer människa än människan själv. Jag tror inte att det stämmer. Jag oroas mer av den smala ofullständiga intelligensen. Den med allvarliga, men svårupptäckta luckor. Som döljs bakom en fasad av normalitet[^43]. Nästanmänsklighet. Nu argumenterar jag emot endast simulerings-/replikeringsparadigmet i generell AI. Om man med singularitet avser att en maskin överträffar, utan att efterlikna, en människa vore det naturligtvis ett allvarligt hot. Om den är överlägset kompetent. Framförallt om den kompetensen står under vissa enskilda människors kontroll snarare än robust demokratiska samhällen. Och används för att utöka ojämlikhet. Men jag menar då att det skulle vara en slags ickestark AI. En överlägsen, ickestark AI.

DELA