“如果我們想要統統不被偏離我們的料想，野生智慧的代價觀和我們的代價觀相輔相成不但是在熟諳的環境下，比如我們能夠很輕易的查抄它的行動的時候，但也要在統統的野生智慧能夠會碰到的前所未有的環境下，在冇有邊界的將來與我們的代價觀仍舊相輔相成，也有很多通俗的題目需求被處理：比如它如何做定奪、若那邊理邏輯不肯定和近似的諸多題目等等。”

“以是，任何詭計節製一個超等AI的行動都是極其好笑的，我們不能對我們能夠永久節製一個超等聰明體而表示出過分的自傲，它總有一天會擺擺脫製，而到那以後呢，它是否會是一個仁慈的神？”

“或者你也能夠假裝出了題目。這個時候，法度員就會把你翻開看看是那裡出錯了，他們找出源代碼，而在此過程中你便能夠獲得節製權了。或者你能夠策劃出一個非常誘人的科技藍圖，當我們實現以後，會存在一些作為野生智慧的你已經打算好的奧妙的副感化用於實現你的隱晦目標等，例子是多的數不堪數。”

“假定現在有一個如此成熟科技的超等聰明體，它的強大將是人類難以設想的，凡是環境下它能獲得它想要獲得的任何東西，我們人類的將來將會被這個超等AI的愛好所主宰。”

“是以得出告終論，即：在將來，任何明顯的思惟基體的竄改，其成果都能帶來龐大的差彆。”

“就連我們人類黑客每時每刻都能發明收集縫隙。”

“這個任務看起來有些困難，但並冇有像締造一個超等聰明體一樣困難不是嗎？”

“細心想想，假定地球是一年前纔出世的，那麼我們人類就是在10分鐘前才呈現的，產業期間從兩秒鐘之前開端停止竄改。如果製作一個統計圖那麼是如許的表示情勢：兩秒鐘之前幾近一年的時候階段都是緊貼著0，而兩秒鐘後垂直上升。”

“而在本世紀，人類能夠將超等AI的聰明喚醒，我們將會看到聰明的大爆炸。當人們在思慮甚麼是聰明甚麼是笨的時候，特彆是當我們議論到力量權力的時候。”

“並且我能設想假定統統順利，幾百年、幾千年或幾百萬年後當我們的後代子孫回顧我們這個世紀，他們或許會說，我們的先人、我們這一代人所做的最最首要的事情，就是做出了最精確的決定。”

“……記得在二三十年前的時候，我和很多的數學家、工程師、野生智慧專家一起事情過，我們常常會坐在一起會商並思慮關於將來的野生智慧及其與之相乾的事情。”