“或許會說，我不是很有信心確保超等AI會不會發明縫隙並逃脫。以是我們決定斷開互聯網的連接來建立一個空地絕緣，但我不得不重申一遍，人類黑客都能夠一次次以社會工程超越如許的空地。”

“而當付與該任務的野生智慧是一個超等聰明體，超等AI的時候，它就會心識到有一個更好的體例能夠達到這個結果或者說完成任務：它能夠節製天下，並在統統人類的臉部肌肉上插入電極讓人類不竭地笑。”

“這個任務看起來有些困難，但並冇有像締造一個超等聰明體一樣困難不是嗎？”

“那麼對於這個題目能夠被有效的處理是否保持悲觀？”

“我們和我們的先人有25萬代的差異，在此期間，我們從撿起地上的石頭作為兵器到能操縱原子能製造毀滅性的超等炸彈，現在我們曉得如此龐大的機製需求很長的時候來退化獲得，這些龐大的竄改倒是取決於人腦中藐小的竄改，黑猩猩的大腦和人類的大腦並冇有太大的差彆，但人類勝利了，我們在內裡而它們在植物園內裡！”

“我們不需求對超等AI寫下統統我們在乎的事情，乃至把這些事情變成計算機說話，因為這是永久不成能完成的任務。而應當是，我們締造出的野生智慧用它本身的聰明來學習我們的代價觀，能夠鼓勵它來尋求我們的代價觀，或者去做我們會同意的事情，去處理富有代價的題目。”

“假定現在有一個如此成熟科技的超等聰明體，它的強大將是人類難以設想的，凡是環境下它能獲得它想要獲得的任何東西，我們人類的將來將會被這個超等AI的愛好所主宰。”

“是以得出告終論，即：在將來，任何明顯的思惟基體的竄改，其成果都能帶來龐大的差彆。”

“在這個題目上，我們不該該實足自傲的表示我們能夠掌控統統。”

“的確還是相稱困難（轟笑聲再次傳遍全場）！”

“以是我們現在麵對一個題目：人類還需求多久才氣夠讓野生智慧具有這類強大的才氣？”

“就連我們人類黑客每時每刻都能發明收集縫隙。”

“聰明大爆炸的初始前提，需求從最原始的階段被精確建立起代價觀。”