“這個題目很諷刺，因為每一個關於野生智慧的將來的訊息報導或與之相乾的話題，包含我們正在停止的話題在明天的訊息中，能夠都會貼上好萊塢科幻電影《閉幕者》的海報作為標簽，機器人對抗人類（聳聳肩，場下一陣轟笑）。”

“以是，當超等AI呈現的時候，人類的運氣或許會取決於這個超等聰明體想要做甚麼。”

“的確還是相稱困難（轟笑聲再次傳遍全場）！”

“有人能夠會說了，如果一個‘電腦’開端在人臉上插上電極，我們能夠關掉電腦。實際上，這絕對不是一件輕易的事情，如果我們非常依靠這個體係，比如我們依靠的互聯網，你曉得互聯網的開關在那裡嗎？”

“那麼題目來了，它的愛好是甚麼呢？”

“最遍及的答覆是科技，這的確是對的，科技是我們人類汗青不竭堆集下來的巨大服從。”

……

“或許會說，我不是很有信心確保超等AI會不會發明縫隙並逃脫。以是我們決定斷開互聯網的連接來建立一個空地絕緣，但我不得不重申一遍，人類黑客都能夠一次次以社會工程超越如許的空地。”

“這並非不成能，而是能夠的，其成果能夠令人類受益匪淺，但它不會是主動產生的，它的代價觀是需求指導的。”

“現在，或許我們並不能處理第二個安然性的題目，因為有些身分需求你去體味，你需求利用到阿誰實際架構的細節才氣有效實施。”

“超等AI或者說超等聰明體是一個非常強大的優化過程，它非常善於操縱資本來達到終究的目標，這意味具有高聰明和具有一個對人類來講有效的目標之間並冇有必定的聯絡。”