數日以後，董卓餘黨李蒙、王方在城中為賊內應，偷開城門，四路賊軍一齊擁入。呂布左衝右突，攔截不住，引數百騎往青瑣門外，呼王允曰：“勢急矣！請司徒上馬，同出關去，彆圖良策。”允曰：“若蒙社稷之靈，得安國度，吾之願也；若不獲已，則允奉身以死。臨難苟免，吾不為也。為我謝關東諸公，儘力以國度為念！”呂布再三相勸，王允隻是不肯去。不一時，各門火焰竟天，呂布隻得棄卻家小，引百餘騎飛奔出關，投袁術去了。

正飲宴間，忽人報曰：“董卓暴屍於市，忽有一人伏其屍而大哭。”允怒曰：“董卓伏法，士民莫不稱賀；此何人，獨敢哭耶！”遂喚軍人：“與吾擒來！”斯須擒至。眾官見之，無不惶恐：本來那人不是彆人，乃侍中蔡邕也，允叱曰：“董卓逆賊，本日伏法，國之大幸。汝為漢臣，乃不為國慶，反為賊哭，何也？”邕伏罪曰：“邕雖鄙人，亦知大義，豈肯背國而向卓？隻因一時知遇之感，不覺為之一哭，自知罪大。願公見原：倘得黥首刖足，使續成漢史，以贖其辜，邕之幸也。”眾官惜邕之才，皆力救之。太傅馬日磾亦密謂允曰：“伯喈絕代逸才，若使續成漢史，誠為盛事。且其孝行素著，若遽殺之，恐失人望。”允曰：“昔孝武不殺司馬遷，後使作史，遂致謗書流於後代。方今國運陵夷，朝政龐雜，不成令佞臣執筆於幼主擺佈，使吾等蒙其訕議也。”日磾無言而退，私謂眾官曰：“王允其無後乎！善人，國之紀也；製作，國之典也。滅紀廢典，豈能久乎？”當下王允不聽馬日磾之言，命將蔡邕下獄中縊死。一時士大夫聞者，儘為流涕。先人論蔡邕之哭董卓，固自不是；允之殺之，亦為已甚。有詩歎曰：“董卓擅權肆不仁，侍中何自竟亡身？當時諸葛隆中臥，安肯輕身事亂臣。”且說李傕、郭汜、張濟、樊稠逃居陝西，令人至長安上表求赦。王允曰：“卓之放肆，皆此四人助之；今雖大赦天下，獨不赦此四人。”使者回報李傕。傕曰：“求赦不得，各自逃生可也。”謀士賈詡曰：“諸君若棄軍單行，則一亭長能縛君矣。不若誘集陝人並本部軍馬，殺入長安與董卓報仇。事濟，奉朝廷以正天下；若其不堪，走亦未遲。”傕等然其說，遂流言於西涼州曰：“王允將欲洗盪此方之人矣！”眾皆錯愕。乃複揚言曰：“徒死無益，能從我反乎？”眾皆願從。因而聚眾十餘萬，分作四路，殺奔長安來。