武则天还沉浸在丧子的哀痛中时，一场叛乱突然爆发了。徐敬业在扬州起兵，诸多李姓皇族都参加了讨伐武则天的大军，形势急转直下。一次，苏良嗣在上朝路上遇到了薛怀义，薛怀义对苏良嗣傲慢无礼，苏良嗣因而大怒，命令左右的人把薛怀义拽下去，打了数十个耳光。武则天知道了这件事情后，对薛怀义说：禅师应该从北门而入，南衙是宰相往来的，你别冒犯他们啊。
监察御史薛仲璋请求前往扬州调查徐敬业谋反的事，实际上他去扬州是跟徐敬业等人汇合，决定与他们里应外合，一同谋反。徐敬业假造圣旨，把扬州的军政大权掌握在手里，调集军队后一举起事。徐敬业还发布了由骆宾王写的《传檄天下文》，顿时朝野震动，广为传颂。