从一百多人，车辆一百多辆，直接朝着兖州出发。
他们途经徐州，徐州太守陶谦，字恭祖，为人温和宽厚、淳朴老实，一直想结交曹操，只是没有机会。得知曹操父亲路过，便出城迎接，恭敬地行大礼，大摆宴席，热情款待了两天。曹嵩要启程时，陶谦亲自送出城外，并特意派遣都尉张闿，率领五百士兵护送。
曹嵩带着家小走到华县和费县之间时，正值夏末秋初，突然下起了大雨，只好到一座古寺投宿。寺里的僧人将他们迎入。曹嵩安顿好家眷，命令张闿把人马驻扎在寺院的两廊。士兵们的衣服都被雨水打湿了，纷纷抱怨起来。张闿把手下的头目叫到僻静处商量：“我们本来是黄巾军的余党，勉强投降了陶谦，却没得到什么好处。现在曹家有无数的辎重车辆，你们想要富贵并不难，就在今晚三更，大家冲进去，把曹嵩一家杀了，夺取财物，然后一起到山中做强盗。这个计策怎么样？”众人都表示同意。
当晚风雨未停，曹嵩正坐着，忽然听到四周喊声大起。曹德提着剑出去查看，立刻被刺死。曹嵩慌忙带着一个妾逃进方丈室后面，想要翻墙逃走，妾因为肥胖翻不过去。曹嵩着急之下，和妾躲到了厕所里，被乱军杀害。应劭拼命逃脱，去投奔袁绍了。张闿杀光曹嵩全家，抢走财物，放火烧了寺庙，和五百士兵逃到淮南去了。后人有诗写道：
曹操奸雄世所夸，曾将吕氏杀全家。如今阖户逢人杀，天理循环报不差。
当时应劭部下有逃命的军士，把这件事报告给了曹操。曹操听到后，悲痛得哭倒在地。众人将他救起，曹操咬牙切齿地说：“陶谦纵容士兵杀我父亲，此仇不共戴天！我现在发动所有大军，荡平徐州，才能平息我心头之恨！”于是留下荀彧、程昱率领三万兵马守卫鄄城、范县、东阿三县，其余人马全都杀向徐州。夏侯惇、于禁、典韦担任先锋。曹操下令，只要攻下城池，就把城中百姓全部屠杀，以报杀父之仇。
这时九江太守边让，和陶谦交情深厚，听说徐州有难，亲自率领五千兵马前来救援。曹操得知后大怒，派夏侯惇在半路截杀了他。陈宫当时担任东郡从事，也和陶谦关系很好，听说曹操起兵报仇，还要杀光百姓，连夜赶来见曹操。曹操知道他是来为陶谦当说客的，本想不见，但又念及往日的恩情