爆发
5月3日上午九时左右，中国军队第四十军贺耀祖部的一名士兵因患病被送往基督教医院治疗，遭到日军士兵阻止通行，由于语言不通，发生争执。日军士兵突然开枪，打死中国士兵一人，余人避入医院。大约同时，日军在魏家庄向正在张贴标语的中国士兵开枪，造成数人死伤。此外，据贺耀祖回忆，日军在九时左右突然向驻扎在附近的第四十军第三师第七团的两个营展开攻击。由于当时第七团的团长、营长正外出开会，两个营伤亡惨重，其中第二营全军覆没[2]。十点半时，有一个日本人在隆昌洋行附近试图通过第四十军防地，遭到四十军士兵阻止，双方发生冲突。各处日军士兵听到枪声后陆续开枪，对中国市民和军人展开屠杀，十二时之后已经枪声密集，导致尸体满街[1]。十二时后交涉公署已无一人，电话亦被割断。此后，济南城内各个革命军师团向日军展开反击，日军派联络参谋佐佐木到一中佐知会蒋介石，声称遭受革命军挑衅攻击，要求革命军停火[2]。蒋介石知悉后当即命令城外的中国军队于下午五时之前离开济南市，并知会日军第六师团长福田彦助，请其约束部下。日军趁混乱（也有说是在5月6日）将当时驻扎于济南市广东会馆的第四十军第七团军士共千余人强行缴械，当场枪杀不少人后，将其余人押送至日本领事馆。第三十七军第一团在其驻地小纬四路遭日军包围缴械，官兵大部被掳走。有日军向南京政府外交部长黄郛办公处开枪射击。黄郛随后赴日军司令部交涉，遭到强行扣留，卫队被缴械，日军迫使他签字承认冲突由中国士兵挑起，遭到他拒绝[4][1]。
下午二时，北伐军大部退出济南城，以避冲突，日军占领邮政局和电报局。晚上，日军用炮火炸毁中国军用电台，守台士兵全体阵亡。23时，日军声称在山东交涉署门前发现日军尸体，强行收走交涉署人员的枪械。国民党战地政务委员会外交处主任兼山东交涉员蔡公时及署内全体职员被日军捆绑，并被刺刀割裂脸面耳鼻。蔡公时用日语抗议后，不被理解，被割去耳鼻，继而挖去舌头和眼睛。日军将署内职员剥光衣服后鞭打，然后拖至院子里用机枪扫射。最后，蔡公时、张麟书等17人全部被杀死，署内职员仅有一人逃脱[4]（也有研究指当时署内共有23人，有6人逃脱）[5][6]。蔡公时被杀后，蒋介石一方面防止事件扩大，先令各军禁止冲突，然后令北伐军退出济南，绕道继续北伐。另一方面则从外交交涉，分别向日军司令，日本外务省抗议，并要求日军即时撤出济南，同时请求英国和美国协助调停。但日本并未停止行动，继续从日本本土向山东增兵一万余。
据日本方面说法，5月3日，国民革命军突然大举袭击日本人的商店，杀害日本人，店中财物被洗劫一空。中村粲在《大东亚战争的起因》中描述，据当时日本驻南京武官佐佐木到一中校的手记与外务省的公电记载该惨案之中，日本人被杀害的惨状令人鼻酸。据书中描写，残暴的中国官兵捆绑手无寸铁的日本平民，用斧头等利器砍劈，当场分尸。此外，妇女悉数被从阴部插入棍棒，男性的阴茎则全砍下来，小肠与内脏纷纷外露，甚至有的遭到剥皮的命运[7]。然而，日本历史学家秦郁彦认为这是酒井隆阴谋夸大当时情况，以鼓动军方出兵[7]。当时在北京公使馆的冈田芳政少尉也在其回想录中谈到，当时曾经听说被杀的日本侨民实际上是朝鲜的毒贩，被当地人报复而杀害的[7]。当时蒋介石的机要参谋张群在《日华风云七十年》（《日华风云の七十年》）中认为：“济南事件时，被中国民众杀害了的日本人是十三名。他们是秘密出售鸦片的浪人，之前得罪了当地中国人，在战乱中被杀害了。当时日军大大夸大事实，作为宣传使用了。”[7][8]
5月4日，情形稍有缓和，福田彦助着人通告革命军，称双方将领如能彼此“了解”，可使风波不再扩大。当天上午没有枪声，晚上枪声复作[1]。据国民政府当时记录，当日国民革命军派出熊式辉与日军代表在交涉署附近开会时，日军代表声称“济南已为日本占领，你们已为俘虏，我们是日本大国民，你们是亡国奴”等，要求：济南车站及商埠内外，不许中国兵通行；济南二十里内，不许驻兵；要认此案是中国造成。
五月五日和六日的《朝日新闻》的报道中，死亡的日侨人数上升到“二百八十个日本人被虐杀”，和实际的数字有二十倍以上出入。中国士兵如此的暴行震撼日本内地，日本国民群情激愤要求政府“暴支膺惩”( 应该出兵支那（中国）、讨回公道 )[7][9]。
此时，奉蒋介石命令，原先驻扎济南的革命军部队已经基本退出，绕道继续北上。尚有两个团留在城内。与此同时，日军从大连抽调的第二十八旅团和部份空军到达济南[1]。
参考资料：维基