1928年4月19日，日本小鬼子打着“保护帝国臣民”的口号，派出了第六师团在师团长福田彦助中将的率领下进入济南，准备武力阻止北伐军北上，怕中国统一后，影响日本的整体战略谋划。小鬼子的算盘打得很精。为了独霸中国，在北伐开始，乃至发生“南京事件”，它都咬牙忍了下来，反过来劝告英美等国不要派兵到中国，以防“刺激其民族意识，从而导致不可收拾之局面”（当时日本外相币原喜重郎语）。反正他日本离得近，随时可以派兵。等到北伐军一路高歌拿下南京后，它又怕北伐军坐大于日本不利，更害怕奉军退回到东三省会妨碍他们一步步蚕食东北地野心和计划。故而全力劝阻下野东游的蒋光头以统一长江流域为终止，停止北上。面对政友会的老朋友田中义一居然这么说，老蒋也很气愤。不帮忙就不帮忙！说什么风凉话？简直“毫无诚意”，势要“妨碍我革命北伐之行动，以阻止中国之统一”（蒋日记语）。
当然，北伐军不是清政府，不会为了东洋小矮子的几句大话就裹足不前的！5月1日，北伐军就已经赶跑了“狗肉将军”张宗昌，接管了济南。面对沿街布磊的日本兵，外交部特派员蔡公时多次声明保护外侨，要求日本政府从济南撤军。可小鬼子哪里肯听，他们现在正需要一个借口来制造事端，以达到和北伐军开战的目的。
随后，蒋介石率众视察济南军情，发现日本军队在许多路口修起防御工事，摆出一副临战架势，荷枪实弹，待机而动。而且日军四散传单，宣言流氓冲击纬十一路日侨万屋商店、大马路日侨山东仓库会社、二马路航空处，纬十一路总监部制造处等处日侨，被击毙活该！尤为可气的是说“由来日军不放空弹，不用空喝，无论中外不逞，若有接近日军所守地域，非有预先派人表示诚意，不然枪杀不论。”蔡公时气愤地说：“济南商埠本是中国领土，日本竟敢公然出面声称保护，其狼子野心昭然若揭！蒋介石面露愤愤不平之色。但面对日军的强势，蒋介石虽然甚感气愤，但还是打算通过谈判解决。
5月2日，日本驻济南领事西田畊一偕日军参谋应邀而来。蒋介石寒暄后正面提出要求说：“贵国士兵在济南市区高筑防御工事，实是引起我国人民之恶感，易招纠纷。为防止意外冲突，请贵军先行撤除一切防御工事。”日本领事西田畊一当即回答道：“总司令言之有理，我军马上照办。当天晚上，日军在济南马路上建的防御工事迅速撤去，日军撤回原驻地点，济南城内顿时不见日军巡逻车踪影。其实，这根本就不是日军被三言两语劝退了，而是日军第六师团司令福田与第十一旅团司令斋藤经过多次密谋，故意装出接受蒋介石要求之态，麻痹对方，处心积虑准备来次大的行动！
济南位处津浦铁路与胶济铁路交会点，加上黄河、小清河水运畅通，在当时是座人口达约三十八万的商业都市。百业兴旺、商业繁盛、车水马龙，人称“聚财济南府，流金宝泉城”。1928年5月3日清晨，泉城济南城内各处商店相继开门，生意兴隆，市面熙熙攘攘，一片太平景象。
上午九时左右，中国军队第四十军贺耀祖部的一名士兵因患病被送往基督教医院治疗，遭到日军士兵阻止通行，由于语言不通，发生争执。日军士兵突然开枪，打死中国士兵一人，余人避入医院。大约同时，日军在魏家庄向正在张贴标语的中国士兵开枪，造成数人死伤。九时左右突然向驻扎在附近的第四十军第三师第七团的两个营展开攻击。由于当时第七团的团长、营长正外出开会，两个营伤亡惨重，其中第二营全军覆没。十点半时，有一个日本人在隆昌洋行附近试图通过第四十军防地，遭到四十军士兵阻止，双方发生冲突。各处日军士兵听到枪声后陆续开枪，对中国市民和军人展开屠杀，十二时之后已经枪声密集，导致尸体满街。十二时后交涉公署已无法联系，电话亦被割断。此后，济南城内革命军九十二师、九十三师向日军展开反击，一时间枪声满城，居民纷纷关门躲避。
中国军队的顽强抵抗立即制止住日寇的嚣张气焰。日军指挥官福田彦助见事不好，急派佐佐木到一去会见蒋介石，并威胁说“如不停火，中日将全面开战”。蒋介石知悉后当即命令派出10个参谋组成的传令班，分头到各部队传令，对日军停止还击。城外的中国军队于下午五时之前离开济南市，并知会日军第六师团长福田彦助，请其约束部下。
面对停止抵抗的中国军队，日军趁混乱将当时驻扎于济南市广东会馆的第四十军第七团军士共千余人强行缴械，当场枪杀不少人后，将其余人押送至日本领事馆。第三十七军第一团在其驻地小纬四路遭日军包围缴械，官兵大部被掳走。就连南京政府外交部长黄郛办公处也遭到了日军枪击。黄郛随后赴日军司令部交涉，本人遭到强行扣留，卫队被缴械。日军迫使他签字承认冲突由中国士兵挑起，遭到他拒绝。
下午二时，北伐军大部退出济南城，日军趁机占领邮政局和电报局。晚上23时，蒋中正派熊式辉赴日军司令部商讨处理办法，正在协商时，日军用炮火炸毁中国军用电台，守台士兵全体阵亡。
5月3日晚16时左右，日军声称在山东交涉公署门前发现日军尸体，破门而入后强行要搜检交涉署人员的枪械，但并无所得。被围困一天的公署人员，又饿又乏。面对日军欲在公署三楼设置大炮，对国民革命军射击，被蔡公时严词拒绝。恼羞成怒的日本军官，一声令下，将蔡公时等公署工作人员全部绑了起来。蔡公时一腔爱国热血似烈火般熊熊燃烧，义愤填膺，破口用日语大骂日本兵，揭露其狼子野心！日本军官兽性大发，便命日本兵将中国人绑在柱子肆意毒打。为向蔡公时施行法西斯攻心战术，命日本兵挥动刺刀割耳、切鼻种种酷刑残忍地杀害交涉员公署人员。顿时鲜血喷流，血肉模糊，惨不忍睹。日本强盗大声狂笑，形同禽兽！那日本军官原以为会把蔡公时吓得屁滚尿流，低声下气求饶性命，却见蔡公时虎目圆睁，大声怒骂：“日本强盗禽兽不如，此种国耻，何时能雪！野兽们，中国人可杀不可辱！”交涉署庶务张麟书、参议张鸿渐、书记王炳潭等在蔡公时激励下，争相痛骂，怒斥强盗。折磨够了的强盗们还不满足，将蔡公时等人的绑绳砍断，三人一组，拽出屋外枪决。蔡公时被第一批拖到交涉署院内，枪声一响，可怜蔡公时正值英年，未见国家统一，竟牺牲在倭寇的乱枪之下。公署18人仅逃得倒地装死的勤务兵张汉儒，作为现场见证人，写下了《蔡公时殉难始末记》，揭露了日寇犯下的滔天罪行！其他17人全部被虐杀！
日寇屠杀了蔡公时和交涉署人员后，听说北伐军蒋总司令仍在济南城内，于是派兵又包围了北伐军总部办公楼。胆大包天的日寇居然连堂堂北伐军总司令都敢威胁，将百万北伐军视同无物！真正是孰可忍孰不可忍！
不过，激烈的还在后面！一心把事情闹大的日军，并不理会要求采取镇定、和平态度，要顾全大局的蒋介石。将出面谈判的熊式辉轰了回来。对外交部长黄郛致电日本首相兼外务大臣田中义一的抗议照会根本不放在眼里，不予置理。反而扩大济南事态，更疯狂地向中国公民开炮射击。
蒋介石一见对方将自己派出的代表接连轰了回来，不予搭话。他明白了日本方面的意图：那是想先把蒋介石势力控制在济南，其他签订城下之盟，阻止北伐军北上，从而日军控制华北大平领土。见势态越来越紧急，蒋介石拉着黄郛等人在混乱中溜出了济南，来到了北伐军层层驻防的党家庄住下。虽然气恼，但慑于日军的威势，将各军已一律离离济南，绕道继续北伐，仅于城内留相当部队，借以维持秩序。
福田彦助见北伐军居然绕道北上，自己没有完成战略目标，恼羞成怒，居然于5月7日下午向蒋介石提出最后通牒：“一、有关骚扰及暴行之高级武官，须严厉处罚。二、对抗我军之军队，须在日军阵前解除武装。三、在南军统辖区域之下，严禁一切反日宣传。四、南军须撤退济南及胶济路沿线两侧20华里之地带，以资隔离。五、为监视右列事项之实施，须于12小时以内开放辛庄及张庄之营房。”
北伐军将领见到这个最后通牒，简直把北伐军当作战败国看待，大都气炸心肺；但蒋介石不愿以“小不忍而乱大谋”，除第二条外，准备全部接受。但日寇还不满意，继续加强进攻济南卫戍部队。
济南军民在济南卫戍副司令苏宗辙的指挥下，与日寇奋战。留守济南的李延年、邓殷藩两团将士，与日寇激战三昼夜，打得日寇不敢轻举妄动。特别是邓殷藩团第九连连长郭德芳与部属发誓：“我们生为军人，死当卫国。今天的事，日本人得我们实在忍不下去了！为国家，为人民，正是我们牺牲报国的时候了！我们不忍心，也不愿意亲眼看到祖国河山破碎，而束手被擒！我们要本着有敌无我、有我无敌的精神和决心，与敌人拚一个你死我活！”不愿随部队撤下阵地，坚决与日寇拼命！
北伐军撤出济南后，日军于5月11日上午举行“显扬国威”的入城式，开始惨绝人寰的大屠杀：见人就开枪射击，见女人就追逐，还残忍地割去，乱刀刺死。济南中国官民被焚杀死亡者，达一万七千余人，受伤者二千余人，被俘者五千余人。真是血流成河，尸横遍地，惨不忍睹，举世公愤！
惨案发生，震惊中外！激起全中国人民的极大愤慨！
北京、天津、上海、武汉、广州、福州、宁德等各地民众、团体纷纷举行抗议示威，主张废除外交上的不平等条约，抵制日货。各国旅侨捐款捐物，华人青年学生恳请回国参加对日斗争，采用各种形式讨伐日本军国主义，要求严惩肇事者，赔偿损失，声援国内正义的斗争。
五月5日抵达徐州的保安军司令部一直到10日才知道济南发生的一切！李义事前并没有阻止事件的发生！来到这个世界已经十多年了，现在的国人远没有看清畜生不如的东洋鬼子的凶残。无论是政府里还是名人界，均有极大的亲日倾向！所以，必须要让鬼子们将残暴的一面显露出来，用鲜血来唤醒国人，认清那些个矮小粗壮的两脚禽兽！（真是对不住，侮辱了禽兽，实在是没词表达！）
5月12日，北伐军高层军事会议在泰安召开。会上，蒋介石表示：“日本帝国主义者在济南横阻我们北伐，残杀我们同胞，霸占我们土地，这是中国民族最耻辱的一个纪念日！凡是我们的黄帝子孙，对于这种耻辱，是永不能忘怀的，日本种种野蛮行动简直就是禽兽，如果不谋报复，我们就不能算是中国人！我国国民政府是绝不会因为他们的压迫而对他们屈服的！”但是，他却要求通过外交途径解决，并派出张群到日本交涉！
“我他日本祖宗八代的娘！”李义跳了起来！“各位大哥，今天我把话撂在这了，你们要北伐的北伐，我决定了，二十万保安军马上包围济南，消灭这股畜生！对不住各位，我以先期下令部队北上了！目前我进驻徐州云龙机场的空军已经对日军展开轰炸了！”
李义此言一出，全场轰然！蒋介石呆滞当场：“三弟，莽撞了！你太莽撞了！”
“二哥，小鬼子竟然连你都敢冒犯！还把我革命军放在眼里吗？这事你交给我吧！山东的事由我保安军一力来扛！”李义说着拿出一纸电报，“这是我福建谘议局决议，全力支持保安军抗日，就算耗尽福建的财力、物力、人力也在所不惜！而且保安军预备役部队开始了集结，可以马上组织不少于二十万的部队！”如此一来，光保安军就达到了五十万！难怪李义跳的凶！
“李兄弟，打鬼子算我西北军一个！我四十万关西子弟愿意和你并肩作战！”黑红脸膛、身材高大的冯玉祥站起身大声说道，“小鬼子欺人太甚！我堂堂中华难道就没有武力了么？”
“我建议暂缓北伐，先解决山东的事！”李宗仁也起身说道。“日本人太猖狂了，是要好好给他们一个教训！这么横在北伐路上，后路也不安全啊！”
“我山西部队离得远，可以先运送个三十门大炮、三千支花机关来交给你保安军！”见大伙都表态了，阎锡山这个山西老抠也慷慨了一把！
“多谢各位大哥的美意！对付山东这一小撮鬼子，我保安军易如反掌！倒是各位对张作霖这个家伙要穷打猛追，完成总理的北伐大业！真要是日本人敢于发动全面侵略，我们再一起并肩打击不迟！”李义要的就是他们的支持态度。至于战斗，还是保安军来吧！至少可以减少点部队的伤亡！
“好！就让保安军干一下！就算有什么问题，我们也有个转圈的余地！”蒋介石见李义铁了心要打，而且那几个实权人物也都支持，就同意了李义的决定。娘希皮的，这帮日本人确实也要教训教训才好！欺人太甚！
1928年5月12日，国民政府行政院长谭延闿签发证书，对蔡公时等17遇难人员明令褒扬。
北伐军总司令部发布声明，继续将北伐大业进行到底！号召各军奋勇作战，为统一全国不怕牺牲、贡献热血！同时宣布李义兼任山东省主席和绥靖司令，全面负责山东军政事务！
李义以山东省主席的名义通电全国，济南惨案日方必须明确道歉，限48小时交出作案凶手。赔偿一切损失，撤出全部部队和日侨，山东不欢迎日本人！否则，一切后果由日方承担！
