乃本政府北伐军队将到山东境内之时，贵国政府突有派兵山东之举，于公法上既无根据，于本国领土主权复有妨害；本政府不得不提出严重抗议。并声明：如因此发生意外事故，贵国政府应负完全责任。年来中日两国国民感情日臻融洽，倘由此次举动顿起种种疑感，足为好感之障碍，殊属可惜。应请贵国政府将已派出之军队即日撤退，是所切盼。”
  北京方面，5月30日下午4时，张作霖亲往日本驻华使馆拜访日使芳泽，询以出兵事件，芳泽即口头通知出兵原因。张云：“此事殊不好办，目下北方情形外侨并不危险，且汉口、南京方面发生大麻烦，日本都未派兵，却在本人势力下的北方派兵，极易引起误会。并足以使外间怀疑日本出兵系奉方所运动，故本人郑重请日本政府考虑。”
  当天下午5时，芳泽赴北京外交部正式通知“出兵事件”。略谓：中国时局不定，徐州以北已有随时发生变化之可能。前在宁汉事变，侨民受损实多。今兹情势亦有发生可能。查日本侨民在青岛者达两万，沿胶济路者约八百，在济南者约两千，在目前局势紧张之下，日本侨民殊有不能不从事防卫，且有采取有效之手段，因此日政府于满洲抽兵赴鲁，出兵目的纯系自卫，与南北军事无涉。如将来时局安定，日兵自必立即撤退，希望中国谅解。顾维钧当即表示：日本此次出兵有违常轨，易引起误会，且日侨现状平安，殊无增兵必要。芳泽告辞后，顾即命人预备抗议照会，6月1日北京政府向日使馆提出抗议照会，全文云：
  “为照会事迭据驻日张代办报告，日本政府决定出兵中国北方，数约二千名，并准山东张总司令电称……等情。查山东内部极称安静。关于保护各国侨商，迭饬妥为办理，近数年来，青济侨商，实无因我国军事影响，而稍有妨害其生命财产之事，况济南青岛，与上海汉口等处有租界者，截然不同。乃日本政府突然派兵来华，不惟侵犯中国主权，且易引起人民误会，除派员就地交涉外，请向日使提出严重抗议，务使完全取消各等语。正核办间，续准贵公使来部面称本国政府为保护侨民起见，特派军队赴青岛，如有必要，并拟进驻济南，事平立即撤退等因。当以此种逾越寻常之行动实无理由。中国政府实难缄默等语，奉告贵公使在案。查青岛地方，自照华府会议协定交还以来，系属完全中国领土，义当切实尊重。且自贵国军队撤退以后，地方官维持治安，不遗余力。外侨生命财产，无不备受保护。近年虽各省时有军事，而在鲁外侨，从未受丝毫影响，殊无派兵保护之必要。此次贵国政府，不先征求中国政府同意，突然派兵来青，且欲相机赴济南，不能不认为违背条约，侵犯主权之行动，至深遗憾。现在山东地方民情已甚愤激。倘因此引起全国人民之误会，中国政府不能负此责任也。为此提出正式抗议，照会贵公使查照。请即迅予转达贵国政府中止派兵赴青，其已开到埠者应令勿遽登岸，从速折回，俾免引起纠纷，而影响于两国现有亲睦之邦交。切盼见复为荷，须至照会者。”
  这次日本出兵山东，停留时间并不久，16年8月中旬起即陆续集中青岛，准备撤退。8月21日先有日军300名搭台中丸回国，根据9月3日张宗昌的山东督办公署给外交部的咨文，叙述日军撤退经过文如下：
  山东督办、省长公署咨行事，据胶澳商埠局总办赵琪呈称，窃据警察厅长王庆堂呈称：本年九月七日奉钧局第一零四零号训令内开，顷奉保安总司令张、代理省长林微电内开，东电悉，日军撤退，此间亦据日本方面通告，当即转电国务院外交部查照在案。嗣后青岛各国侨商，应即饬属随时加意保护，所有日军撤退情形，仰仍具报察核，特复等因。奉此，合亟令仰该厅转饬所属，嗣后青岛各侨商，务须随时加意保护。并将日军撤退情形详细具报，以凭核转，切切此令等因，奉此，遵查胶济路沿线所驻日军，于八月中旬，即节节移动，集中青岛，以备撤退，均经随时报告在案。
  八月二十一日，先有日军第十师团及第十四师团三十三旅团各部兵士三百余名，搭台中丸回国。
  八月二十七日，又有三十三旅团第十联队兵士七十三名搭台中丸回国。九月六日，第十师团兵士五百余名全副武装，携大炮八尊，子弹二千箱，大米二百包，马一百四十余匹，马车一百四十件，搭龙凤丸回国。
  九月七日，又有日军第十师团司令部长谷川中将，带随员八十七名，第八旅团司令部中岛少将，带随员十名，率领步兵全部计一千零九名，马五十一匹，由二号码头登台中丸。
  又有日本输送指挥官天野大佐，带第十联队全部官兵计一千零八十七员名，随带机关枪五架，高射炮一架，无线电机车三辆，马三十二匹，亦由二号码头登春华丸。所有给养物品，均系于本月六日经该军运输部用载重汽车由大港路山东仓库起运，分装该台中、春华二轮，计子弹各军用品、大米、马草等物约三千余件，于六日先期登轮。
  九月八日，又有日军三十三旅团六十三联队乡田少将，带随员步兵及铁道队、电信队、兵士共计一千五百一十名，马三十八匹，给养马草、子弹共约一千余件，由二号码头登原田丸回国。
  同日，又有三十三旅团六十九联队指挥官伊木少佐，带步兵八百七十五名、马三十一匹、并给养马草、大米、子弹共约一千余件，由二号码头搭神瑞丸回国。当各军登轮时，本埠军政各机关及日本商学各界约一千五百余人在码头欢送，并经厅长带同长警多名，在码头照料，均属表示亲善。现已撤退完竣，除通令各署对于各国侨商，随时认真保护，免贻外人口实外，所有日本陆军撤退情形，理合具文呈报。仰祈鉴核转报，实为公便等情，并据港政局报同前情，除分呈外，理合备文呈报，仰祈鉴核等情，到署。据此，除指令并饬特派交涉员查照外，相应咨请贵部查照为荷。
  督办山东军务善后事宜张宗昌
  代理山东省长林宪祖
  日本政府的撤兵声明如下：
  “帝国政府鉴于山东地方不靖之情形，为保护本国侨民起见，先行暂派军队，前往青岛。果然该地方将为南北交战之区，胶济铁路沿线地方扰乱之危险，日见切迫，故不得不令派遣军移驻济南。惟虽有此扰乱，所幸迄今能保护日侨，而不致于发生何项不祥之事案，是则为本国出兵之效果，山东地方之事态，略为安定，暂时无若日侨受战祸之处。为此帝国政府，应照当初声明，兹定即行撤兵回国，将来在中国各地方，不但山东地方，而日侨众多之处，若有治安不靖，战祸再波及日侨之虞时，帝国政府又不得不讲机宜自卫之措置，特此慎重声明。”
  北京政府外交部山东特派员陈家麟呈外交部文如下：
  “为呈报事，窃查前因鲁省时局不靖，日本政府竟借口保护侨民，特遣派日军分驻青岛、济南以及沿路各县，迭经交涉禁阻，迄未中止进行，一切详细情形，前已备文呈报在案。兹因日前虽有战事，但经我方当局竭力保护，所有日侨均获安全，并未受有若何之损失。刻下鲁省时局已日趋缓和，实更无驻兵保护之必要，经即迭向日领提出抗议，敦促退兵。九月一日始准该领正式函复，已允即日撤退。计自本月三日起至六日止，所有前派驻扎济南各日军，均已陆续退出。嗣复经详确调查，日前分驻青岛以及沿路各县各日军，亦均一律撤尽，除已分别呈报外，理合备文呈报钧座俯赐鉴察。实为公便。再前因分途调查，致稽时日，是以呈报稍退，合并陈明。谨呈外交部长王。
  特派山东交涉员陈家麟”
  当孙传芳率兵南攻时，日本以为革命军势不能再北攻，所以宣布撤兵，不料孙传芳惨败，蒋中正复职北伐，前后不过一年，革命军再度逼近济南。日本乃又借口护侨，先以驻华北的三个中队，占领胶济路，然后日本内阁会议决定派遣第六师团进兵山东。第六师团长福田，是个骄横的军人，他率领5000名士兵乘船由青岛登陆，于5月1日开进山东，山东重要城市青岛、济南、龙口、烟台均为日兵进驻。
  日军开入济南是5月2日，而革命军攻克济南却是先一天，于是迫使日军和革命军正面冲突，发生了最丑恶的“五三事件”，显露出日本军阀无耻万恶的罪行。
  五三惨案中，以日军残杀中国驻济南外交特派员蔡公时最为可恨，蔡公时殉难经过，有他的勤务兵张汉儒从受害的行列中逃出后，所叙情形如：
  “五月三日晨，日兵在领事馆一带布置防线，交通即为断绝，九时许，有国军一队，进驻交涉署对面之基督医院内，为日军瞥见，即开枪射击，毙我兵士、伙夫各一名，该队为避开凶焰，乃停止搬运，纷纷藏匿医院之楼上。此时适有一日兵于涉署门首，向医院上射击，同时又四面发现枪声，而该日兵忽为流弹击毙，旋另一日兵赶来，意在救护该已死之日兵，亦被击毙，而各处枪声复大作，弹下如雨，全署员役均慑伏楼上不动，延至下午三、四时顷，枪声稍止。街衢发现类似各领馆之汽车，车前皆竖旗帜，驰驱往来，形似劝止日军停战，时枪声亦告沉寂，但见日兵满布街头，交涉署门前亦有日兵往来梭巡，我外交特派员蔡公时，因事出意外，命人出外探听，竟为日军所阻，当派员与之交涉，迄无效果，乃蛰居楼上，静候时机。延至天晚，日兵仍防止交署如故，全署人员，纷纷计议，始终不得要领。