光绪廿一年（1895年）二月牛庄、营口相继失陷，李鸿章奉命赴日本议和。袁向刘坤一陈说战略：
  “管见用兵必须尝罚公平始足以资鼓励，我公驻关督师，应请随时分别贤否，立予抑扬，庶诸将咸知惩劝，冀可挽救。查马玉昆胆识兼优，宋得胜忠勇成性，均叠经苦战，始终如一。似宜请旨嘉奖，俾益加奋勉。吴凤柱、徐邦道兵多骚扰，不知自爱，似宜申斥，俾知警惕。营口防营蒋希夷委弃重地，肆行克扣，似宜俟兵队解散后，从严参办。此五人只举其尤，时艰至此，惟望淑慝先分，庶中材皆知激劝。”
  光绪廿一年（1895年）正月，袁复赶返前所（地名），与聂士成会晤。二月返石山站，牛庄和营口相继陷落，于是清廷下诏派李鸿章赴日本议和。这时，由于清军海陆均惨败，举国震动，朝野哗然，众谤集于李鸿章，有谓李鸿章私通日本，“用一卫汝贵而百战之淮军化为叛卒，用一丁汝昌而大桅之铁甲尽属漏舟”，有人竟参奏李鸿章的亲信运军火接济日军。大家不相信中国会败于日本，遂将战败责任诿诸李鸿章。李奉命接洽议和，不敢成行，因西太后正在生病，而光绪不允割地。在这和战未决的当口，日军扬言将北取辽阳，西攻山海关，清将长顺、依克唐阿匆遽告急，而关外各军亦争弃防地，纷纷后退，自相惊扰，不久辽南和牛庄亦告陷落。
  清朝的海陆大军都已彻底溃败，局势演变到了非和不可，清廷这才再下谕旨，责成李鸿章前往马关与日本订城下之盟。
  光绪廿一年（1805年）二月，清廷正式向日本求和，并派遣日方所指定的李鸿章为谈判代表。这时日军已陷威海卫和辽东半岛，北京危如累卵。李鸿章和日本首相伊藤博文、外相陆奥重光于三月廿日在马关举行首次会议。李鸿章和伊藤本系旧识，两人见面甚为亲切，一谈就谈了三个多小时，在这次会议上，李代表战败国，一切都立于不利地位。日本因为是战胜一方，所以条件极为苛刻。
  当马关和会开始后的第三天，就是三月廿四日，李鸿章竟在会后返回旅邸途中，被日人狙击，子弹轰入面颊，登时晕绝。当他苏醒后，拒绝停止会谈转而就医，他说，“国步艰难，和局之成，刻不容缓，岂能延宕误国，宁死不愿就医。”他的衫履满布鲜血，李鸿章慨然说：“此血所以报国也。”他有马关记事诗一首，诗曰“劳劳车马未离鞍，临事方知一死难；三百年来伤国步，八千里路吊民残。秋风宝剑孤臣泪，落日征旗大将坛，寰海尘氛纷未已，诸君莫作等闲看”。
  日本自信可以战胜中国，不过未料到胜得如此迅速和容易，途一经开战后，清朝竟如此的不堪一击。日本食髓知味，因此野心大增，得寸进尺，在谈和时并不停止军事行动，俾求议和条件可以更有利于日本。马关和谈开始时，日本的种种留难，借故拖延，都是因为这个原因。不过当李鸿章被刺后，情势遂为之一变，一个战败国家的议和首席代表，竟被日人狙击，给国际间的印象是太恶劣了；李鸿章因被刺而换到和平，但《马关条约》仍是很苛刻的。
  《马关条约》于光绪廿一年（1895年）四月十七日签署，内容是：
  （一）朝鲜独立；
  （二）割辽东半岛、台湾和澎湖列岛让给日本；
  （三）中国赔偿给日本军费二万万两；
  （四）允许日本人在中国各通商口岸从事商业工艺制造；
  （五）凡西洋各国在中国所获的特权，日本均得享受。
  这个条约签署后，西方国家为之大哗，认为日本已侵犯了西方列强在中国的利益。尤其是俄国，俄国一直把辽东半岛当作势力范围，如今竟被日人夺取，怎肯干休，于是便联合德、法等国出面共同干涉，而日本则表示英国可以占舟山，俄国可以占北满，德国亦可取沿海一岛。日本这个主意是瓜分中国的办法，但俄国不愿接受。俄国野心不止是北满，而是包括朝鲜和东北，双方利益上既有这么大的冲突，当然很难谈得拢，幸而日本这时还不敢公然和列强决裂，因此勉强地把辽东半岛退还中国，由清朝出银3000万两为交换条件。
  和议后，李鸿章成为众矢之的，万谤交集。他这年73岁，担承衰老的清廷内外大政，内心确是非常痛苦。他曾写了一封信给新疆巡抚陶模，可见其心境：
  “十年以来，文娱武嬉，酿成此变。平日讲求武备，辄以铺张靡费为言，至以购械购船悉为历禁。一旦有事，明知兵力不敌，而淆于群哄，轻于一掷，遂致益发不可收拾。战绌而后言和，且值都城危急，事急万分，更非平常交际可比，兵事甫解，谤书又腾，知我罪我，付之千载，固非口舌所能分析矣。”
  甲午战败和《马关条约》大大地伤了中国人的自尊心，可是中国人，并没有接受这个教训而自觉自强。
  七、穷则求变
  朝鲜的悲剧成全了袁世凯，甲午战后清廷上下痛定思痛，把所有的诟责都集中在李鸿章的身上，也把所有的好感都集中在袁世凯身上；大家认为袁世凯在朝鲜是成功的。实际上也是事实，袁在朝鲜12年，替朝鲜练新兵，安定朝鲜的乱局，重振清廷的声威，他的表现处处都显得他出人头地，高瞻远瞩。73岁高龄的李鸿章也很看得起这个后辈，并不因袁受人推崇，自己却受人攻击而对袁不好，相反地更赏识袁，处处提携袁，想培植这个比自己儿子还年轻的袁世凯为自己的继承人。
  这就替袁世凯开辟了北洋之路的一条大道。当时的北洋大臣实际是清廷中央的实力人物，李鸿章是那个时期清廷最重要的人物，袁世凯在他的卵翼下一步一步往上爬。对袁来说，他早期的政治生涯不止是多采多姿，而且也得心应手。
  当袁未拜命赴小站练兵时，他留在天津，有时也去北京，他利用这个短暂的闲暇，编写了一本兵书，当然不是他自己执笔。中国的文人以“知兵”才能达到出将入相的地步，自诸葛亮以至曾国藩、李鸿章，莫不是书生而统御雄兵。袁世凯既然能为朝鲜练新兵，当然也可以撰兵书，他的这部兵书，现在已绝了版。由于他的“兵书”编成，于是他便俨然以“文武双全”而见重于那个时代了。
  甲午战后，举国已在求“变”，开明的知识分子，以上海和香港为中心，倡导变法。清廷中也有一二特出的大臣 ，主张革新；前有郭嵩焘、曾纪泽，后有薛福成等，都认为世变日亟，治世之法必须适应潮流。不过这些洋务派都因遭受到守旧派的排斥，所以不能大用。
  袁世凯本身是一个复杂而具有双重人格的人，他是旧势力中的新人，可是也是新势力中的保守分子，因此在旧派中他被赏识，不被排斥，而对于新兴的势力来说，他们看袁仍不失为一个肯接受新潮流新思想的人，所以也很喜欢他。在那个新旧蜕变的时代中，袁是骑墙派，正因为他的骑墙，使他成了一个政治军事上的宠儿。
  在黯淡的甲午战败后的清廷，最当务之急的，莫如重新整军经武了。因此，就在《马关和约》签署后的六个月，清廷的五个最重要的大臣醇亲王奕譞、庆亲王奕劻、军机大臣翁同龢、军机大臣李鸿章、军机大臣荣禄等会商练建新军工作，而袁世凯也被受命负责起草计划和规章。不久他受任主持训练新军事宜，这位曾在朝鲜督练新军的中年人，便开始了他一生中最重要的事业——小站练兵。
  马关之耻，使中国知识分子接受了这个刺激，因此不只清廷中求变，一般社会上的青年，也激起了求变的高潮。如林则徐的学生冯桂芬 ，著《校邠卢抗议》，主张对外不鄙视，不恐惧；对内选拔人才，注重舆论，废除八股，加强地方政治。另有香港《循环日报》主笔鼓吹变法，赞美日本的制度，主张中国急须改变取士、练兵、学校、律例四种旧制。郑观应著《盛世危言》，曾和孙中山先生谈过改革中华的抱负。何启著《中国亟宜改革政法论》、《新政始基》、《新政变过》、《新政安行》等书。这位何启在英国留学十多年，后居香港创办雅丽氏（Alice）医院和香港西医书院。孙中山先生曾就读西医书院，起义时并曾得何启助力。胡礼垣是和何启合作撰写上述各书，总称《新政真铨》。陈虬著《治平过议》、《报国录》。他们都主张成立国会，行君主立宪制。
  此外，到中国访问的外国人，如上海广学会的英人李提摩太，在甲午战后曾游北京，先后晤见李鸿章、孙家鼐、翁同龢、张荫桓、恭亲王、刚毅等劝说变法，提出教民、养民、安民、新民四个号召，并盼清廷设西学科，用西人为顾问。他的建议未能为清廷接受。
  所有这些在野的求变呼声，并未能使清廷接受。而触角能碰到清廷当政者的，则是康有为、梁启超等在北京联络各省应试举人一千余人，公车上书，反对马关议和，主张迁都再战，变法自强，西法练兵等。虽然他们的要求未被上达，但他们所掀起的狂澜则震动了那个时代。
  康有为原名祖贻，字广厦，号长素，是广东南海人，咸丰八年二月初五（1885年3月19日）出世 ，家世是书香世宦，少有大志，致力于经世之学，想作中国儒家的圣人。他虽不懂洋文，但接受力极强，六岁从番禺蔺凤仪读四书及《孝经》，遂有志于圣贤之学。他好读不倦，先在深山读书，后游大江南北，研究当时传教士所译的西洋法政史地等书，他为了达到变法的目的，曾写了两本著作：《新学伪经考》和《孔子改制考》，来支持他变法思想，以免传统的中国读书人反对。