光绪二十年（1894年），朝鲜爆发东学党起义，朝鲜政府请求中国出兵帮助镇压，李鸿章过于听信驻朝专员袁世凯的报告，认为日本“必无他意”，遂派直隶提督叶志超和太原镇总兵聂士成率军1500人赴朝。不料，日本此后立即向朝鲜派兵，在朝日军增至8000余人，事态趋于严重。李鸿章为设法避免战争，曾通过英、俄两国出面斡旋，但为日本拒绝。无奈下，只得增派军队入朝，和日本相抗衡。六月二十三日，日本军舰在丰岛发动突然袭击，击沉中国运兵船“高升”号，甲午战争爆发。
八月十六日，驻朝陆军在平壤与日军激战数昼夜后溃败，总兵左宝贵战死，统帅叶志超等逃回国内。八月十八日，北洋舰队与日本海军主力在黄海大东沟附近海域遭遇，经过近五小时的鏖战，中国军舰沉没4艘，日本舰队亦遭重创。此后，清军在鸭绿江、九连城等战场与日军激烈交战，但终未能挡住日军的攻势。最终，旅顺、威海等重要海军基地失守，北洋舰队覆灭。
光绪二十一年二月十八日，李鸿章受命，作为全权大臣赴日本议和。尽管行前清廷已授予李鸿章各地赔款的全权，但他仍期望“争得一分有一分之益”，与日方代表反复辩论。在第三次谈判后，李鸿章于会住处的路上遇刺，世界舆论哗然，日方因此在和谈条件上稍有收敛。三月十六日，李鸿章伤稍愈，双方第四次谈判，日方对中国赔款2亿两白银，割让辽东半岛及台湾澎湖等要求表示不再让步，日方和谈代表伊藤博文谓，李鸿章面前“但有允与不允两句话而已”。事后日方继以增兵再战进行恫吓。李鸿章等连发电报请示，光绪皇帝同意签约，命令“即遵前旨与之定约”。二十三日，马关条约签字。
马关条约签订后，在全国引起强烈反响。康有为等发动公车上书，掀起维新变法的高潮。李鸿章虽然也视马关签约为奇耻大辱，发誓终生不再履日地，并倾向变法。但在“国人皆曰可杀”的汹汹舆论下，成了清廷的替罪羊。甲午战后，李鸿章被解除了位居25年之久的直隶总督兼北洋大臣职务，投置闲散。
中国落后于日本在于政治制度方面，在于国民万众一心的勇气和探索精神。这些东西我们中国曾在汉、唐时一个也不少啊。其他微观因素还有:第一是连年的灾害，这不得不令翁同和将海军的军费压缩，而去救灾(根本不是像某些人说的是与李鸿章闹个人意见!!翁与李个人关系很好。翁有许多次求助于李，李全部答应。)。第二，中国的国家和政局不稳，每十年有一次战争，或对外或对内，而且每次要选在太后万岁之时，这也是令太后不愉快的事情。中国的国力已经被消耗得差不多了，每年要向外人借款来填补军费等开支。第三，国民素质太低，受近代文明教育的比例还是太低。教育的内容还是二千年来的科举制的内容，虽有一些经世致用的内容，但与当时的泰西诸国的科学比较，显然落后几百年。第三，国民没有爱国热情，在满人当政汉人受压迫的年代，汉人是不会真正替满人出力的，一切唯满人的意志而决定，汉人逆来顺受，虽然在洪杨之后，有曾，李，左等大臣拥兵地方，但号召全国显然力所不能。所以李鸿章所倡导的事业也只能在北洋和南洋有开拓性的进展，在其他地方是没有动静或很少动静的。第五，士大夫和官吏阶层没有紧迫感，李鸿章再急，也无济于事。还没有一个奋勇争先的官僚阶层为中国的奋起而努力。这点日本较中国强几十倍。第六，即使像李鸿章这样真正看世界的人，也并不完全知晓世界大事。所看的世界以实用性为主，如军事，如实业，如教育等，没有看到法律，科学，政治制度，种族关系这些在背面起作用的因素。所以也不可能去改革政治体制与文化体制、种族体制、社会的法律的体制。所以孙中山对李鸿章虽属尊敬，但也指出了他的这一缺陷。第六，中国传统文人与官吏所具备的美德束缚了李鸿章等人的手脚。他们唯知忠君报国，不论上面的决定是好是坏，总是唯命是从，一切不敢抗命，与孙文一代比，这也是他们那一代的重大缺陷。
由于以上这些原因，甲午战争失败了，李鸿章也失败了。李鸿章失败后，并没有灰心丧气，而是周游世界。他是中国人中走得最远，走得国家最多的中国文人与官吏。所到之处受到热烈欢迎。他在这些欢呼中保持了冷静和尊严。他更加广泛地了解了泰西诸国的政治，经济，工业，人文，治世之道。与俄国建立了联盟，也以实业做诱饵，博得了英，比，德，法等国的好感，来华投资者渐多。
参考资料：http://hi.baidu.com/haolyb/blog/item/cbfda3afb9dcf8cc7cd92aa9.html