但进入总理衙门只几个月，政坛突发变动。慈禧与恭亲王奕的矛盾白热化，最终在1884年4月下旨罢免奕，史称“甲申之变”。但张佩纶“不识时务”，上疏为奕辩护，触怒慈禧，被严斥。5月中法战争和战未明时，张佩纶坚决主战，言辞激烈。出于种种考虑，慈禧干脆任命这个喜谈兵事其实毫不知兵的书生“会办福建海疆事宜”，前往福州主持防务。7月3日，张佩纶抵达福州，以只会纸上谈兵的书生充任事实上的前线主帅，而且还是主持复杂的“现代化”军舰为主的海战，虽然尽心尽力，备战措施却难得当。8月23日下午，海战打响，马尾港内11艘中国军舰在短短一两个小时内就被击沉9艘，福建水师全军覆没。马江之败，原因多多：有中法两国军舰水平的差距，参加马江之役的中国海军装备技术要比法国落后30多年；有两国兵力的差距，而张佩纶曾向北洋、南洋求援却被拒。当然还有张佩纶备战、指挥的失误，如将船小、炮火弱的福建水师的所有舰只集中停泊一处并紧靠法舰，对部下提出的将军舰与敌舰保持一定距离的要求置之不理，使军舰全部置于有强大杀伤力的法国现代化舰只的火力之下；还下令在没有火炮的运输舰上布置300余名官兵，想在战斗中撞沉敌舰然后登舰与敌兵短兵相接。熟读经史的张佩纶还使用诸如让士兵换上商人衣裳，派人在岸上插许多旌旗以虚张声势，不切实际地用火船攻击敌舰，或许想上演一出当代“火烧赤壁”吧。

战斗打响后，从未到过前线的张佩纶上山观战，法舰炮火之猛烈远远超出他的想象。炮声隆隆，火光冲天，“主帅”张佩纶惊恐万分，从后山仓皇而逃，全然不顾自己平时总是慷慨激昂、大言主战的形象。当时下着大雷雨，他的鞋都跑掉了，“中途有亲兵曳之行”，狼狈不堪，跑到18里外的彭田村才安顿下来。而船政大臣何如璋也逃之夭夭。

马江之败，其实清廷应负最主要责任，但专制政府的责任历来是责下不责上，张佩纶自然罪责难逃，先被革去三品卿衔，而后又被革职并从重处理，被发配到察哈尔充军。这一年，张佩纶三十有七。令人深思的是，清廷开始命令左宗棠和其老部下、闽浙总督兼署福建巡抚杨昌濬查办马江战败责任时，左、杨认为张佩纶只是“调度乖方”之失，且“勇于任事”、“尚属不避艰险”，建议“请旨交部议处，以示薄惩”。但慈禧勃然大怒，严斥左、杨“语多含糊”，对张、何“情重罚轻”、“意存袒护开脱”，下令将张、何二人“从重发往军台效力赎罪”。

张佩纶曾是慈禧的宠臣，这次慈禧却定要严惩，原因殊不简单。其实，就在任命张佩纶出京赴闽的同一上谕中，还命令同是“清流”的吴大澂会办北洋事宜、陈宝琛会办南洋事宜，名为重用，其实是要将这些“清流”赶出京城。“南洋”由曾国荃主管，本无陈宝琛之事，但陈还是因所推荐的两名将领在中法战争中败仗连连、“荐人失察”而受到朝廷降五级调用的处分，适逢其母病逝，丁忧回家乡福州，从此在家赋闲25年之久。“北洋”因李鸿章主管且无战事，故吴大澂保住官职，但也自此离开京城。他们的出京与受罚，标志着“清流”的解体。不久前，这个强大的政治派别还在政坛上呼风唤雨、权倾一时，不到一年便土崩瓦解，只因此时慈禧已剪除政敌，大权在握，无须再借“清流”敲打异己。相反，“清流”的存在已成为她为所欲为的障碍，必欲除之而后快。一句话，“清流”本就是最高统治者打人的工具，兔死狗烹，中国政治传统向来如此。只是慈禧为削其势力而把他们赶出京城太过于迫不及待，甚至不惜以“会办”军务之名，全然不顾书生典兵可能酿成大祸，未免太把军国大事视同儿戏。或许，对慈禧来说，与争权夺利相比，军国大事只能是“儿戏”。