不满平氏统治，从而响应以仁王令旨和后白河院的院宣，向平氏掀起反旗的，并不仅仅散居各地的源氏残党，还包括很多地方豪族，比如九州的绪方、臼杵、户次、松浦，以及四国的河野等。这些大大小小的势力中，最先冒出头来，给平氏造成致命打击的，是信浓的木曾冠者义仲。

义仲本是源义朝的兄弟义贤之子，和源赖朝份属堂兄弟。源义贤在家族内斗中被赖朝的兄长义平所杀，义仲从小就被送给了信浓木曾地方的中原兼远抚养。据说他自小就拉得硬弓，骑得劣马，勇猛过人。在得知赖朝举兵后，此人自行元服礼，在八幡菩萨面前挽上发髻，取名为木曾义仲，也揭竿而起。信浓的土豪武士素来信服他的武力，于是一呼百应，迅速集结起一支拥有相当战斗力的军队来。

木曾义仲麾下，据说有弓马娴熟、能征惯战的“四天王”，即今井兼平、樋口兼光〔此两人皆为中原兼远之子〕、楯亲忠和根井行亲，以及中原兼远之女、日本历史上罕见的女武士巴御前。木曾义仲的正妻应该是中原兼远的另一个女儿〔一说侄女〕山吹氏，后来生下继承人木曾义高，而传说中与义仲恩爱无双的巴，其实最多只是他的侍妾，甚至两人根本就没有婚姻关系。

且说木曾义仲很快就占据了整个信浓国，兵势极盛。平家武士一败再败，险隘尽失，于是在此内交外困之中，平清盛惊怒成疾，终于在治承五年〔1181年〕四月咽了气。继承平家一门总领位置的是其次子平宗盛，一个普遍认为是无能二世祖的家伙。

寿永元年〔1182年〕三月十日，三万平家军在左兵卫督平知盛的率领下，于尾张河西岸歼灭三千大意渡河的源氏部队，小胜一仗。于是平家气势复振，于当年九月下令新上任的越后守城四郎长茂讨伐木曾义仲。

城长茂的兄长城助长就是死在越后守任上的，因此长茂感觉此次出兵大为不吉，暗自叫苦。然而平氏既然已经下达了命令，也不容他犹豫退缩，只好拼凑了四万人马，南下杀向信浓国。此时木曾义仲正驻扎在信浓的依田城，城中只有三千兵马，按常理完全无法阻挡十倍于己的讨伐军。于是义仲聚集诸将商议，看是不是要弃城而退，结果部将井上光兼献上了一条妙计。

源平两氏争斗，为了区别敌我势力，习惯高举不同颜色的旗帜，源氏的旗帜尚白，而平氏的旗帜尚红。井上光盛的计策是：连夜将部队分成七支，各带平氏的红旗和源氏的白旗，在横田河原附近的山上设下埋伏。

第二日，平氏大军到达横田河原，城长茂见到漫山遍野的平氏红旗，心中大喜，以为这是信浓各地支持平家的豪族赶来支援，于是精神为之一振，大声疾呼着拥兵向前。就在此时，满山红旗在一声吆喝之后突然全都变成了源氏的白旗，并且在震耳欲聋的呼喝声中向长茂扑来。这种心理落差是城长茂所无法承受的，他大吃一惊后驳马就走，于是战斗以木曾义仲的完美胜利而告终。

木曾义仲威名大震，正在关东剿灭平氏残余势力，独自坐大的源赖朝却因此感到了危机。于是次年〔1183年〕三月上旬，赖朝兴兵十万，寻了个不相干的罪名前来征讨信浓。眼看源氏内部失和，骨肉相残的战斗一触即发，义仲以大局为重，把儿子义高送去镰仓做人质。赖朝也不是傻瓜，知道做事要点到为止，见好就收，立即就退了兵。然而赖朝和义仲这两大源氏势力从此产生了矛盾，刀兵相见已经是必然的结果了。

暂时稳定了后方局势，木曾义仲大举西进，杀向京都。平氏匆忙从关西调集兵马，于寿永二年〔1183年〕四月，派小松中将平维盛、越前守平通盛、但马守平经正、萨摩守平忠度、三河守平知度、淡江守平清房等六人为总大将，部将三百四十余名，统兵十余万，浩浩荡荡地向北国挺进，以迎战木曾的军队。

木曾义仲闻讯，丝毫不敢怠慢，立遣六千人马在越前燧城布置作战。燧城是通往越前腹地的门户所在，城池坚固，地势险峻。为了阻碍敌人进攻，木曾军在适当的河流交汇点筑起了堤坝，使燧城之前出现了一个庞大的人工湖。平氏大军未曾料到面前会出现茫茫的一片汪洋，没有准备船只，只好驻扎在高阜之处发愁。

负责防守燧城的斋明威仪师是个骑墙派，看见平氏势大，就写了封信捆在箭上射入敌营，告知此人工湖的水坝位置，并表示愿为官军内应。平维盛见信大喜，于是暗派精细士卒掘开水坝，排干湖水，在威仪师的接应下攻破了城池。木曾残兵向加贺方向撤退，平氏大军顺势攻破林城和富樫城。平维盛就此看到了战争和自己的光辉前景，立即写了一封夸大战绩的书信快马送入京中。一时间，平宗盛以下平氏一门无不欢欣鼓舞，以为天下行将太平。

然而平氏大军因胜而骄，在越前耽搁了太长时间，使木曾义仲得以及时将散布在四方的部队聚集起来，分成七路朝黑坂方向挺进。据说木曾军总势五万，于是平维盛调派了七万精锐部队，准备翻越砥浪山与义仲决战。

义仲识破了维盛以优势兵力在开阔地区进行主力决战的计划，决定避其锋芒，在无法排布大军的俱利迦罗谷交锋。他先命机动部队趁黑夜赶在两军之前冲上黑坂的坡头，在上面插了三十面军旗，使维盛疑惑不已，不敢轻易在夜间爬过黑坂，木曾军遂争取时间布下了埋伏。直到第二天，维盛的部队才翻过黑坂，出现在他面前的，是盔明甲亮的二万木曾军……