长谷堂城，防御上杉家的西南三城之一，守将为志村伊豆守光安，守军五千人，相比畑谷城，此处城防更为坚固，易守难攻。自二月十八日起，直江兼续便将本阵布于城西北的菅泽山，并于当日派遣上杉兵士九百沿大森山麓布阵，分别向西面的大手口和北面的八幡崎口推进。
在铁炮的连番射击下，上杉军步步逼近长谷堂城，守将志村光安命令城内的铁炮予以还击，双方由此展开激烈对射。上杉军依仗势大攻到大手口之下，城内守兵见状蜂拥而出，两军在街道和泥田里展开白刃战，长谷堂城合战就此打响，战至傍晚，最上家臣新关备前守清房被讨死，两方休兵。
同日在须川、柏仓八幡宫等地，上杉军也向最上军阵地发动了进攻。由于最上伊达联军的抵抗，上杉军无法再将战果扩大，双方进入了胶着状态，上杉大军开始围困长谷堂城，而留守政景却为了保存实力拒绝派军势入城，只愿意在须川一带打击外围上杉军。
二月二十日，直江兼续得知伊达政宗攻陷白石城，无奈长谷堂仍是坚城一座，死死挡在山形城前，为了更有效的围困长谷堂，他派遣横田旨俊、色部光长率兵五千进攻长谷堂城南面的上山城，意欲攻陷此城以牵制长谷堂城。
横田旨俊、色部光长兵分两路迫近上山城，而上山城守将里见民部已经于前一天知晓了上杉军来袭，于是紧急召集城内守军一千五百人，一方面主动迎击色部光长，另一方面汇合山形城最上义光派遣的草刈志摩守援军设伏于上山城南方键取山和天神山的山谷。
二十二日上午十时，色部光长首先达到距上山城只有五千米的川口地区向最上军发动进攻，麾下大将内藤左卫门逐步推进向着石曾根地区集结，此地距离上山城只有两千五百米。而横田旨俊的主力军也穿过忠川沼跨过姥怀地区向着赤坂、藤吾、阿弥陀三地进发，只要占领这三区。上杉军就可以突然出现最上家上山守军的背后，前后夹击完成奇袭。
然而，在抵达键取山和天神山之间的通道时，横田旨俊背后铁炮声连响，两侧山林中的最上伏兵瞬间杀出，上杉军立即陷入对方重围之中。混战中，横田旨俊被草刈志摩守讨取，上杉军残部向中山城退却。
在川口、石曾根方面的上杉军遭遇里见民部之弟里见扫部和里见东市正率领的一队最上军阻击，在得知横田旨俊讨死后开始向川口以西败退，遭最上军追击时内藤左卫门被讨死。色部光长退回挂入石地区。最上军趁着胜利企图迫近挂入石，却遭到上杉守军奋力还击，最终两军因为疲劳而各自收兵。
上山合战是上杉军进攻最上以来所遭受最惨烈的失败，不仅损失了横田旨俊、内藤左卫门等数员大将，还没有实现攻陷上山城进而合围长谷堂城的战略构想，不得不说是对直江兼续的一次重大打击。
得知上山城战败且损失惨重，直江兼续却无可奈何，上杉军围城已有五天，却没有取得任何战果。这期间直江兼续不断地调集近两万五千兵力围城，包括攻陷白岩城的志驮义秀、攻破谷地城的下吉忠、占领鸟屋森城的中条三盛以及刚刚退回中山城的色部光长，还特意派遣在须川之战中有出色表现的水原亲宪布阵于谷柏富神山东麓一带，用来防范山形城方向的最上军。
三月初三。在围城十五天后，直江兼续收到本庄繁长密信，得知伊达政宗在松川惨败准备退回本领，而留守政景也有意向退回岩出山城。便决定乘机向长谷堂城发动总攻。他以前田庆次、中津川秀国、仓贺野元纲、青柳长忠、筱井泰信为先锋，配合青海川图书的铁炮队向长谷堂城发动攻势。
长谷堂城内，深濑甚助、市川若狭守的铁炮队予以还击。双方在城外土堀展开对射。当上杉军攻至城门时，包括志村高治的长谷堂众、小国大膳的小国众、坂纪伊守的成泽众、佐佐木纲知的鲑延众、后藤将监的山野边众、草刈志摩守的天童众在内的最上军由城内冲出，两军在城外野战，战况异常激烈，双方的铁炮队也在不停射击，战死者不计其数。
激战中，上杉家大将冈谷备中及马场次郎兵卫战死，最上家也阵亡了数十名家臣，两军战至傍晚依旧不分上下，只好各自罢兵。此后五天时间里，直江兼续又组织了数次进攻，虽然都被最上方击退，但碍于缺少援兵，城内处境日益艰难，最终只剩下不足三千人，而作为援兵的留守政景则是按照伊达政宗的命令严守须川一线，不愿驰援长谷堂参加守城，因此，胜利的天平正在逐渐向直江兼续倾斜。
然而直江兼续万万没想到，就在攻克长谷堂已经朝不保夕之时， 他却收到上杉景胜急报，说是秀保已经于二月二十八日亲率讨伐军出征会津，命令其立即率兵返回若松城准备迎战。
按照直江兼续的设想，秀保出兵至少要一个月时间，在这段时间里上杉家集中优势兵力定能压制最上家，再割让部分最上领和伊达家保持和睦，确保身后无忧，之后再回兵会津备战。没成想秀保虽然是开战一个月后才出的兵，可上杉家并没有利用好这段时间，而是在长谷堂城下一耗便是二十天，非但没有压制最上义光，反而损失惨重，并且和伊达政宗刀兵相向，这种周边环境比开战前更为糟糕。
直江兼续本想孤注一掷先攻陷长谷堂城再回师若松，但上杉景胜此后三天连续的催促使得他不得不撤围退兵。三月初十深夜，直江兼续命令青叶入道及反町大膳修缮狐越街道准备撤军，他将全军分为十三段，命春日元忠、筱井泰信二人先行，水原亲宪和沟口左马助殿军。次日天色微明时分，兼续下令放火烧营，全军由长谷堂城外的菅泽山本阵开始沿狐越街道撤退，而最上军却以为这是直江兼续的计谋而不敢出城，这反倒为上杉军的撤退争取了时间。(。。)