1942年5月15日，我军进入越南以来的第一次炮击开始了，从镇南关经过不到5天的快速进军，一路占领越北重地高平、老街、柑塘、同登等地，都没有遇到大规模有组织的抵抗。甚至在同登附近夺取鬼屯炮台（又名“法国炮楼”）时，参加奇袭的我军特种部队也没有伤亡一人。整个战况比出国前预计的要顺利，道路交通也比预计要优越得多，关键是倭国和法国鬼子没来得及破坏，甚至没有想到我军大规模地入侵。我军的缴获颇丰，各种轻重武器包括重炮，使轻装的我军战斗力大增，在后勤保障一时没跟上的条件下，仍能保持进军的速度。
越盟动员了大批的民众，协助我军工兵部队抢修道路，很快我军的机械化重武器和大批物资，便滚滚涌入越南境内。这时的谅山同后世我军，教训越南小霸时的谅山不一样，谅山城区还没有扩展到奇穷河以北，我军在夺取奇穷河大桥以后，在我军的装甲部队尚未到达之前，已经有一个营的兵力同谅山的鬼子保持接触。不知深浅的谅山鬼子，在两次反击被打退后，便龟缩在野外工事里不出来了。我军的两个火箭炮营，将奇穷河南岸的日军阵地打成一片火海，将日军仓促间布置的雷场也彻底摧毁，三百余名鬼子几乎全部葬身于炮击中，逃回谅山城内的鬼子不足十人，而且全部带伤。
炮击过后，由三十余辆69式坦克和二十余辆装甲运兵车组成的攻击部队，在十余架武装直升机的掩护下，不慌不忙地涌上了日军的阵地。步兵从装甲运兵车内跳出，一边清理残余的鬼子，一边开始在阵地上布防。武装直升机耀武扬威地在谅山上空往来穿梭，只要发现日军的身影便是一阵弹雨，偶尔向日军外围孤立据点发射几枚火箭弹，主要是对日军起到一个威慑作用。
1团团长徐超山带着团部的参谋人员，从装甲运兵车里跳出来钻进一间隐蔽部内，里面有十几个鬼子官兵非死即伤，伤者大部分都奄奄一息有出气没进气。只有一名鬼子少尉还有意识，显然已经受了重伤，满身是血只是怒目而视。
徐团长拦住举枪要打的警卫员，抽出一支54式手枪给鬼子爆了头，他朝枪口吹了口气说道：“这类鬼子只配用自杀的手枪，你们去找活蹦乱跳的鬼子打！”说完摆了摆手，示意将鬼子的尸体都抛到外面。
然后在桌子上展开地图，又对身边的参谋说道：“给我接3营，命令他们移动到这里。”徐团长手指地图。
“如果谅山的鬼子南逃，就在这里消灭它！”参谋领命后立即通知3营，跑步移动到谅山至河内的必经之路，准备将鬼子在运动中歼灭。
我军进入鬼子的阵地后，狙击手们立即开始寻找目标，但是在上下翻飞的武装直升机扫射下，鬼子们藏得严严实实根本找不到，泄气地放下狙击步枪等待继续攻击命令，一边开始吃压缩饼干喝水。
谅山日军守备队的石田近二大佐，被城北剧烈的爆炸声惊呆了，他带着两名参谋赶到城北，在一座暗堡里举起望远镜观察，这次是真的被震撼了。野外阵地已是面目全非，整个都被彻底翻了一遍，到处都是日军士兵的尸体和各部分的器官。对面由坦克和装甲运兵车组成的钢铁洪流，一面喷洒着密集的弹雨，一面不紧不慢地爬上了已经没有任何抵抗的阵地。十几架中国军队的武装直升机上下翻飞，发现地面活动目标便不分青红皂白就是一顿扫射，在阵地西侧有一座石头垒建的独立家屋，被日军用来作为碉堡使用，被直升机发射的火箭夷为了平地。石田大佐还是第一次感受中国军队的威胁，在南洋地区同英法军作战十分顺利，不堪一击的英法军使他似乎感到，大倭国皇军是世界上最强大的军队，具备统治整个世界的实力。
但是今天却让他对强大有了新的见解，以前只是对中国军队有所耳闻，感觉上大概同英美法等国的军队差不多而已，没想到却是如此强大，相比之下日军显得令人沮丧地孱弱。令石田近二大佐感到愤怒与无奈的是，中国士兵从装甲运兵车里跳出后，肆无忌惮地屠杀尚未断气的倭国兵，而且用的最多的是刺刀和砍刀，手段十分残忍血腥。但是很奇怪，中国人没有乘胜进攻，而是开始构筑和修复工事，看样子并不急于攻城，以他们的实力夺取谅山是毫无悬念的，中国人似乎在玩猫戏老鼠的游戏。
石田近二大佐面色铁青，回过头询问随行的参谋：“刚才支那军炮击时的伤亡是多少？”
“报告大佐，只有八名幸存者，余者尽皆玉碎！”石田近二大佐低低地骂了一声，转身走出暗堡到各处视察防务。
一路上连窜带跳地躲避中国的直升飞机，所见的情形令他感到十分担忧。本来就不足的兵力，被刚才的炮击一次性便去掉三分之一，剩下的六七百人凭借普通的步兵武器，想守住谅山等待后援几乎是不可能的，只要中国人愿意可以从任何一个方向进行突破，而且是毫无悬念地能够突破。他看到一些老兵还算镇定，仍然做着自己手头上的事，一些新兵和武装侨民，明显地表现出恐惧的神色，被刚才的炮火和眼前的惨景震惊了。这时石田近二大佐才明白，继续抵抗无疑于以卵击石，不禁有些后悔应该早点撤退，都怪自己没同中国人交过手，坐井观天而不知天高地厚。
这时一名传令兵跑来，交给石田近二大佐一份电报，这是驻河内的第21师团长三国直福中将，发给石田近二大佐的命令。命令中说：鉴于支那军势强大，你部立即向河内转进。着步兵第83联队长一宮基率部接应，航空队出动十二架飞机助战，望你部见令后速与支那军脱离接触。石田近二大佐如释重负，立即传令向河内方向撤退，同时命令在谅山城内放火，要给支那军留下一片焦土。可惜，电文被第47军的电子分队截获，空中盘旋的武装直升机也发现鬼子撤退的迹象，以密集的弹雨阻止鬼子的放火行动，我军的装甲部队闻讯后立即蜂拥而至，从多方向突入谅山城内。尽管如此，鬼子还是在几个地方得逞，燃起了熊熊大火，由于我军及时赶到，火势得到了控制，并未造成太大的损失。愤怒的我军战士，将活捉的几十名鬼子，以及来不及撤走的日侨，全部投入到燃烧的烈火中。
石田近二大佐率领残兵败将向河内逃去，从谅山到河内的距离大约一百三十公里，沿途日军没有更多的驻军，只有在八十多公里以外的北江，才有日军第21师团的驻军。如果没有第21师团长三国直福中将，派出接应部队和飞机助战的承诺，石田近二大佐决不敢孤军跑完这一百三十公里。
石田近二大佐率队一口气跑了二十多公里，前面的地势渐渐地变得平坦，再走上个二十多公里，就要进入平坦的水网地带了。所有倭国兵都跑的上气不接下气，如果不休息一下恢复体力，恐怕没有几个人能坚持下去。石田近二大佐传令原地休息，倭国兵个个都像一滩泥一样瘫在路边。就在这时，前面响起了密集的枪声，还夹杂着轻重机枪的声音，石田近二大佐跳了起来，心里暗暗地叫苦，看样子十有八九遇到了支那军的阻击，如果不在后面追兵赶到之前拼个鱼死网破，这些日军和侨民将死无葬身之地。
石田近二大佐咬咬牙，命令一个中队的百余名鬼子发起攻击，并集中全部火力支援攻击，妄图强行打开一条生路。但是，很快在对方密集的火网中，进攻的鬼子被杀得七零八落。石田近二大佐从对方的枪声判断，兵力至少在五百人以上，如果不尽快地突破拖延过久，一旦后面的追兵赶上来将被完全合围。况且支那军拥有众多的武装直升机，但不知为何没有出动，石田近二大佐决定最后再发动一次全面攻击。
突然，头顶传来引擎的轰鸣声，十多架日机从空中掠过，扑向了谅山方向，不久就传来了激烈的枪炮声。石田近二大佐兴奋的哇哇大叫，倭国兵们也士气大振，满含热泪地欢呼天皇陛下万岁，跃跃欲试地准备最后一搏，杀开一条求生的血路。然而就在这时，成群的迫击炮弹嘶嘶地落下，霎时间整个阵地飞沙走石，转眼间惨叫声代替了欢呼声，后面发现了支那军的追兵。
石田近二大佐冒着炮火，挥动着指挥刀狂吼：“杀的给给！！”自己身先士卒，带着剩余的倭国兵和侨民，发起了自杀式地攻击。
倾盆般的弹雨中，进攻的日军不断地倒下，不断地有鬼子被炮火炸成零件，但是已经没有退路的鬼子，仍然不顾一切的向我军阵地冲来。当在火阵中九死一生的鬼子们，终于气喘吁吁地冲到我军阵地时，迎接他们的除了密集的冲锋枪子弹，我军战士也挺着刺刀迎上去，尽情地杀戮已经精疲力尽的鬼子。
石田近二大佐的双腿被打断，右胸中弹倒在地上，在他弥留之际看到头上的天空中，几架日机仓惶地从谅山方向逃过来，后面跟着没有任何标记的，旋风般银色的战机，转眼间日机纷纷拖着浓烟坠落，或者干脆被打得凌空爆炸解体。
石田近二大佐到死也不知道，十六架日机被高射炮和高射机枪打掉过半，剩余的几架被随后赶来的歼-5型歼击机全部击落，没有一架日机逃回河内。日军步兵第83联队得到石田大队被全歼的消息，立即缩回北江并构筑工事就地组织防御，王铭章旅长派出的，准备顺手围歼来援鬼子的两个团也无功而返。石田大队的覆灭使河内的日军惶恐不安乱成一团，不知道支那军下一步的意图是什么，一边向驻泰国的第18方面军司令部，司令中村明人中将报告，一边调集第55师团同第21师团保卫河内，从老挝和泰国抽调了独立混成第49、53两个旅团，昼夜兼程赶往河内。
中国南洋志愿军司令员陈毅，于1942年5月16日致电第47军军长胡链：“欣闻你部攻占谅山，歼敌一个大队，初发我军之虎威，特向第47军官兵祝贺。你部应乘敌情况不明，兵力部署尚未完成之际，发扬连续作战的作风，保持攻击强劲势头，迅速打开越南局面。你部第一阶段的战略目的，应以夺取河内、海防等战略要点，确保和巩固越北地区为宜。在大量歼灭日寇有生力量的同时，为我海空军立足创造有利条件，同时注意发展和扶持本地武装，尤其注意同越盟的同志的合作，迅速恢复占领区内的生产。”
胡链军长根据志司的指示，同参谋长兼政治委员洪水同志商讨后，在谅山召开了中越军政联席会议，胡志明同长征、范文同、武元甲、朱文晋、冯志坚、梁文芝等人出席会议。胡链军长首先传达了志司的指示，然后洪水宣布下一步的行动方案，以及在军政建设方面的构想，征求在座中越同志的意见。其中提到了组建越南临时政府，将“越盟”改称“越南民族解放联合阵线”，由北山和高平两地越共根据地的领导人组成，同时也包括了越南社会各阶层，热衷于越南民族独立和解放的人士。