生年は明応2年（1493年）説や文亀元年（1501年）説があり定かでない。三河国または駿河国の出身とされる。隻眼・跛足で風采の上がらぬ容貌だったが、兵法・築城術に優れた才能を持っていた。諸国を放浪した後、武田信玄（晴信）に仕えて軍師となり、築城や戦術面で大きな貢献をしたと伝えられる。1561年（永禄4年）の第四次川中島の戦いでは、別動隊で敵を追い出し本隊で迎え撃つ「啄木鳥（きつつき）戦法」を献策した。しかし上杉謙信に見破られて作戦は失敗し、勘助は責任を取って敵陣に突撃して討死したとされる。享年は60歳前後。長らく『甲陽軍鑑』のみに登場する架空の人物と疑われてきたが、1969年に北海道で発見された「市河家文書」の中に「山本菅助」の名が記された武田信玄の書状が確認され、実在が裏付けられた。