享禄2年（1529年）生まれ。藤原秀郷流小山氏の18代当主として祇園城（小山城）を本拠とした。戦国期の下野は北条氏・上杉氏・佐竹氏らの角逐の場となり、秀綱は当初これらの勢力の間で自立を模索した。天正3年（1575年）、北条氏照が祇園城に攻め寄せたが籠城してこれを凌いだ。しかし翌天正4年（1576年）、再度氏照の攻撃を受けると抗しきれず開城し、嫡子・伊勢千代丸（後の政種）とともに常陸の佐竹義重のもとへ落ち延びた。祇園城はその後北条方によって改修され北関東攻略の拠点となったが、天正18年（1590年）の小田原征伐で北条氏が滅亡すると秀綱は旧領の一部への帰還を許され、慶長8年（1603年）に没した。

強大な北条氏に対して二度にわたり籠城戦を挑んだ胆力を持つ一方、最終的には潔く開城して一族の存続を優先する現実的な判断を下した。

秀綱の開城により名門・小山氏は戦国大名として事実上の終焉を迎えたが、その後も一族は存続し、祇園城跡は現在「小山氏城跡」として国史跡に指定されている。