相馬氏6代当主・相馬重胤は、元亨3年（1323年）に下総国流山から一族を率いて陸奥国行方郡へ下向し、嘉暦元年（1326年）に本拠を小高城へ移した。これが後に奥州相馬氏と呼ばれる系統の祖となり、建武3年（1336年）には次子・光胤に命じて城の修築を行わせている。以後、小高城は相馬氏が中村城へ本拠を移す慶長16年（1611年）まで約280年間その本拠として機能した。