1118年、下総国の大豪族・千葉氏の棟梁として生まれた。1180年8月、石橋山の戦いで大敗した源頼朝が安房に逃れてくると、当時63歳の常胤はいち早く一族を率いて参陣し、頼朝の再起を全力で支援した。千葉氏の2万ともいわれる大軍は頼朝の軍勢を飛躍的に増強し、関東制圧の礎となった。また頼朝に鎌倉を本拠とするよう進言したのも常胤とされ、幕府成立の土台を築いた立役者の一人である。その後も義経・範頼の軍に参加して西国の平氏追討に加わり、老齢ながら奥州藤原氏討伐（1189年）にも出陣した。下総国守護に任じられ、千葉氏は関東有数の大御家人として確固たる地位を築いた。1201年に84歳の長命を全うして没した。千葉氏の月星紋（三日月に六曜）は現在の千葉県の県章の起源とも伝わる。