平安時代中期（10世紀末）、刀工・三条小鍛冶宗近が一条天皇（980–1011年）の勅命で宝剣を鍛えることになったが、相槌を打てる助手がいなかった。宗近が稲荷明神に祈願すると、稲荷の神使・白狐が童子に姿を変えて現れ、共に「小狐丸」を完成させたという。この伝説が能「小鍛冶」（世阿弥作とも伝わる）の題材となり、神社はその舞台として現在地に創建・奉祀された。「合槌（あいづち）」は刀鍛冶の用語で、親方と弟子が交互に槌を打つことを指し、社名の由来となっている。刀剣信仰の場として、特に中世以降の刀工・職人から崇敬された。