弥生〜古墳時代、鉄器の普及は農業生産・軍事力・国家形成の根幹を左右した。刀・農具・甲冑・農業用の鎌や鍬のいずれも鍛冶技術に依存しており、鍛冶師は当時の「テクノロジーエンジニア」として特権的地位を持っていた。
古代の製鉄技術（たたら製鉄）は中国・朝鮮半島から渡来した技術であり、山中の砂鉄採取・木炭製造・高温製錬を組み合わせる高度な工程を要した。金山神社はこのたたら場（製鉄炉）の近くに鎮座することが多く、製鉄・鍛冶の守護神として職人集団に祀られた。
鎌倉・室町時代、日本刀の需要が爆発的に高まると、刀工（刀鍛冶）の間で金山彦命への信仰が深まった。名刀の産地・備前（現在の岡山県）・相州（神奈川県）・大和（奈良県）などで、刀工の師匠から弟子へと金山信仰が伝えられた。熱田金山神社は、尾張刀工集団の信仰拠点として重要な役割を果たした。
神奈川・川崎市川崎区の若宮八幡宮境内に鎮座する金山神社は、毎年4月の第一日曜日に開催される**「かなまら祭」**で知られる。豊穣・縁結び・金属神への感謝を祝う祭礼で、現代ではHIV/エイズ予防への啓発活動とも結びつき、国内外から多くの参拝者が訪れる珍しい祭礼となっている。
大神神社（三輪山）は古代の製鉄・鍛冶に関わる神と同一視されることもある三輪山の神を祀る社で、金山信仰との接点を持つ。鹿島神宮は武神・剣の神として、金属（刀剣）との関わりから金山信仰と間接的なつながりがある。