永正3年（1506年）、横瀬泰繁の子として生まれる。家督を継いだ後、姓を横瀬から由良に改めた。上野国新田金山城を本拠に勢力を拡大し、元亀4年（1573年）3月には桐生城主・桐生親綱との対立の末に柄杓山城を攻め落として桐生氏を滅ぼし、224年続いた桐生氏の支配に終止符を打った。翌天正2年（1574年）、金山城を嫡男・国繁に譲って隠居し、自らは柄杓山城に入った。隠居後は鳳仙寺を建立し、石垣を用いた改修を行うなど城と城下町の整備に努め、善政を敷いたと伝わる。天正6年（1578年）6月30日、桐生の地で73歳の生涯を閉じた。正室・妙印尼は後年、金山城籠城戦を指揮した女傑として知られる。

智謀に長け、隣接勢力を圧倒する政治力と築城技術を兼ね備えた戦国武将。隠居後も城下町の整備に尽力する行政手腕を発揮した。

桐生の地に確固たる支配を築いた人物として、柄杓山城跡や由良成繁の墓が桐生市の史跡として今に伝わる。