1862年、石見国鹿足郡津和野町（現・島根県津和野町）に津和野藩典医・森静男の長男として生まれた。本名・林太郎。幼時から漢学・蘭学に秀で、10歳で上京、12歳で東京医学校（後の東京大学医学部）予科に入学、19歳で本科を最年少卒業。陸軍軍医となり1884年から4年間ドイツ（ライプチヒ・ドレスデン・ミュンヘン・ベルリン）に留学、衛生学・軍陣医学を修めると同時にゲーテ・シラーら西欧文学に深く触れた。ベルリンで知り合ったドイツ女性エリーゼ・ヴィーゲルトとの悲恋が、帰国後の処女小説『舞姫』（1890年）の源泉となった。1890年代、評論誌『しがらみ草紙』を主宰、アンデルセン『即興詩人』の名訳で名声を博す。日清・日露戦争に従軍、1907年に陸軍軍医総監・陸軍省医務局長に昇進、軍医のトップとなる。文学では1909年『ヰタ・セクスアリス』『青年』、1911年『雁』『妄想』、1912年乃木希典殉死を契機に歴史小説へ転じ『阿部一族』（1913年）『山椒大夫』（1915年）『高瀬舟』（1916年）など傑作を連発。晩年は史伝『渋江抽斎』（1916年）で史実の厳密な考証に基づく独自の文体を完成させた。1922年、東京・千駄木の自宅で60歳で没。遺言により墓石には「森林太郎」の名のみ刻まれた。