1866年、薩摩国鹿児島城下東千石馬場町に薩摩藩士・黒田清兼の長男として生まれた。後に伯父・子爵黒田清綱の養子となる。1884年、法律家を目指して18歳でフランスに留学したが、パリでアカデミスムの画家ラファエル・コランと出会い画家を志す。コランの私塾に入り、外光派の明るい色彩と写実的描写を学んだ。1893年、9年間のフランス滞在を終えて帰国、同年代表作「朝妝(ちょうしょう)」を制作。1896年、東京美術学校(現・東京藝術大学)に西洋画科が新設されると久米桂一郎とともに主任教授に就任、藤島武二・岡田三郎助・青木繁・和田英作・藤田嗣治など日本近代洋画を担う画家たちを育てた。同年、美術団体「白馬会」を創設、日本に外光派(明るい印象派的表現)を定着させ旧派の「明治美術会」と対立した。1897年の「湖畔」(妻の照子を箱根芦ノ湖畔に描く)は日本の近代絵画の代表作として1999年重要文化財指定。1910年、帝国美術院会員、1920年、貴族院議員(子爵として勅選)。1924年、東京で58歳で没。