1549年8月15日、ザビエルはアンジロー（ヤジロウ）の案内で故郷の鹿児島に上陸した。まずアンジローの親族にキリスト教を説き、彼らの改宗に成功。その後、薩摩の大名・島津貴久に謁見し、ポルトガル商船との貿易利益に関心を持つ貴久から布教の許可を得た。しかし仏教僧侶たちの反発が強まり、特に真言宗の僧侶たちが「外国の邪教」として強く反対。約1年後に鹿児島を追放されることとなったが、この短期間で約100人に洗礼を授けた。日本最初のキリスト教コミュニティの誕生であった。
鹿児島を追放されたザビエルは平戸を経て山口に入った。最初は貧しい身なりで説教したが成果は乏しかった。そこで方針を転換し、インド総督の親書やポルトガル国王の贈り物（機械時計、ガラス製品、眼鏡など西洋の珍品）を大内義隆に献上した。義隆はこれに感銘を受け、旧大道寺を宣教の拠点として提供。ザビエルは毎日2時間の公開討論を行い、仏教僧侶との論戦にも積極的に応じた。「神の創造」「霊魂の不滅」などキリスト教の教義を説き、約2ヶ月間で500人以上が洗礼を受けた。山口はザビエルにとって日本布教最大の成功地となった。
「日本人は今まで出会った中で最良の民族」——ザビエルの日本人評
ザビエルはゴアのイエズス会本部に宛てた書簡で、日本人について「この国の人々は今までに発見された国民の中で最高であり、日本人より優れている人々は異教徒の間では見つけられないでしょう」と記した。彼は日本人の礼儀正しさ、名誉を重んじる精神、知的好奇心の強さ、そして清潔さに深く感銘を受けた。一方で、仏教僧侶との論戦では「男色の罪」を厳しく批判し、僧侶たちとの激しい対立も生じた。ザビエルの書簡はヨーロッパで広く読まれ、西洋における日本のイメージ形成に決定的な影響を与えた。この書簡こそが、西洋人による日本文化論の原点と言える。