明洪武二年，朱元璋鉴于东南沿海多有海盗滋扰，劫掠人口、毁坏田地城池，派出行人杨载、吴文华等人出使日本，要求日本方面制止海盗滋扰行为，归还被劫去的人口。但是明使五人被后醍醐天皇之子、南朝征西大将军怀良亲王斩杀。洪武三年，朱元璋又派出莱州府同知出使日本，依然遭到日本方面的冷遇。
双方的嘴仗一直对骂到了洪武十四年，朱元璋盛怒之下意图征服日本（实际上当时日本国内依然处于南朝与室町幕府对峙的状态下），但是最终撤销了这一打算，具体是谁劝住的尚不清楚，刘伯温殁于明洪武八年，享年六十四岁，肯定没有这个机会去劝住朱元璋向日本用兵了。
至于为何朱元璋最后打消了对日本用兵的打算，笔者认为一方面是明朝国家初立，百废待兴，应当以休养生息为主，此时贸然发动大规模的跨海远征，对于尚孱弱的国力肯定是极大的损伤；另一方面元朝败回哈拉和林后并未消停，而是依然常年和明军交战，帝国最精锐的边防军全部集中在长城边境，实在难以抽调用于跨海征日；第三方面元朝两度远征日本却都遭遇台风而失败的教训犹在耳边，不可能对朱元璋没有触动。总而言之，日本作为当时中原农耕民族的权力远端，远隔大海，能够保持一定的宗主朝贡已经是超常发挥，就不要指望跨海征讨了。至于朱元璋后来单方面把日本列为“永不征讨之国”，那就是天朝上国情结作祟，自己又开始犯傻了。