Der Nikkei fiel bis zur Mittagspause um 0,42% auf 38.636,12 und gab damit nach, nachdem er kurzzeitig die psychologisch wichtige Marke von 39.000 Punkten überschritten hatte.
Der breiter gefasste Topix gab um 0,39% auf 2.646,99 nach.
Die Marktteilnehmer handelten im Vorfeld der geldpolitischen Sitzung der BOJ mit Vorsicht. Viele erwarten, dass die japanische Zentralbank die kurzfristigen Zinssätze entweder nächste Woche oder im April aus dem negativen Bereich anheben wird.
Unter den Indexschwergewichten stiegen der Chipausrüstungsriese Tokyo Electron um 1%, gefolgt von Honda Motor, die um 0,8% zulegten.
140 der 225 Indexmitglieder gaben jedoch nach, wobei Verluste bei wichtigen Aktien wie SoftBank Group (-0,8%) und der Uniqlo-Muttergesellschaft Fast Retailing (-0,3%) die frühen Gewinne zunichte machten.
Der Elektrogerätehersteller Daikin Industries war mit einem Minus von 2,6% der größte Verlierer.
Der Yen legte am asiatischen Vormittag zu und belastete Exporteure, die von einer schwächeren Währung profitieren, da Händler die ersten Ergebnisse der mit Spannung erwarteten Frühjahrslohnverhandlungen abwarteten, die am Freitag veröffentlicht werden sollen.
Toyota Motors fielen um etwa 1%.
"Sollte sich bestätigen, dass die Lohnerhöhungen höher ausfallen als im letzten Jahr, wird sich die Ansicht verstärken, dass die BOJ bei der März-Sitzung aus den negativen Zinsen aussteigen wird", sagte Maki Sawada, ein Stratege in der Abteilung für Investment Content bei Nomura Securities.
In diesem Fall "wird die Aufwertung des Yen gegenüber anderen Währungen wahrscheinlich die Aktienkurse belasten", fügte sie hinzu.
