Molte azioni legate ai semiconduttori hanno registrato perdite superiori alla media, dopo che la conferenza annuale degli sviluppatori di Nvidia non è riuscita a dare nuovo slancio al rally globale dei titoli dei chip incentrati sull'intelligenza artificiale.
Le azioni del settore energetico sono state le più performanti, dopo il balzo del 2% dei prezzi del greggio nella notte.
Il Nikkei è scivolato dello 0,8% a 39.429,73, alle 0130 GMT, cedendo parte dell'impennata del 2,7% di lunedì, quando gli investitori hanno accolto le notizie dei media che offrivano ulteriori indicazioni su cosa avrebbero fatto i politici della BOJ martedì.
Il Topix più ampio è sceso dello 0,2%, con un sottoindice di azioni di crescita in calo dello 0,5%, mentre le azioni di valore erano piatte.
"Con tutti i media che hanno riportato la fine dei tassi negativi, il controllo della curva dei rendimenti e l'acquisto di ETF - quello che si potrebbe definire l'insieme completo dei tre - il mercato ha già completamente prezzato questo risultato", ha detto Kazuo Kamitani, stratega azionario di Nomura Securities.
Ha detto che l'aggiornamento del grafico a punti al termine della riunione politica della Federal Reserve di mercoledì sarà un "punto focale" a breve termine. I mercati giapponesi sono chiusi per una festa nazionale quel giorno.
Non c'è un orario prestabilito per l'annuncio della politica della BOJ, ma di recente è avvenuto intorno all'ora in cui i mercati azionari riaprono dalla pausa di mezzogiorno alle 0330 GMT.
I principali funzionari della BOJ, tra cui il Governatore Kazuo Ueda, hanno sottolineato che gli acquisti di obbligazioni continueranno anche se il controllo della curva dei rendimenti sarà terminato, e che la banca centrale non si impegnerà in rialzi successivi dopo l'uscita dai tassi negativi.
Il produttore di apparecchiature per il test dei chip Advantest, che annovera Nvidia tra i suoi clienti, è stato tra i peggiori performer del Nikkei martedì, con un calo del 2,5%.
SoftBank Group, investitore di startup focalizzate sull'AI, ha perso lo 0,7%.
Il maggior freno al Nikkei è stato l'operatore di negozi Uniqlo Fast Retailing, a causa del suo peso particolarmente elevato nell'indice. Le azioni di Fast Retailing sono scivolate dell'1,8%.
Inpex è stato il titolo energetico più performante del Nikkei, guadagnando il 2,3%. Tra i settori principali, i minatori - che comprendono gli esploratori di petrolio - hanno guadagnato il 2,2%, mentre i produttori di petrolio e carbone sono saliti dell'1,2%. (Relazione di Kevin Buckland; Redazione di Subhranshu Sahu)