I titoli delle risorse hanno guidato i ribassi dopo che i prezzi del greggio sono scesi dai picchi di 10 mesi, mentre i trasportatori e altri titoli con dividendi più elevati hanno continuato a sovraperformare.
Il Topix è scivolato dello 0,37% a 2.421,23, alle 0151 GMT, scendendo dal massimo di venerdì a 2.438,02, un livello visto per l'ultima volta all'inizio del 1990.
Il Nikkei ha perso lo 0,12% a 3.3202,55 mercoledì. Ha toccato 33.634,31 venerdì per la prima volta dal 3 luglio.
I trader sono quasi certi che la Fed manterrà i tassi in sospeso al termine della riunione, ponendo l'attenzione sulla guida futura della banca centrale americana. I mercati dei futures attualmente quotano il 40% di probabilità di un ulteriore rialzo di un quarto di punto quest'anno, secondo lo strumento CME FedWatch.
La Banca del Giappone annuncerà la sua decisione politica venerdì, dopo la conclusione di una riunione politica di due giorni.
Mentre il Nikkei probabilmente scambierà in un range abbastanza ristretto prima della decisione della Fed, gli investitori terranno d'occhio con attenzione i rendimenti statunitensi, secondo lo stratega di Nomura Securities Kazuo Kamitani.
Un aumento dei rendimenti potrebbe pesare sul Nikkei, anche se la linea dei 33.000 dovrebbe reggere, ha detto.
Nel frattempo, gli investitori continueranno a privilegiare le azioni con dividendi elevati, che verranno pagati alla fine di questo mese, ha aggiunto Kamitani.
Il settore navale è stato il miglior performer tra i 33 gruppi industriali della Borsa di Tokyo, salendo dello 0,55%.
I raffinatori sono scesi del 2,63% e i minatori sono crollati del 3,08%.
"Il picco dei prezzi del greggio è probabilmente vicino", ha detto Kamitani.
Tra le singole azioni, i principali ribassi hanno riguardato il produttore di materiali Teijin e il produttore di farmaci Sumitomo Pharma, che hanno perso circa il 3,4% ciascuno per arrivare in fondo alla classifica del Nikkei.
Dei 225 componenti del Nikkei, 133 sono scesi rispetto ai 90 saliti, con due scambi piatti.
