Rambam on the Aron's Location

Parshat Korah:

וַיֹּאמֶר יְהוָה אֶל-מֹשֶׁה, הָשֵׁב אֶת-מַטֵּה אַהֲרֹן לִפְנֵי הָעֵדוּת, לְמִשְׁמֶרֶת לְאוֹת, לִבְנֵי-מֶרִי; וּתְכַל תְּלוּנֹּתָם מֵעָלַי, וְלֹא יָמֻתוּ

And the LORD said unto Moses: 'Put back the rod of Aaron before the testimony, to be kept there, for a token against the rebellious children; that there may be made an end of their murmurings against Me, that they die not.'

The Rambam (Hil. Beit Habehira 4:1-2) writes:

א אבן הייתה בקודש הקודשים במערבו, ועליה היה הארון מונח, ולפניו צנצנת המן ומטה אהרון. ובעת שבנה שלמה את הבית, וידע שסופו ליחרב, בנה מקום לגנוז בו הארון למטה, במטמונייות עמוקות ועקלקלות; ויאשייהו המלך ציווה וגנזו במקום שבנה שלמה, שנאמר "ויאמר ללויים המבינים לכל ישראל הקדושים לה', תנו את ארון הקודש בבית אשר בנה שלמה בן דויד מלך ישראל--אין לכם משא, בכתף; עתה, עבדו את ה' אלוהיכם . . ." דברי הימים ב לה,ג

ב ונגנז עימו מטה אהרון והצנצנת, ושמן המשחה; וכל אלו לא חזרו בבית שני.

1. There is a rock in the west of the Holy of Holies, and the Ark was places on it, and in front of it were the jug of Manna and Aharon's staff. And when Shelomo built the Temple, and knew that it would eventually be destroyed, he build a place to hide the Ark below, in the deep and windy hiding spots. King Yoshiyahu commanded that it should be hidden in the place that Shelomo built, as it says "And he said unto the Levites that taught all Israel, that were holy unto the LORD: 'Put the holy ark in the house which Solomon the son of David king of Israel did build; there shall no more be a burden upon your shoulders; now serve the LORD your God..."

2. And together with it were buried Aharon's staff and the jug (of Manna) and the annointing oil. All these items did not return in the Second Temple...

Also, see the Mahloket in Yoma 53b-54b as to where it went.