又多次变成废墟。为了把巴比伦彻底抹去，西那海里布让人装了几船巴比伦的泥土，遍地挥撒。这是一种象征性仪式，表示要让自己的敌人永远地失去土地。但是顽强的巴比伦人民重建了自己的家园。公元前7世纪后期，日益强大起来的迦勒底人占据了巴比伦，并联合其他民族灭掉了亚述王国，将其首都尼尼微同样变成废墟。迦勒底人建立了新巴比伦王国，将巴比伦作为自己的首都。

新巴比伦第二位国王尼布甲尼撒二世（公元前605～前562年）是一位极有作为的国王，他扩张了巴比伦的势力之后，将精力转移到扩建巴比伦城上。为了显示自己的威仪和荣耀，他要将巴比伦建成一座最雄伟豪华的城市。在气势上，它要远远超过汉谟拉比时代的巴比伦和亚述人的尼尼微，同时防御上要固若金汤，永不陷落，如同不落的太阳一般。巴比伦城由此进入历史上的第二次辉煌时期。然而仅仅几十年后（公元前539年），巴比伦城就被波斯人占领了，并从此走上了末路。由于长期的战乱，巴比伦城的人口越来越少，宫殿也被废弃了。希罗多德在公元前460年游览巴比伦城时，荒凉之中还能感到它昔日的风采。到亚历山大帝占领美索不达米亚时，巴比伦城已完全荒芜了。据记载，公元7世纪阿拉伯人统治美索不达米亚以前，倾废的城墙和宫殿尚依稀可辨，有些普通的居民还将宫殿当做住所，但后来巴比伦城址就剩下一片茅屋，直至考古工作者的到来。