Zámek s velice bohatou historií byl původně hradem, který byl po roce 1748 přestavěn. Později zde byla továrna na tabák a kasárna. Roku 1865 se majitelem zámku stává město, které zde zřídilo Jihomoravské muzeum.