Янтарный замок расположен на улице Советская (бывшая Хауптштрассе). Его стены построены из массивных валунов, также, как и Казанская церковь. В замке находится интересный музей, посвященный средневековому периоду истории Восточной Пруссии.
С 17 века на этом месте находился небольшой охотничий замок, который был построен по приказу Прусского короля. Замок был построен из валунов крепости Тевтонского ордена в Гермау. В 1703 году замок был реконструирован по приказу короля Фридриха I. Он разместил в нем Береговую службу, которая занималась охраной побережья и шахт, а также контролем добычи янтаря. Со временем замок очень обветшал.
Все поменялось, когда замок был куплен Морисом Беккером, главным акционером компании, которая вела промышленную добычу янтаря в городе. Он полностью реконструировал Янтарный замок. По факту, на месте прежнего был построен новый замок-отель, но использованием тех же валунов крепости Гермау.
Морис Беккер мог поселить в нем важных гостей, которые приезжали в Пальмникен, ныне поселок Янтарный. В 1998 году в замке открыли музей, который назвали «Янтарный замок». Посетители входят в каминный зал, где их встречает атмосфера средневекового замка 15 века. Выглядит все очень естественно. Учитывая название, вполне логично, что большая часть экспозиций посвящены янтарю и истории его добычи в Пальмникене.
В подвале можно посмотреть орудия пыток, которые использовала католическая инквизиция. Здесь есть оружие и доспехи рыцарей Тевтонского ордена. Наверху можно посмотреть старинную мебель, посуду, предметы прикладного искусства. Здесь стоит уменьшенная копия Янтарной Пирамиды, которую можно увидеть на Янтарном карьере. В каминном зале собрана интересная коллекция старинных пивных кружек.