Zamek należał do kapituły warmińskiej, która, wraz z biskupem warmińskim, do 1454 podlegała wojskowej opiece zakonu krzyżackiego. Z tego względu odegrał sporą rolę podczas wojen polsko-krzyżackich. W 1410 po bitwie pod Grunwaldem poddał się bez walki Polakom, w 1414 zaś zdobyli go oni po kilkudniowym oblężeniu. W czasie wojny trzynastoletniej (1454-1466) przechodził z rąk do rąk. Krzyżacy zagrozili zamkowi i miastu jeszcze w 1521, obrona jednak była tak skuteczna, że poprzestali po jednym, nieudanym szturmie.
dodane na fotoforum: