Zelfs vandaag de dag is het niet mogelijk om het exacte bouwjaar van de Scheve Toren of de redenen voor de bouw te achterhalen. Er wordt gespeculeerd dat het een overblijfsel is van het voormalige kasteel of dat het de rol kreeg van de stadspoort van die tijd. Een andere hypothese is dat de toren vanaf het begin dienst deed als klokkentoren – dit was het geval vanaf de 15e eeuw tot aan de Tweede Wereldoorlog.
In 1507 werd de toren verbonden met de Sint-Annakerk. Oorspronkelijk was de binnenkant alleen toegankelijk via een ladder of een buitentrap. De toren was verbonden met de kerk door middel van een overdekte veranda, die aan het einde van de 16e eeuw werd verwijderd omdat de torenstructuur als gevolg van het kantelen was gebarsten, waardoor hij volledig dreigde in te storten. Tot op de dag van vandaag is niet bekend waarom de toren scheef staat. Men denkt dat tektonische verschuivingen of bevochtiging van de grond de oorzaak kunnen zijn geweest.
Er is ook een legende verbonden aan de scheve toren die het overhellen verklaart. In 1858, na een grote brand in de stad, zou er een expertiserapport zijn opgesteld dat aangaf dat de toren al vanaf het begin scheef stond, wat zou blijken uit een inscriptie van de bouwer, die in het Pools als volgt luidde: “Mijn naam is Johannes Gleiß, ik heb deze scheve toren met toewijding gebouwd”. Helaas werd de inscriptie vernietigd nadat een brand een deel van het bouwwerk had verwoest en de toren moest worden herbouwd.
Op dit moment is de afwijking van de Scheve Toren van de verticaal 2,14 m. Daarentegen is het vermeldenswaard dat het in 1977 1,98 m was. Na de reconstructie is de hoogte van het gebouw 34 m. Vandaag de dag dient dit mysterieuze en zeer originele bouwwerk als uitkijkpost.