Pierwowzorem Wielkiej Wagi był budynek, znajdujący się przed zachodnim wylotem Sukiennic, który powstał około 1332 roku. Finalny obiekt został zbudowany w 1571 roku i przetrwał do 1846 roku.