Edificiul a fost construit in anul 1574 in cadrul celei de-a doua incinte medievale de aparare a orasului. Initial a purtat denumirea de Poarta Mica din ulita Sapunului.
Turnul Pompierilor impreuna cu o portiune de zid este unul din putinele fragmente din a doua incinta medievala de aparare a Clujului care se mai pastreaza si astazi.
Aceasta a supravietuit deoarece in secolul al XIX-lea a fost inaltata si folosita pana la inceputul secolului al XX-lea de pompieri pentru supravegherea orasului, de aici provenind si numele actual: Turnul Pompierilor. Dupa ce a incetat a mai fi folosit ca punct de observare a incendiilor, o perioada turnul a gazduit Muzeul Pompierilor.