Miesto herbo samprata ir stilius neatsiejami nuo konkrečios epochos socialinės ir kultūrinės aplinkos. Herbo pokyčius inicijuodavo miestų savininkai ar net patys miestiečiai. Neretai užkariautojai stengdavosi pakeisti miesto simboliką. Panevėžio, kaip ir kitų Lietuvos miestų, vėliau – apskričių centrų, herbas per 200 metų buvo kelis kartus keistas, taisytas, uždraustas.
Panevėžys iki XVIII a. pabaigos miesto teisių ir herbo neturėjo. 1791 m. lapkričio 2 d., Panevėžiui iš naujo buvo patvirtintas Upytės pavieto centro statusas, jis gavo teisę įkurti savivaldą, buvo įkurta rotušė. Ilgą laiką Panevėžys buvo Upytės pavieto dalis, tačiau ilgainiui tapo didžiausiu Aukštaitijos miestu.
Panevėžio savivaldos sukūrimą liudija istoriko Edmundo Rimšos Lietuvos valstybės istorijos archyve rasti Panevėžio rotušės antspaudai. Seniausiasis iš žinomų Panevėžio spaudų pagamintas 1801 m. Jis brūkšniu padalytas į du laukus, viršutiniame pavaizduotas imperijos simbolis – dvigalvis erelis, apatiniame – Panevėžio simbolis – ant žemės stovintis stilizuotas pastatas su trimis bokštais. 1812 m. pagamintas naujas Panevėžio spaudas didesnio formato už pirmąjį, reprezentatyvesnis. Panevėžį simbolizuojantis pastatas modifikuotas – jis primena vartus su trimis bokšteliais ir didesniu centriniu bokštu už jų.
Iškeltos kelios hipotezės, ką Panevėžio herbinė figūra simbolizuoja. Buvo spėjama, kad tai konkretaus pastato kontūrai. Istorikė Ona Maksimaitienė daro prielaidą, kad antspauduose galėjo būti pavaizduoti Upytės miesto teismo statiniai. Vis dėl to labiausiai argumentuota yra istoriko E. Rimšos nuomonė, kad tai simbolinė figūra. Statiniai, ypač gynybiniai, yra populiarūs Europos miestų simbolikoje.
Po 1831 m. sukilimo senoji simbolika buvo pašalinta iš pavietų centrų antspaudų. Juose vienvaldiškai įsigalėjo dvigalvis erelis. Tik 1845 m. buvo patvirtintas naujas Panevėžio apskrities herbas, kurio viršuje buvo pavaizduotas sidabrinis obeliskas mėlyname lauke – kaip Kauno gubernijos herbe – ir pridėta ruda žagrė su plieniniu noragu sidabriniame lauke apačioje. Toks Panevėžio herbas išliko visą carų valdymo laikotarpį. Sukūrus Lietuvos Respubliką, bandyta miestų herbus „lietuvinti“.
Senojo simbolio (pastato) tradicija buvo užmiršta, todėl bandyta improvizuoti. Vietoj herbo viršutiniame lauke buvusio obelisko pavaizduoti sukryžiuoti pėdai, o žagrė palikta, manant, kad tai senas miesto simbolis. Keletą dešimtmečių Panevėžio herbas nebuvo formaliai reglamentuotas, todėl vaizduotas įvairiai: viršuje javų arba linų pėdai, apatiniame lauke – įvairių formų žagrė arba arklas. 1968 m. LTSR heraldikos komisija įteisino miesto herbą, kurio viršutiniame lauke – sukryžiuoti linų pėdai, apatiniame – arklas. Vėliau šiuos simbolius, pakoregavus spalvas, nuspręsta palikti Panevėžio rajonui.
1986 m. heraldikos istorikas E. Rimša paskelbė atradęs 1801 m. Panevėžio herbą ir rekomendavo jį atkurti, pagrindu paėmus geriausiai heraldiškai sutvarkytą jo 1812 m. variantą su raudonplyčiais vartais. 1993 m. prezidento dekretu tai ir buvo padaryta. Etaloną sukūrė dailininkas Arvydas Každailis. Pagal herbą sukurta ir Panevėžio vėliava. Taip buvo sugrąžinta istorinė miesto heraldika.
