Sejarah SMK Veteran tidak bisa dilepaskan dari keberadaan SMEA Veteran, sekolah tersebut merupakan cikal bakal berdirinya SMK Veteran. Didirikan pada tahun 1974 oleh Yayasan Pembina Pendidikan Veteran yang beranggotakan para pejuang kemerdekaan dengan tujuan untuk meningkatkan pendidikan di kota Pekalongan. Pada awal berdiri, sekolah veteran bertempat di Jl. Pantaisari (sekolah pagi) dan Jl. Salak (sekolah sore). Kemudian pada tahun 2004, SMK Veteran pindah lokasi di Jl. Maninjau No. 14 Pekalongan (sampai sekarang).