Postrojba je uporište pronašla u povijesnim dokumentima koji bilježe kako se od 1523. godine spominje naoružana postrojba plemićke obitelji Keglević od Bužima te ju je, kao jedinu takvu udrugu, priznao Savez povijesnih postrojbi Hrvatske vojske da bi je zatim, 12. ožujka 2001. godine u Požegi, primio u taj isti Savez.

Početkom 2001. godine, a temeljem starih dokumenata i povjesnica te na inicijativu Josipa Novaka, Milana Flegara i Gordana Špiljaka iz kluba je proizašla i povijesna postrojba Keglevićeva straža. Tih troje ljudi imalo je viziju da se u Kostelu osnuje postrojba po uzoru na onu Tomaša Keglevića.

Po primanju u Savez povijesnih postrojbi Hrvatske vojske, za predsjednika je tada izabran Milan Flegar, za tajnicu Karolina Novak, a za blagajnika Krunoslav Puhek. Uvedena je i nova dužnost zapovjednika postrojbe koju u dva mandata obnaša Zdravko Javorić. Utvrđene su dvije vrste odora i tri čina unutar postrojbe – zapovjednik (nadkosteljan), stjegonoša i dozapovjednik (kosteljan) te član postrojbe (dokosteljan). Povijesna postrojba postaje ujedno i članica Europskih asocijacija povijesnih postrojbi (EGS) te dobiva prvoga viteza u Viteškome redu Svetoga Sebastijana u Europi – Josipa Novaka. Proglašenje za viteza bilo je 30. kolovoza 2008. godine gradiću Korschenbroich kraj Mönchengladbacha u Njemačkoj, u staroj crkvi u kojoj je Otto von Habsburg imao svoju zadnju investituru proglašenja vitezova da bi drugi dan u katedrali u Ulmu abdicirao i prenio ovlasti na svoga sina Karla. To je bio svojevrsni oproštaj, stoga je Josip Novak bio među zadnjim vitezovima koje je proglasio Otto von Habsburg, inače tadašnji zastupnik u Europskome parlamentu.

S obzirom na to da Klub Kostelska pištola godinama djeluje bez vlastitih prostorija, na inicijativu predsjednika Milana Flegara godine 2006. započelo se s uređenjem podrumskih prostorija u područnoj školi Kostel. Prostorije je Postrojba na dugotrajno korištenje dobila od Područne škole Kostel, a 2007. godine uređenje je završeno te se prostorije aktivno koriste do današnjih dana. Godine 2010. uređeno je parkiralište za potrebe udruge. Također, uređen je izložbeni prostor u prostorijama, a u kojemu se čuvaju stare pištole i druge vrijedne stvari kulturne baštine lokalne zajednice.

Na području Kostela postoji dječje igralište koje je bilo u lošem stanju, a nalazi se direktno uz potok Kosteljinu. Igrajući se na igralištu, djeci je lopta bježala u potok. Klub je stoga odlučio realizirati projekt uređenja igrališta uz financijsku potporu zaklade ZAMAH.

Postrojba je proglašena povijesnom postrojbom Krapinsko-zagorske županije 18. prosinca 2008. godine te je njen zapovjednik županica ili župan. Tim je činom postala sastavnim dijelom svake manifestacije u županiji. Povijesna postrojba i klub se ujedinjuju u udrugu te još jednom mijenjaju naziv u onaj koji se koristi i danas – Povijesna postrojba Krapinsko-zagorske županije Kostelska pištola – Keglevićeva straža Kostel.

Ministarstvo kulture običaj je uskrsnoga pucanja, streljanja iz pištole, u Kostelu podno staroga grada – kaštela Kostelgrada – 22. studenoga 2012. godine proglasilo Nematerijalnim kulturnim dobrom i uvrstilo ga na Listu zaštićenih kulturnih dobara Republike Hrvatske. Tako je običaj stavljen u odgovarajući sustav zaštite i očuvanja kulturnih dobara. Kruna je to tradicije stare petstotinjak godina. Udruga, kao i sami stanovnici Kostela, izrazito se ponose ovim rješenjem dobivenim od Ministarstva Kulture Republike Hrvatske jer je ono dodatna potvrda početka jedinstvenoga običaja pucanja iz pištola za Uskrs u Hrvatskoj, ali i šire.

Na osmome su Carskom balu (8. Kaiserball) u Korneuburgu u Austriji održanome 30. siječnja 2016. godine, pod pokroviteljstvom obitelji Habsburg, pripadnici Keglevićeve straže – dopredsjednik Denis Flegar, tajnik Nino Stančić Vidrač i član Upravnoga odbora, Zlatko Mikulaš, predvođeni predsjednikom Milanom Flegarom – bili dijelom mnogobrojne hrvatske delegacije. Službeni domaćini bili su pripadnici Europskoga saveza vojnih povijesnih postrojbi na čelu s predsjednikom generalmajor i. TR Helmut A. J. Eberl, dopredsjednikom Thomasom Pfafflom i organizatorom, glavnim tajnikom Michaelom Islingerom. Na Carskome balu bio je posebni izaslanik engleskoga kraljevskog dvora, počasni pukovnik David Hume te Lady Nadia Le Fer. Toga su dana na Carskome balu, potpisom predsjednika UEWHG-a Generalmajor i.TR Helmuta A. J. Eberla, Keglevićeva straža Kostel, Križevačka djevojačka straža te Varaždinska graničarska husarska pukovnija primljene u Europski savez vojnih povijesnih postrojbi (de. Union der Europäischen Wehrhistorischen Gruppen, en. Union of the European Historical Military Groups). Ono na što je postrojba posebno ponosna jest činjenica da je Keglevićeva straža bila najstarija povijesna postrojba na Carskome balu. Naime, austrijske povijesne postrojbe potječu mahom iz 20. stoljeća, eventualno koja iz 19. i 18. stoljeća.

Postrojba je službeno primljena u Europski savez vojnih povijesnih postrojbi na Generalnoj skupštini Generalrapport 2016. u Sankt Veitu an der Glan u Austriji, 2. rujna 2016. kada je predsjednik UEWHG-a, general bojnik Helmut Eberl, stavio svečani plamenac na stijeg postrojbe. Treba spomenuti da pristup takvoj instituciji zahtijeva puno rada i povijesnoga utemeljenja. Prije primitka u savez njezina je povjesnica detaljno pregledana, proučavana i pohvaljena. Uz to, legenda o carskome saslušanju Tomaša Keglevića u Luksemburgu, a koju je na skupštini predstavljajući povijesnu postrojbu pročitao tadašnji dopredsjednik udruge Denis Flegar, dodatno je oduševila sve prisutne. Posebno su zadivljeni bili Austrijanci koji su, kao i Hrvati, upoznati s tragičnom sudbinom Frana Krste Frankopana i Petra Zrinskoga. Svakako treba istaknuti predsjednika Milana Flegara te časnika UEWHG-a, natporučnika Damira Peršija koji su poduzeli sve kako bi došlo do primitka postrojbe u Europski savez vojnih povijesnih postrojbi, odnosno UEWHG.

Sredinom rujna 2021. godine u Korneuburgu u Austriji održan je Generalrapport 2021. te je obilježena 30. godišnjica UEWHG-a, a na samoj skupštini prihvaćeni su prijedlozi hrvatskih članica Unije pa je tako za člana Nadzornoga odbora izabran Denis Flegar, tajnik Povijesne postrojbe Kostelska pištola – Keglevićeva straža Kostel.

U gradiću Pszczyna 5. je studenog 2022. godine održana Skupština pete regije Europskoga saveza povijesnih postrojbi (EGS) u čijem je sastavu i Savez povijesnih postrojbi Hrvatske vojske, odnosno Povijesna postrojba Kostelska pištola – Keglevićeva straža Kostel. Nakon Skupštine održana je investitura, odnosno primanje novih članova u Viteški red svetoga Sebastijana u Europi, koju je predvodio belgijski princ Charles-Louis von Merode. Tada postrojba dobiva i svojega drugog člana kojem se dodjeljuje titula viteza i koji je primljen u priznati Viteški red, predsjednika Milana Flegara.

Udruga danas okuplja više od 120 članica i članova svih životnih dobi te, osim organiziranja manifestacije Kostelske uskrsne pištole, sudjeluje u raznim drugim akcijama i projektima na dobrobit svojega kraja, sumještana, a osobito mladih (čišćenje okoliša oko Župne crkve sv. Mirka u Kostelu, čišćenje i održavanje okoliša oko Područne škole u Kostelu, probijanje prilaza do zidina samog Kostelgrada te održavanje istog, uređenje i moderniziranje travnatoga nogometnog igrališta kod Područne škole Kostel, očuvanje i zaštita prirodnih izvora pitke vode u Kostelu, održavanje sportskih igara pod nazivom Dani Kostela i drugo).

Postrojbu dugi niz godina potpomažu brojni sponzori i donatori: Flex transport, Zajec metal, Tomotrans vl. Tomislav Grilec, Kostel promet, Višnja i Ivica Herak, Auto poljo prom Kramarić, Kovačka radionica Horvat, BDF servis, Vetropack Straža, Autoprijevoz Lovrenčić, Silo – trans Josip Grilec, Grofelnik zajednički obrt, Krklec metal, Autoprijevoz, građevinska mehanizacija, Mini mljekara Veronika, UUPS vl. Emanuela Kučiš, Niskogradnja Pregrada, Općina Hum na Sutli, Očna optika Miro, Kračun Ivan i Lidija, Punek Ginekologija, Kamenski Željko, Autoprijevoz Rebić, Velimir Leskovar odvjetnik te Transport Flegar.

Postrojbu su podupirale županica Sonja Borovčak, županica Vlasta Hubicki, župan Siniša Hajdaš Dončić, župan Željko Kolar te gradonačelnici Pregrade Stjepan Novački, Vjekoslav Gorup, Vilmica Kapac, Marko Vešligaj.