民國十八年四月廿六日，國府發布膠濟路分段接防令，濟南、青島與膠濟鐵路沿線車站由國府派憲兵接防，應接收該任務需要於南京成立憲兵司令部(任務編制)，任命參軍處總務局長兼代參軍長 吳思豫為憲兵司令，統轄衛戍司令部所屬兩個憲兵團，專責膠濟接防任務。

         同時間，衛戍司令 谷正倫亦委請北洋憲兵 殷學瀛等先進，在衛戍司令部隸屬下，分別於蘇州和漢口設立「憲兵軍官講習所」及「憲兵教練所」，由 谷正倫親兼所長、殷學瀛為班主任訓練憲兵骨幹。

         憲兵臨時司令部階段性任務達成後，同年十一月五日，憲兵司令 吳思豫先行返抵上海，廿一日、廿四日，憲兵第一、第二兩個團分別由陳、伍兩位團長率領下返抵上海。同年十二月，由國民政府警衛旅旅長 俞濟時兼代憲兵司令。

         民國十九年一月，臨時憲兵司令部撤銷，憲兵兩個團歸建南京衛戍司令部。

         民國廿年一月，”憲警教導總隊”改編成「憲警處」，仍由 溫應星任處長。 三月，將原”憲警教導總隊”改制，於中央軍校成立附設「憲警班」，溫應星處長兼班主任，並再擴編一大隊計四個大隊。四月，成立「憲警第一～憲警第三團」。

         七月，衛戍司令於南京招考優秀學生千餘人組成憲兵第三團，任蔣孝先為團長，於蘇州開訓施以憲兵正規教育，以憲兵軍官講習所受訓結業的部份學員充任該團的中下級幹部。

         谷正倫主要參照日本關東軍憲兵教習隊的訓練方案，兼顧國情需要與時代潮流制定我國憲兵訓練內容循以建設； 其主要包含軍事、思想、經濟、破壞技術、謀略等十餘項，並立即從憲兵中選派上尉至少將二十多名骨幹組成考察團，由參謀長 申辛禪任團長（團員有蔣孝先、丁昌、徐之道、譚煜麟等）東渡日本考察憲兵制度一個月，回國後倣日本”憲兵條例”草擬「憲兵令」於同年八月廿日由國民政府頒布；與憲兵服務章程，由軍政部於同年九月廿日公佈，明訂我國憲兵主掌軍事警察，兼掌行政警察、司法警察，規範憲兵職掌範圍於：警衛安全、軍紀糾察、戰地勤務、衛戍任務，使憲兵部隊之編組、指揮、訓練、勤務等各種制度得以確立。

         教學內容主要是憲兵實務(憲兵主掌與兼掌、警務、警戒、警衛、檢查、巡查、查車、查船等)、憲兵司法警察實務(指紋學、照相術、現場臨檢、逮捕、押解、追蹤等)，以及各種法律學(國際法、刑法、刑訴法、軍刑法)、犯罪學、憲法、國際禮節等。學員由憲兵第一、第二兩團少校級以下的軍官中考選，其中有丁昌、徐志道、方滌暇、吳光遠、姚應龍、劉家康等。創部司令 谷正倫暨本部中上級主官均係參加第一期講習會受訓學員。

         各地武裝憲兵分遣憲兵隊警務每日繕寫「憲兵警務日報」呈團本部，日報包含： 運輸統計、軍隊風紀及治安狀況、要人行動（軍職少將以上、文職省府委員以上）過境該地時均須列入日報中。

         七月中旬，因指揮欠缺靈活，”憲兵旅”編制撤銷，同時撤銷”憲兵補充隊”。

*學生隊：共約150人，均從各團考選中士、下士和上等兵級的士兵，施予八個月的憲兵班長訓練，畢業後計劃作為下一屆憲兵教導總隊的教育班長、副班長．．．．。

*學兵隊：均係招考青年學生具初中文化水平以上，總約共一千六七百人，組成12個隊，施予六至八個月的新兵入伍和憲兵訓練，畢業後始能正式充當憲兵。

         民國廿二年三月，憲兵教導總隊長 凌光亞調升憲兵第六團團長，遺缺由 曹士澂接任。
五月再將原”憲兵教導總隊”改制成「憲兵教導團」與「憲兵補充團」以為新兵訓練單位，完訓後補充各憲兵團。
         憲兵勤務先以實驗制：憲兵第一、三、六團為 ”團-隊”兩級制，第二、四、五團為”團-營-連”三級制。
同年，國民政府招考十名憲兵團長，應考上校一百餘人。
         同時，裁撤”憲兵教練所”、”憲兵軍官講習會”，於南京江寧府改制成立「憲兵訓練所」，谷正倫仍兼所長、殷學瀛仍兼班主任，並選派 潘文斗、劉士傑二人赴南京中央國術館受訓後，成立「技術班」專門訓練摔角、擒拿。

憲兵訓練所開設：
*甲級學員隊：調訓憲兵團中下級幹部實施憲兵軍官專科教育與軍校畢業轉科教育。
*乙級學員隊：考選各團軍士實施軍官養成深造教育。
*丙級學生隊：考選優秀憲兵實施軍士教育，畢業後回團任憲兵軍士。
以憲兵訓練所、憲兵補充營：對新入伍憲兵施以訓練。

         民國廿三年二月，蔣中正在漢口對新編憲兵第一團訓話時，特別列舉「和平、勇敢、廉潔、慧敏」為憲兵四大信條。
         三月，以完訓的第一屆教導憲兵團成立新的憲兵第一團，原憲兵第一團併撥至憲兵第四團，由 張鎮接替憲兵第一團團長。

         民國廿四年二月，憲兵教導團改編成立憲兵第七團。四月，憲兵訓練所與憲兵補充營改制為「憲兵補充團」。
         同時，原先試驗實施之：”團-隊”兩級制，經試驗後檢討因管理與指揮不易，改為：”團-營-連”三級制。
同年十一月，西藏班禪活佛 額爾德宣回藏，憲兵挑選組成兩百名警衛大隊並同憲兵特警第二隊護送抵達甘孜。

         民國廿五年三月一日，為造就憲兵幹部人才，並研究、改進其學術與應用器材等起見，憲兵訓練所改制為「憲兵學校」（直隸軍政部，隸屬校本部），蔣中正任校長，谷正倫司令改任教育長，技術班亦改名為「軍事體育班」（即憲兵學校戰技班的前身）。

*甲級學員隊改名「學員隊」，由中央軍校學生每期畢業撥60～100名充之，必要時可考選各機關部隊之各兵業科軍官，曾任職一年以上，志願轉科為憲兵軍官者先之，修業期為六個月。

*乙級學員隊改名「學生隊」，遴選憲兵各團優秀準尉或上、中士充之，名額為60～100名，修業期為一年。

*丙級學生隊改名「軍士隊」，考選憲兵各團資深優秀之憲兵上等兵或下士充之。定額216名(上等兵126名，下士90名)，每年考選兩次，修業期為八個月。 。

憲兵西安靖亂 憲兵第一團長 楊鎮亞 上校

         民國廿六年春，谷正倫又開辦「特務教育班」第二期學員隊，警務處長 丁樹中（原名"丁昌"）為班主任，以選拔忠實、幹練之現役憲兵軍官佐及士兵為學員生，名額為各４０名，分別授以特種勤務教育，修業期為學員六個月，學生八個月，由 鄭介民、余樂醒等人講授憲兵特工要義、情報業務等。特務班學員生畢業後分發全國各地成立憲兵特警隊。

此外，南京憲兵學校還設有：
(1)憲兵上等兵教育，特附設教導團及補充團，考選國內青年，授以軍事學術及憲兵專科基本學術，使能充任憲兵，其修業期為8個月。

(2)軍官佐屬教育，對於已在憲兵中服務而未受憲兵教育之軍官或軍佐屬，依其必要，臨時輪流召集施以相互教育，以憲校原有教官擔任教授，以資普及，而期改進。

         南京憲校設有校長、教育長各一人。校長承軍政部部長之命，受訓練總監與參謀總長之指導綜理全校一切事宜，由蔣中正兼任校長。教育長承校長之命處理校務， 並負全校行政、教育之責，憲兵司令谷正倫兼任教育長。校長之下還設有教務主任、研究委員、政治教練員、教官、助教、編譯員等。

         至此中華民國憲兵教育已經樹立規模，至民國廿六年抗戰爆發已達１１個憲兵團與３個獨立營。 除羅友勝的憲兵第二團、李楚藩的教導團、補充團駐防南京外，其餘各團分駐全國各重要城市，維護軍隊風紀及地方治安， 或擔任特種勤務及統帥護衛、車站碼頭、機場警衛等。

         民國廿六年八月，日軍攻佔上海。 九月，以憲兵學校學生隊改編為南京衛戍總部警衛團基幹，隊長 歐陽昱中校升任警衛團長，區隊長晉營長、班長晉連長，學生均以少尉排長任用。以憲兵學生隊組成的南京衛戍警衛團，於昆山、無錫間，偕同友軍構築防禦工事。

憲兵副司令 蕭山令 中將

         國民政府追贈殉國的憲兵副司令 蕭山令為陸軍中將，國民政府主席 蔣中正特頒「以死勤事」，告慰南京保衛戰殉難憲兵英靈，憲兵衛戍首都壯烈史蹟永載史冊。

         民國廿七年十一月，接收山東省政府移交的漢口警察局的警犬和人員編成”憲兵警犬訓練班”，直屬憲兵司令部。

         抗戰期間憲兵配合情勢，民國廿七年冬，憲兵司令部由南京遷湖南芷江，應戰區需要，連續擴充１０個團。

         民國廿九年底，憲兵司令部由湖南芷江遷往陪都四川重慶。重慶陪都時期，均由憲兵配合軍統特別警衛組擔任擔任　蔣公特別警衛勤務。

         民國卅年，憲兵特警隊已發展到１９個，另一個憲令部直屬特警隊，均改名為「憲兵特高組」，並擴大編制。
         憲兵特高組雖配屬各憲兵團，但一切訓練、人事、經理及工作，統由憲兵司令部警務處第四課(政治警察課)負責。
         至民國卅年八月，已有１９個憲兵團、２個憲兵大隊。

         民國卅一年一月十七日，新編國際憲兵第一團隨國軍進入緬甸執行勤務；並改編北平憲兵為憲兵第十四團。

         民國卅四年一月設立「憲兵東南區司令部」，以利指揮東南各省憲兵部隊。此時期憲兵任務範圍更為廣泛，包括：剷除漢奸、清查戶口與連保、取締逃兵、收繳國軍傷兵武器、保護軍政要員安全、協助政府官員遂行政策、支援地面部隊作戰、監督海陸客運交通秩序、維護前後方軍紀、防衛重慶、清查糧食，以及救濟傷者與收容難民。

         民國卅四年九月十五日抗戰勝利後，「南京市區憲兵司令部」先行於南京市成立，負責維護首都治安。

         民國卅六年在警務處的基礎下擴編情報偵防職掌，下設情報、組織與保防及刑事警察三個科，在各地建立十四個特高組和十七個直屬組，憲兵情報組織擴展至印度、關島、香港等海外各地。

         民國卅八年共軍大舉南下，一月中旬，憲令部由南京轉進湖南衡陽，五月一日再撤至廣州，並於六月一日在廣州重組，並改隸國防部。 八月，為應戡亂局勢惡化，分別於台北、昆明成立東南區、西南區指揮所。
         九月底，憲兵司令部後撤至四川重慶，並將人員編制裁減半數，十一月下旬後再分批撤至成都。

         民國卅八年十二月廿七日，共軍攻破四川成都憲兵司令部，後撤川境的憲兵第二、憲兵第六、憲兵第十四、憲兵第十五　四個憲兵團隨之瓦解，國府憲兵時代結束。

         大陸戡亂末期，憲兵勤務主要負責「一般警衛」，站崗時抬頭挺胸，兩眼正視，長官經過，立時高喊：敬禮 / 禮畢，一班最少兩小時。

         此外還有「特別警衛」，是專門保護 總統安全的崗哨；在總統到達某地之前，必須先一步排妥警衛，等總統離去才得以撤崗。 蔣中正位於南京國民政府，每天下午到市郊散步，一班最少兩小時，在總統可能經過的道路旁站崗，不論晴雨，一站可能就是兩、三小時，天天如此，那怕衣衫盡濕，凍得發抖，疲憊不堪，憲兵仍是忠心耿耿，任勞任怨，堅守崗位。由於任務機動性高，是內層保障，所以憲兵譽為「領袖鐵衛隊」。

         其次是巡邏。三至四位憲兵一組，或徒步，或乘吉甫車，遇官兵違紀，即予告誡、糾正，不聽勸止者，便登記通報所屬部隊處置。 偶遇負傷官兵違紀，因其自恃有功，常須花費唇舌勸戒。
         再次是拘捕和押解人犯，最須防範人犯脫逃。並防範軍人違紀，並兼負司法警察責任，維護地方安全。

         抗戰期間，憲兵素稱忠貞鐵衛，對於國家的忠誠度是異常之高，總計從1937年～1945年抗戰期間，憲兵團營連排各級單位，作戰或參與地下工作，殉職憲兵高達13,100人；國共內戰期間，憲兵部隊惟有戰死，沒有投降。部分全軍覆沒之憲兵部隊成員的教育水準都在高中以上，在當時的教育平均水準來看，是素質非常高的部隊。