大和国成立当初は単一の行政区画であった葛城郡ですが、人口増加や行政管理の都合から、平安時代初期（あるいは律令制の整備過程）に南北へ分割されることになります。南側が葛上郡（かつじょうぐん）、北側が葛下郡（かつげぐん）と名付けられ、中世から近世に至るまでこの2郡体制が定着しました。
明治維新を迎えると、近代的な地方自治制度の確立に向けて大規模な郡区町村の整理が進められます。1897年（明治30年）4月、奈良県内での郡の統廃合が実施され、以下のように再編されました。
【明治期の郡再編と統合関係】
・南葛城郡（みなみかつらぎぐん）： 葛上郡 ＋ 忍海郡（おしみぐん）が合併
・北葛城郡（きたかつらぎぐん）： 葛下郡 ＋ 広瀬郡（ひろせぐん）が合併
この再編によって「葛城」の名を冠する2つの郡が誕生し、地域の近代行政単位として機能していくことになります。
