양강도 중부에 있는 군. 북부는 혜산시와 운흥군, 서부는 삼수군, 남부는 풍서군과 함경남도 허천군, 동부는 운흥군과 함경남도 단천시와 접해 있다. 동서 간 가장 긴 거리는 54km(동점노동자구~사동리)이고, 북남 사이 가장 긴 거리는 35km(오일노동자구~남평리)이며, 면적은 1,075.628㎢ 로서 도 전체면적의 7.74%를 차지한다. 현재 행정구역은 1읍 4구 20리로 구성되어 있으며 군 소재지는 갑산읍이다.

1413년에 갑주만호부(甲州萬戶府)를 갑산군으로 개편하였는데, ‘갑산’이란 이름은 이 지역에서 처음으로 개척된 곳이라는 뜻에서 비롯된 지명이다. ‘갑’은 처음, 첫째라는 의미를 나타내며 ‘산’은 고려시기에 고을이름에 붙였던 ‘주’를 조선시기에 와서 ‘산’ 또는 ‘천’으로 바꾸면서 붙여진 것이다. 민간에서는 갑옷처럼 평평한 산이 많으므로 비롯된 지명이라는 설도 있다.

갑산군 지역은 삼국시대에 고구려의 영토에 편입되었다. 발해시기에는 남경용원부(南京龍原府)에 소속되어 있었다. 발해국이 패망한 이후에 오랫동안 외세의 손아귀에 들어 있다가, 고려 공민왕시기에야 비로소 고려의 영토로 수복되어 화주목(和州牧)에 속해 졌다. 고려 말기인 1391년에 강릉삭방도에 갑주만호부(甲州萬戶府)가 설치되어 1413년(태종 13년)에 갑산군으로 되었다. 1416년에 갑산군 지역의 일부를 분리해 여연군(閭延郡)을 설치하여 서북면(西北面)에 이관되었다. 1461년(세조 7년)에 갑산도호부(甲山都護府)로 승격되는 동시에 삼수군(三水郡)을 설치하였다. 1871년에는 함경도(咸鏡道) 갑산도호부에 속하면서 허천사, 이리사(二里社), 호린사, 웅이사, 낙생사, 진동사, 상남사, 하남사(下南社), 회사, 동인사, 운총사, 보천사, 혜산사, 회린사 등 14개 사를 관할하였다.

1895년에 부군제를 실시하면서 갑산부(甲山府)로 되었으며 회사(回社), 회린사(會麟社), 허천사(虛川社), 진동사(鎭東社), 동인사(同仁社), 웅이사(熊耳社), 호린사(好麟社), 신흥사(新興社), 운총사(雲寵社), 보천사(普天社), 혜산사(惠山社), 수상사(水上社), 상남사(上南社), 낙생사(樂生社) 등 14개 사를 관할하였다.

그 이듬해인 1896년에 13도제를 실시하면서 함경남도 갑산군으로 되어 회사·회린사·허천사를 병합하여 회린면(會麟面)으로, 신흥사와 운총사를 병합하여 운흥면(雲興面)으로, 보천사와 혜산사를 병합하여 보혜면(普惠面)으로, 수상사와 상남사를 병합하여 천남면(天南面)으로, 진동사를 진동면(鎭東面)으로, 동인사를 동인면(同仁面)으로, 웅이사를 웅이면(熊耳面)으로, 호린사를 산남면(山南面)으로, 낙생사를 이인면(里仁面)으로 개편하고, 장평면(長平面)을 신설하여 10개 면을 관할하였다. 1914년 행정구역 폐합 시에 이인면·천남면·웅이면이 풍산군에 편입되었고, 1934년에 보혜면과 운흥면이 혜산군에 편입되면서 보혜면이 분리되어 혜산읍(惠山邑)과 보천면(普天面)으로 되었으며, 장평면이 갑산면(甲山面)으로 개칭되었다. 일제 말기까지 관하에 갑산면, 산남면, 동인면, 진동면, 회린면 등 5개 면을 두었다.

1952년 군면리 대폐합에 따라 갑산군 산남면의 7개 리와 신봉리 일부, 석우리 일부는 풍서군에 편입되고, 갑산군의 갑산면·회린면·동인면·진동면의 전체 리와 산남면의 7개 리 그리고 산남면의 신봉리 일부, 석우리 일부를 병합하여 갑산군을 구성하였는데, 이때 갑산면의 용림리·몽충리·남부리·북부리·서부리·동부리를 병합하여 갑산읍(甲山邑)으로, 갑산면의 동흥리·중평리·통남리와 장남리 일부를 병합하여 남평리(南坪里)로, 갑산면의 도하리·도상리·고암리·대흥리와 회린면의 용계리 일부를 병합하여 송암리(松岩里)로, 갑산면의 사기리·부흥리와 회린면의 용계리 일부를 병합하여 상흥리(上興里)로, 갑산면의 쌍소리·쌍대리·부연리를 병합하여 추풍리(秋豊里)로, 갑산면의 선평리와 세동리를 병합하여 창송리(蒼松里)로, 갑산면의 지경리와 진동면의 석우리·노평리·신성리를 병합하여 평화리(平和里)로, 진동면의 신양리·노적리·연흥리를 병합하여 양흥리(陽興里)로, 진동면의 상리·은사리·중장리를 병합하여 사장리(士庄里)로, 진동면의 동점리와 주막리를 병합하여 석동리(石銅里)로, 진동면의 내유포리·유포리·남대리를 병합하여 동포리(銅浦里)로, 진동면의 신동리·양류리·창평리·남양리를 병합하여 창동리(倉東里)로, 산남면의 가림리와 동천리를 병합하여 임동리(林銅里)로, 산남면의 고소리와 신봉리 일부를 병합하여 삼봉리(三峯里)로, 산남면의 송우리와 용평리 일부와 갑산면의 장남리 일부를 병합하여 사평리(砂坪里)로, 산남면의 시화리, 풍양리와 용평리 일부를 병합하여 시양리(時陽里)로, 회린면의 위계리·장중리·서당리를 병합하여 금화리(金化里)로, 회린면의 포항리·신화리와 산남면의 석우리 일부를 병합하여 회린리(會麟里)로, 회린면의 진둔리·후지리·신흥리를 병합하여 중천리(中川里)로, 회린면의 장기리·남동리·조양리·중초리를 병합하여 사동리(砂洞里)로, 회린면의 중흥상리·중흥하리·대풍리를 병합하여 대중리(大中里)로, 회린면의 동측리·천성리·삼상리를 병합하여 천성리(泉城里)로, 동인면의 남흥리·종포리·동흥리와 풍산리 일부를 병합하여 동평리(東坪里)로, 동인면의 대동리·안교리·명덕리를 병합하여 대덕리(大德里)로, 동인면의 신상리·외산리·중흥리를 병합하여 신중리(新中里)로, 동인면의 백암리와 풍산리 일부를 병합하여 상산리(上山里)로, 동인면의 상후리·연풍리·신개리를 병합하여 금풍리(金豊里)로, 동인면의 대상리·신흥리·신성리·오일리를 병합하여 오일리(五一里)로, 동인면의 사정리·신풍리·연흥리를 병합하여 신정리(新亭里)로, 동인면의 신창리·삼일리와 회린면의 신포리를 병합하여 삼일리(三一里)로 개편하여 1읍 29리를 관할하였다.

1954년에 상흥리 일부가 갑산읍에 편입되었고, 동포리와 석동리를 병합하여 동점노동자구(銅店勞動者區)를 신설하였으며, 동평리·대덕리·신중리·상산리가 혜산군에 편입되었다. 1956년에 시양리가 삼봉리에 편입되었고, 1973년에 오일리가 운흥군에 편입되었으며 1977년에 삼일리가 삼일노동자구(三一勞動者區)로 승격되었다.

1981년에 운흥군의 오일노동자구 일부가 편입되어 갑산군 오일노동자구로 개편되었다. 1982년에 금화리가 조양리(朝陽里)로 개칭되었고, 1983년에 함경남도 허천군 상산노동자구 일부가 동점노동자구에 편입되었으며, 1988년에 동점노동자구의 일부를 분리하여 문락평노동자구(文略坪勞動者區)를 신설하였다. 2003년 현재 1읍(갑산읍), 4구(동점노동자구, 문락평노동자구, 삼일노동자구, 오일노동자구), 20리(금풍리, 남평리, 대중리, 임동리, 사동리, 사장리, 사평리, 삼봉리, 상흥리, 송암리, 신정리, 양흥리, 조양리, 중천리, 창동리, 창송리, 천성리, 추풍리, 평화리, 회린리)로 이루어져 있다. 갑산군 소재지는 갑산읍이다.