양강도 소재지. 압록강 상류에 있는 국경도시로서 도의 거의 중심에 위치해 있다. 서부는 삼수군, 남부는 갑산군, 동부는 운흥군, 북부는 보천군과 접해 있으며 압록강을 사이에 두고 중국과 마주하고 있다. 현재 행정구역은 25동 4리로 구성되어 있다.

이 지역에 혜산구자(惠山口子)라는 고을이 있었는데, 후에 북방방위를 위해 진을 설치하면서 혜산구자의 ‘혜산’을 취하여 혜산진(惠山鎭)이라 하였다. ‘혜산’이란 이름은 이곳 압록강 기슭의 주민들이 이곳의 산에 있는 자원의 혜택으로 살아간다는 데서 유래되었다.

혜산시 지역은 삼국시대에 오랫동안 고구려의 영역으로 되어 있었으며 발해시기에는 발해의 판도로 되어 솔빈부(率賓府)에 속해 있었다.

발해가 패망한 이후 오랜 기간 외세의 지배 하에 있다가, 고려 공민왕시기에 고려의 영토로 수복되어 갑주만호부(甲州萬戶府)에 소속되었다.

조선왕조가 건립된 이후 1413년(태종 13년)에 갑주만호부가 갑산군으로 개칭되어 갑산군(甲山郡)에 소속되어 있었으며 그 후 혜산시 지역에 혜산진이 설치되었다.

1895년에 부군제를 실시하면서 이 지방은 갑산부의 관하에 있었고 그 이듬해인 1896년에 13도제를 실시하면서 함경남도 갑산부(甲山府)에 소속되어 있었다.

조선 말기에 혜산시 지역은 갑산군 보혜면(普惠面)의 일부를 이루고 있다가, 일제강점 후 이른바 국경경비요충지, 산림자원략탈의 본거지로 되면서 그 규모가 급속하게 확장되었다.

그리하여 1934년에 갑산군 보혜면이 혜산읍(惠山邑)과 보천면(普天面)으로 개편되었다. 1942년에 갑산군에서 혜산읍, 운흥면, 보천면, 삼수군의 별동면 일부가 분리되어 혜산군(惠山郡)이 신설되었다.

광복 직후에 보천면의 일부를 분리하여 대진면(大鎭面)을, 운흥면의 일부를 분리하여 봉두면(鳳頭面)을 신설하였고, 혜산읍을 혜산면(惠山面)으로 개편하면서 혜산면의 혜산리 일부가 혜흥리, 혜장리, 혜강리, 혜명리, 성후리로 분리되었고, 1949년 행정구역 개편 시에 춘동리와 석덕리를 병합하여 춘동리(春洞里)로 개편하였다.

1952년 군면리 대폐합에 따라 혜산군 보천면, 대진면의 전체 리와 운흥면의 오산리가 신설되는 보천군(普天郡)에 편입되었고, 별동면의 6개 리가 삼수군(三水郡)에 편입되었으며, 혜산면, 봉두면의 전체 리와 운흥면의 23개 리, 별동면의 6개 리를 병합하여 혜산군을 구성하였다. 이때 혜산면의 혜흥리·혜강리·혜화리·혜장리·혜명리·혜산리를 병합하여 혜산읍(惠山邑)으로, 봉두면의 용암리·신전리와 화동리 일부를 병합하여 용암리(龍岩里)로, 봉두면의 복안리·용운리·사덕리와 신덕리 일부를 병합하여 복안리(福安里)로, 봉두면의 장항리·용천리·신풍리·발막리를 병합하여 장항리(獐項里)로, 봉두면의 별남리·보안소리·심포리·백암리를 병합하여 심포리(深浦里)로, 봉두면의 하봉리·봉두리를 병합하여 봉두리(鳳頭里)로, 봉두면의 설령리와 화동리 일부를 병합하여 영하리(嶺下里)로, 봉두면의 생장리와 동흥리를 병합하여 생장리(生長里)로, 봉두면의 용포리와 용봉리를 병합하여 용포리(龍浦里)로, 운흥면의 산양천리 일부와 남포리·대오시천리를 병합하여 운흥리(雲興里)로, 운흥면의 삼포리와 수동리를 병합하여 동포리(洞浦里)로, 운흥면의 하자문리·후복리·상자문리를 병합하여 장언리(長彦里)로, 운흥면의 오시천리와 산양천리 일부를 병합하여 오시천리(五是川里)로, 운흥면의 산당리·모정리·운총리를 병합하여 운총리(雲寵里)로, 운흥면의 장성리 일부와 노동리·중평리를 병합하여 노중리(盧中里)로, 운흥면의 장성리 일부와 일건리·대봉리를 병합하여 일건리(日建里)로, 운흥면의 문산리와 대하리를 병합하여 대하리(大下里)로, 운흥면의 대중리와 신덕리 일부를 병합하여 대중리(大中里)로, 혜산면의 강구리·늪평리·요동리·춘동리를 병합하여 춘동리(春洞里)로, 혜산면의 영봉리·여달평리와 운흥면의 신흥리를 병합하여 영흥리(英興里)로, 별동면의 보사리·신석리·장수리를 병합하여 신장리(新長里)로, 별동면의 안계리·동평리·장강리를 병합하여 장안리(長安里)로, 혜산면의 위연포리와 성후리를 병합하여 위연포리(渭淵浦里)로, 혜산면의 송봉리·중리와 운흥면의 신복리를 병합하여 중리(中里)로, 운흥면의 대상리와 대전평리를 병합하여 대상리(大上里)로 각각 개편되었고, 위연포리가 위연포노동자구(渭淵浦勞動者區)로 승격되어 1읍 1구 23리를 관할하였다.

1954년 10월에 양강도가 설립될 때 혜산군의 복안리, 장항리, 심포리, 봉두리, 영하리, 생장리, 용포리, 운흥리, 동포리, 장언리, 오시천리, 운총리, 노중리, 일건리, 대하리, 대중리, 대상리, 신장리, 장안리, 신전리를 분리하여 운흥군(雲興郡)을 신설하였으며, 나머지 혜산읍·춘동리·영흥리·중리·위연포노동자구를 통합하여 혜산시(惠山市)로 개편되어 양강도의 소재지로 되었는데, 이때 혜산읍을 분리하여 혜산리(惠山里)·혜화동(惠花洞)·혜흥동(惠興洞)·혜장동(惠長洞)·혜신동(惠新洞)·혜명동(惠明洞)·혜강동(惠江洞)을, 위연포노동자구를 분리하여 위연동(渭淵洞)·성후리(城後里)·연두리(蓮頭里)를 신설하였고, 삼수군의 중운리 일부가 춘동리에 편입되어 7개 동, 6개 리를 관할하였다.

1955년에 혜산리를 혜산동(惠山洞)으로, 성후리를 성후동(城後洞)으로, 연두리를 연두동(蓮頭洞)으로 개편하였고, 1957년에 위연동 일부를 분리하여 연풍동(淵豊洞)을 신설하고, 혜장동을 혜강동에 편입하였다.

1961년에 영흥리를 영흥동(英興洞)으로, 중리를 송봉동(松峯洞)으로, 춘동리가 춘동(春洞)으로 개편되면서 일부가 강구동에 편입되었고, 혜강동 일부와 혜산동 일부를 통합하여 혜장동을, 춘동리 일부와 삼수군 중운리 일부를 병합하여 강구동(江口洞)을 복귀하였으며, 혜명동 일부와 영흥리 일부를 병합하여 연봉동(蓮峯洞)을 신설하였고, 중운리의 나머지 일부는 삼수군 보성노동자구에 편입되었다.

그리고 혜화동 일부와 혜흥동 일부가 혜신동에, 송봉동 일부가 연풍동에, 혜산동 일부와 혜흥동 일부가 혜강동에 편입되었으며 운흥군의 오시천리, 노중리, 운총리, 신장리, 장안리가 혜산시에 편입되었다.

1965년에 혜흥동 일부를 분리하여 신흥동(新興洞)을, 연두동 일부와 위연동 일부를 병합하여 강안동(江岸洞)을, 춘동 일부와 혜화동 일부를 병합하여 혜탄동(惠炭洞)을, 혜명동 일부·연봉동 일부·성후동 일부를 병합하여 탑성동(塔城洞)을 신설하였고, 연풍동 일부를 위연동에, 혜산동 일부를 혜명동에 편입하여 20개 동, 5개 리를 관할하였다.

1972년에 연봉동을 분리하여 연봉일동(蓮峯一洞)과 연봉이동(蓮峯二洞)을 신설하였고, 1973년에 춘동의 일부를 분리하여 마산동(馬山洞)을 신설하였으며, 1981년에 오시천리를 검산동(劒山洞)으로 개편하였다.

1993년에 마산동을 분리하여 마산일동(馬山一洞)과 마산이동(馬山二洞)을 신설하였고, 1999년에 송봉동을 분리하여 송봉일동(松峯一洞)과 송봉이동(松峯二洞)을 신설하였다.

2003년 현재 행정구역은 25동(강구동, 강안동, 검산동, 연두동, 연봉일동, 연봉이동, 마산일동, 마산이동, 성후동, 송봉일동, 송봉이동, 신흥동, 연풍동, 영흥동, 위연동, 춘동, 탑성동, 혜강동, 혜명동, 혜산동, 혜신동, 혜장동, 혜탄동, 혜화동, 혜흥동)과 4리(노중리, 신장리, 운총리, 장안리)로 구성되어 있다.