秦代屬長(zhǎng)沙郡。

西漢初置桂陽(yáng)縣，屬長(zhǎng)沙國(guó)。

漢景帝元年（前156），以湘、粵北地置桂陽(yáng)郡，桂陽(yáng)縣隸屬桂陽(yáng)郡。

隋開皇十年（590），始設(shè)連州，治所在桂陽(yáng)（今連州）。

大業(yè)元年（605），連州改稱熙平郡。

唐武德四年（621），裁熙平郡復(fù)置連州。

天寶元年（742），改連州為連山郡。

乾元元年（758），復(fù)名連州。

元至元十七年（1280），升為連州路。

清雍正七年（1729），改為連州直隸州。

1912年，連州改連縣。

1958年11月，連縣、陽(yáng)山、連南、連山四縣合并，稱連陽(yáng)各族自治縣。

1960年10月，分出陽(yáng)山縣，稱連州各族自治縣。

1961年10月，又分出連南、連山兩縣，復(fù)名連縣。

1994年4月22日，撤銷連縣，設(shè)立連州市（縣級(jí)），由清遠(yuǎn)市代管。