梧州是岭南古城。虞舜时代（前2255～前2207年），全国划为12州，梧州属“荆州南境”之地。夏商周时代（前2000～前256年），梧州属百越（粤）地。周安王十五年（楚悼王十五年，前387年），梧州属楚。秦始皇三十三年（前214年），始皇统一岭南后，置桂林、象、南海3郡，梧州属桂林郡（一说南海郡）。汉高后五年（前183年〕，赵佗称南越武帝，封赵光为苍梧王。同年，建苍梧王城，这是梧州建城之始。元鼎六年（前111年），汉武帝灭南越国后，置苍梧郡，郡治苍梧王城，置广信县。元封五年（前106年），武帝将交趾刺史部移治苍梧郡广信县，统辖岭南的苍梧等9郡，梧州成为“岭南要地”，为岭南首府。

梧州市自建制以来，历汉、三国、魏晋南北朝，达700多年，一直为郡、县治所。至隋开皇三年（583年），改广信县为苍梧县。唐武德四年（621年），始称梧州。元至元十六年（1279年），梧州安抚司改为梧州路，设总管府，治梧州，辖苍梧县。明成化六年（1470年），明宪宗在梧州创建两广总督府，这是中国历史上最早的总督府，梧州成为两广政治、军事中心。清朝，梧州属广西承宣布政使司桂平梧郁道梧州府、广西省梧州府，为府、县治。梧州辖苍梧、藤县、岑溪、容县、怀集、北流、博白、兴业、陆川9县，郁林1州。雍正三年（1725年），梧州改辖苍梧、藤县、岑溪、容县、怀集5县。民国元年（1912年），梧州隶属梧州军政分府，为府治。二年（1913年），广西废府为县，复置苍梧县，隶郁江道，为道治。十六年（1927年）6月，梧州设市政委员会。同年12月1日，梧州市政府正式成立，为省辖市。二十一年（1932年）7月，撤市复归苍梧县，治梧州。十九年（1930年）属苍梧民团区。二十三年（1934年）3月，属梧州行政监督区，二十九年（1940年）后属第三区行政督察专员兼保安司令公署。

1949年11月25日，梧州解放。12月1日，中国人民解放军梧州军事管制委员会成立。1950年1月1日，梧州市人民政府成立。1955年7月24日，市人民政府改称梧州市人民委员会。1958年7月，自治区人民委员会决定，并经国务院批准，梧州市划归梧州专员公署领导，但市人民委员会的政权机构不变，仍为省辖市、专区级机构。1960年10月，梧州地区专员公署与市人民委员会合署办公。1961年5月，恢复地、市建制，梧州市仍为自治区辖市。1968年8月26日，市革命委员会成立。 1980年9月29日，恢复市人民政府。1979年2月，梧州市设立万秀区、白云区、鸳江区、蝶山区。1984年9月，撤销鸳江区。1990年8月，撤销白云区。1984年2月，苍梧县由梧州地区划拨梧州市管辖。1984年6月23日，撤销5年之后的郊区重设。至此，梧州市辖苍梧县、万秀区、蝶山区和郊区。1997年4月，梧州市增辖藤县、蒙山县、代管岑溪市，辖区扩大为3县1市3区。2003年2月，市辖区调整，撤销市郊区，设长洲区。