古称“新田”，春秋时为晋国迁都城于此，称为新绛。秦、汉置绛县，刘邦封周勃为绛侯于此。东汉、魏、两晋置绛邑县。

明洪武八年（1375年）绛州金台驿迁“下马里”为驿站时，因忌讳“下马”二字，而“下”在当时地方言中读如“侯”，故将驿站登记为“侯马驿”，侯马从此成为正式地名。1958年，曲沃、新绛、汾城合并建侯马市。1962年去市复设曲沃县。1971年，复置侯马市。2000年临汾撤地设市，县级侯马市改由山西省直辖、地级临汾市代管。