于离县始置于西汉初期，时为太原郡21县之一，故治在今吕梁市离石区吴城镇吴城村。王莽时期反其意改名为于合县，东汉复名于离，永和五年(140)后属西河郡。三国魏复属太原郡，东晋大兴二年(319)十六国后赵废废于离县。