Hititler, Kimmerler, Medler, Persler, Makedonlar, Kapadokya Krallığı, Romalılar, Bizanslılar, Ermeniler, Selçuklular, Moğollar, Danişmendliler ve Osmanlının izleri mevcuttur.
Değişik dönemlerde Kral Yolu, Baharat Yolu ve ticaret yolları üzerinde olduğu için önemli bir şehir olarak kalır.

Bizanslılar zamanında adı Sebasteia (yüce)'dir. Sebast kelimesi kral Augustus'a işaret eder ve şehrin adı aynı zamanda Augustus Şehri'dir.
Bir dönem Pavlikan mezhebi yaygın olduğundan şehrin adı Pavlikan Şehri'dir.
Farklı bir dönemde adı Kleisoura'dır.
Şehrin adı bazı kaynaklarda Sebastos olarak geçer.

Selçuklular döneminde adı Sevaste-Sivaste-Sivastos ve sonunda Sivas'a çevrilir.
Osmanlı döneminde Eyalet-i Rum olarak anılır ve merkezi Sivas şehridir. Amasya ve Tokat sancakları da Sivas vilayetine bağlıdır.
Cumhuriyet ilanı ile aynı isimle il olur.