Miletliler, Persler, Makedonlar, Pontus Devleti, Romalılar, Trabzon Rum Devleti, Oğuz boyları (özellikle Çepniler), Hacıemiroğulları Beyliği ve Osmanlının izleri mevuttur.
Bilinen en eski adı Kotyora'dır. Anlamı bir kaynağa göre Kut Yöresidir. Kut Türklerinin koyduğu isimdir. Ayrıca Orta Asya’da bazı Türkmen beylerinin oturdukları kasabalara da Ordu adı verilirdi.
Diğer bir kaynağa göre de eski Yunancada Dağ Eteği demektir.

Kutadgu Bilig adlı eserde Ordu isminin anlamı; şehir, saray, başşehir, sahil şehri olarak geçer.
Divan-ı Lügat’it-Türk eserinde ise; bir yere yerleşmek, Hakan’ın yurdu anlamlarındadır.
Arapçadaki karşılığı cünd, yani savaş için toplanan insanlardır. Asker ise bir araya gelmek anlamındadır. Farsçadaki karşılığı ise  leşkerdir.

Osmanlılar tarafından ele geçirildiğinde adı 'vilâyet-i Canik-i Bayramlu' olarak kayıtlara geçer. Daha sonraları ise 'kazâ-i Canik-i Bayram'dır.
1869'da belediye kurulur ve Ordu adı verilir. Bir kaza olarak Trabzon Vilayetine bağlanır.
1920 yılında sancak olur. 1923'de il olarak kabul edilir.