18. yy'ın başlarında, tarihi "Kotyora" şehrinin 5 km doğusundaki Bayramlı kasabasının merasında ormanlık ve bataklık alanda kurulmuş ve yavaş yavaş büyümeye başlamıştır. 200 yıl içinde gelişerek bugünkü modern haline dönüşen şehir, ilk yıllarda "Bucak Kazası" olan adını da 1869 yılında "Ordu" olarak değiştirilmiştir.
Halk arasında şehrin kurulu bulunduğu yerde bir askeri ordunun konaklaması ya da sultanın çadırını burada kurmasından dolayı "Ordu" adının verildiği anlatılmaktadır bölgeyi 200 yıldan fazla bir süre ellerinde bulunduran Hacı Emir Beyliğinin yükselme çağında, Süleyman Bey zamanında Bayramlı'nın (şimdiki Ordu) merkez olarak kullanılması ve ordusunun da burada bulunmasının şehre yeni ismini kazandırdığı söylenebilir.
Ünye ilçesi civarında MÖ 15000 yıllarına ait yerleşim izlerine rastlanan bölgeye, MÖ 2000 yıllarında Doğu Anadolu'nun iç kısımlarından Karadeniz Bölgesine gelen maden işleme ve tunç silahlar yapmada usta olan Haliplerin dağlık kesimlere yerleştikleri belirtilmektedir.
Eski adıyla "Kotyora" olarak bilinen tarihi şehrin ise, bugünkü Ordu'nun 5 km batısında, Ordu-Samsun yolu üzerinde, halk arasında "Bozukkale" adıyla bilinen yer olduğu söylenmektedir.
MÖ 6. yy'da Sinop'tan gelen Miletli koloniciler tarafından kurulan şehir, bu dönemde Milet asıllı krallar tarafından yönetilerek, önemli bir ticaret merkezi haline getirilmiştir.
Tarihçi Xenophon'un "Anabasis" adlı kitabında, tarihte "Onbinlerin Ricatı" olarak bilinen askeri seferle 8600 kişi olarak MÖ 400 yıllarında Trabzon'a gelen ordunun, Kotyora şehrine de geldikleri ve burada kendilerine yardımcı olan insanların gemilerini ellerinden alıp Karadeniz Ereğlisi'ne gittikleri anlatmaktadır.
Pontos kralı I. Farnekes'in Sinop ve Kotyora'yı ele geçirmesinden sonra, Kotyora halkı boşaltılarak, yeni kurulan "Farnakiya (Giresun)" şehrine nakledildi ve bundan sonra şehir ticaret merkezi olma özelliğini kaybetti.
MÖ 334'de Büyük İskender'in kontrolü altına giren bölge, MÖ 245'de merkezi Amasya'da bulunan Pontos Devleti sınırları içinde kaldı.
Bu dönemde Pontos Devleti ile Romalılar arasında bir çok savaşa sahne olan Anadolu'ya Romalıların gönderdiği Lucullus, Murena, Pompeius, Julius Cesar gibi komutanların kazandığı zaferlerle Mihridates Kafkasya'ya kaçmak zorunda kalmış ve MÖ 50 yıllarında Ordu bölgesi de Roma İmparatorluğu topraklarına katılmıştır. MS 395 yılında Bizans sınırları içinde kalan Ordu bölgesi, Malazgirt Zaferinden sonra Anadolu Selçuklularınca alınmışsa da bir süre sonra Bizans'a geri bırakılmıştır.
1204 yılında İstanbul'un Latinler tarafından işgalinden kaçan Komnenos ailesinin Trabzon'da kurduğu Komnenos Devletine bağlanan Ordu, 1398 yılında Samsun'u alan Osmanlı Sultanı Yıldırım Beyazıt'ın topraklarını Trabzon'a kadar genişletmesi sonucu Osmanlılara vergi ödemek zorunda kalmış, ancak 1402 yılında Osmanlıların Timur'a yenilmesiyle bölgede yeniden Komnenos devleti yönetimi hüküm sürmüştür.
1461 yılında Fatih Sultan Mehmet'in düzenlediği seferle kesin olarak Osmanlı topraklarına katılan Ordu, Trabzon Beylerbeyliği'ne bağlanmıştır. 1883 yılında büyük bir yangın geçiren şehir, 17 Nisan 1920'de sancak ve 1924 yılında da Türkiye Cumhuriyeti Devletinin bir ili olmuştur.