İlçeinin adının kökeni hakkında iki varsayım mevcuttur:
M.Ö.700’lü yıllarda Merzifon’un 4 km.doğusunda, bugün Marınca diye anılan köyün bulunduğu yerde, bölge valisi Barsevinç kendi ismini taşıyan bir kasaba inşa ettirmiştir. Bu kasabanın adı zamanla Marsevinç, Mersuvan ve Merzifon şeklini almıştır.
M.Ö.222’de bölge valisi 5. Mihridat tarafından, bugünkü Merzifon’un yerinde, Merzpond adında bir kale inşa ettirilmiş ve adı Merzban, Merzifon şeklinde değişmiştir. ”Merz” kelimesi Farsça’da “sınır, mahal, sükun", ”fon” sözcüğünün de pont’un arapçalaştırılmış hali olduğu, dolayısıyla ”Merzifon” sözcüğünün “Pond karargahı” anlamına geldiği açıklanmıştır.
Batı dillerinde Napon ile gecer olarak geçer.