Az 1995 körül alakult Ensiferumot Markus Toivonen (gitár), Sauli Savolainen (bőgő) és Kimmo Miettinen (dobos) alapította. 1996 vége felé csatlakozott hozzájuk Jari Mäenpää gitáros/énekes. Következő év elején Jari bevonult a seregbe, így a zenekar kénytelen volt szünetet tartani.
Jari „szabadulása” után a banda elkészítette első demóját, amely nagy sikert aratott. Zenéjükre nagy hatással volt az Amorphis munkássága és a finn népzene.
1998-ban több változás is történt a felállásban. Jukka-Pekka Miettinen lett az új basszusgitáros és az ex-Arthemesia-tag Oliver Fokin helyet cserélt Kimmo Miettinennel a dobos poszton.
1999-ben az Ensiferum felvette második demóját, amely szintén jó fogadtatásban részesült az egész világon. Még ugyanebben az évben még egy demót készítettek Janne Joutsenniemi (Sub-Urban Tribe) segítségével a helsinki MD_Studiosnál. Ez a demó volt az, amely végül a Spinefarm Kiadó asztalán landolt, és a „Hónap Demója” címet is elnyerte több magazinnál, mint pl. a Noise, Metal Blade és Suomi Finland Perkele. Ráadásul az együttes nem csak Finnországban, hanem Svédországban és Olaszországban is sikert aratott. Az Ensiferum befutott..
2000 végén rögzítették „Ensiferum” című debütálólemezüket, de kisebb keverési hibák miatt a lemezt csak 2001-ben tudták kiadni.
2004-es új albumuk, az „Iron” folytatja a megkezdett viking/folk vonalat.