Herola gewann bei den Olympischen Jugend-Winterspielen 2012 in Innsbruck im Gundersen-Wettkampf und bei den Nordischen Junioren-Skiweltmeisterschaften 2012 im türkischenErzurum im Gundersen-Wettkampf mit 5-km-Lauf jeweils die Silbermedaille. Wenig später – am 3. März 2012 – hatte er in Lahti seinen ersten Einsatz im Weltcup, wo er mit Rang 47 die Punkteränge verfehlte. Seit der Saison 2012/13 ist er regelmäßiges Mitglied der finnischen Weltcup-Mannschaft. Die ersten Weltcuppunkte gewann Herola am 1. Dezember 2012 mit Rang 22 im Gundersen-Wettkampf in Kuusamo, was gemeinsam mit dem ebenfalls 22. Platz im März 2013 in Lahti auch sein bestes Saisonergebnis im Einzel bedeutete. Bei den Nordischen Junioren-Skiweltmeisterschaften 2013 im Januar in Liberec verpasste Herola in beiden Einzel-Wettbewerben mit Rang vier das Podium jeweils um einen Platz. Im Februar 2013 war er zudem Mitglied der finnischen Mannschaft bei den Nordischen Skiweltmeisterschaften 2013 in Val di Fiemme. Dort erreichte Herola die Ränge 22 und 27 in den Einzel-Wettbewerben und wurde Achter mit der Staffel und Elfter im Teamsprint. In der Saison 2013/14 gelang ihm am 17. Januar 2014 in Seefeld mit Platz zehn im Gundersen-Wettbewerb zum ersten Mal in seiner Weltcupkarriere ein Top-Ten-Resultat im Einzel. Zwei Wochen später gewann er bei den Nordischen Junioren-Skiweltmeisterschaften 2014 wie schon 2012 eine Silbermedaille; diesmal im Gundersen-Wettkampf mit 10-km-Langlauf. Herola nahm im Februar 2014 auch an den Einzelwettkämpfen der Olympischen Winterspiele in Sotschi teil und belegte dabei Platz 16 im Gundersen-Wettkampf von der Normalschanze und Rang 14 von der Großschanze. Die Saison schloss Herola auf Platz 22 der Weltcup-Gesamtwertung ab.
In der Saison 2014/15 nahm er an den Nordischen Skiweltmeisterschaften 2015 im schwedischen Falun teil und belegte die Ränge 23 (Gundersen Normalschanze), 9 (Team), 16 (Gundersen Großschanze) und 4 im Team-Sprint mit Jim Härtull. Die Saison schloss Herola auf Rang 17 der Gesamtwertung ab.
Im August und September 2015 verbesserte Herola sein bestes Gesamtergebnis im Sommer Grand Prix auf den 8. Rang.
Der erste Sieg in einem Einzelwettkampf im Continental-Cup gelang ihm im Januar 2016 im finnischen Ruka über 10 km Gundersen; ein Erfolg, den er am folgenden Tag über dieselbe Strecke wiederholen konnte. Im ersten Gundersen-Einzelwettkampf der Weltcup-Saison 2015/16 im norwegischen Lillehammer konnte Herola mit Rang 3 seinen ersten Podestplatz im Weltcup erzielen. Die beiden Siege im Continental-Cup und der dritte Platz im ersten Weltcupbewerb sicherten ihm fortan an einen Stammplatz im Weltcup und in der Schlussabrechnung der Saison 2015/16 belegte er einen respektablen zehnten Gesamtrang. Am 2. April 2016 errang Ilkka zum vierten Mal in Folge den nationalen finnischen Meistertitel im Winter.
In der Weltcup-Saison 2016/17 erreichte Herola zwar nie das Podest, konnte allerdings mit konstant guten Leistungen den siebten Platz in der Gesamtwertung belegen. Bei den Weltmeisterschaften 2017 im heimischen Lahti wurde er im Teamsprint mit Eero Hirvonen Siebter, im Team gemeinsam mit Leevi Mutru, Hirvonen und Hannu Manninen Fünfter. Bei den Einzelwettkämpfen belegte Herola den zwölften Platz von der Normalschanze sowie den 17. Rang von der Großschanze. Im Sommer 2017 platzierte er sich in Tschagguns erstmals bei einem Wettbewerb des Grand Prix auf dem Podest. Diese Leistung konnte er im Januar 2018 auch im Weltcup bestätigen, als er am Wochenende in Chaux-Neuve sowohl im Einzel als auch im Team Dritter wurde. Bei den Olympischen Spielen 2018 erzielte Herola sein bestes Einzelresultat mit dem achten Rang von der Normalschanze und wurde zudem acht Tage später Sechster mit dem Team von der Großschanze.
Beim Grand Prix 2018 gewann Herola in Villach erstmals einen Wettkampf im Sommer. Die Gesamtwertung des Grand Prix schloss er auf dem zweiten Platz hinter Mario Seidl ab. In der Weltcup-Saison 2018/19 musste Herola zunächst mit seiner Form kämpfen, sodass vor allem seine Sprungleistung bessere Platzierungen verhinderte. Zum Ende der Saison konnte er sich deutlich steigern und erreichte in Klingenthal mit dem zweiten Platz sein bis dato bestes Weltcupresultat, das er Anfang März in Oslo wiederholen sollte. Am 9. Februar 2019 gewann er im Teamsprint in Lahti gemeinsam mit Eero Hirvonen erstmals einen Weltcupwettbewerb. Bei den Weltmeisterschaften 2019 belegte Herola sowohl im Einzel als auch mit der Staffel den fünften Platz von der Normalschanze. Beim Gundersen-Wettbewerb von der Großschanze reihte er sich als Elfter ein und konnte auch mit Erreichen des siebten Platzes im Teamsprint mit Hirvonen die Leistungen aus Lahti nicht bestätigen.
Seit der Saison 2017/18 stellt die FIS neben der Gesamtweltcupwertung auch ein Ranking der besten Läufer und Springer auf, woran der Langlauf als Herolas Paradedisziplin klar zu erkennen ist. Während er 2017/18 zweitbester sowie ein Jahr später drittbester Läufer war, belegte er in der Sprungwertung in beiden Saisons lediglich den 30. Platz. In den beiden darauffolgenden Wintern 2019/20 und 2020/21 gewann er die Laufwertung.
Ilkka Herola in Ramsau 2016
Ilkka Herola am dritten Tag des Seefeld-Triples 2018 am 28. Januar