Иван Васильевич Кархапя родом из деревни Сонкаяранта на полпути между городом Йоэнсуу и селом Иломантси. Местные православные входили тогда в приход Иломантси.
Иван женился, у него родилось два сына. Старший, Сергей, умер вскоре после рождения, а Алексей выжил. Овдовев, Иван вступил во второй брак. Его семья вместе с его отцом, Василием, жила на хуторе Ниссиля. К 1906 году 20-летний Иван стал одним из создалетей в Сонкаяранте Православного молодежное=го общества, собиравшееся под эгидой братства преподобных Сергия и Германа Валаамских. Общество собиралось в доме братьев Кархапя, а Иван стал его председателем. В одной из комнат была устроена временная часовня со скромным иконостасом и подсвечниками. Кроме того, была основана своя общедоступная библиотека. Однако главной формой деятельности общества были спевки церковного хора, с большим энтузиазмом воспринятые местными жителями. Деятельность общества служила примером для многих.
В том же 1906 году от имени общества Иван Кархапя написал письмо архиепископу Финляндскому Сергию (Страгородскому) с предложениями о возрождении духовной жизни православных. Вскоре после этого архиепископом было дано благословение на основание православной Народной школы в сотрудничестве с основанным в 1907 году Православным Карельским братством во имя святого великомученика Георгия Победоносца. Школы братства были главным образом церковными и не пропагандировали в том масштабе, как школы Министерства образования, вызывающих в той политической ситуации страх и подозрения идеалов панславизма.
В 1908 году при поддержке Православного Карельского братства в Сонкаяранта была построена православная школа и общежитие при ней. Языком преподавания был финский. Школа стала популярной и к 1911 году имела уже четыре класса. Учащиеся из малоимущих или проживающих в отдалении семей могли жить и питаться при школе. Просветительские и праздничные мероприятия устраивались и для местных жителей.
По поручению братства Сергия и Германа Валаамских Иван занимался просветительской и миссионерской деятельностью в Иломантси и со временем стал законоучителем в подчинении Православного Карельского братства. Иногда один, иногда в сопровождении иеромонаха Валаамского монастыря Исаакия (Трофимова) он совершал поездки по окрестностям с целью распространения печатных икон и литературы. Иван проводил также популярные духовные встречи.
В 1914 году Духовная консистория г. Выборга назначила самоучку Ивана Кархапя на государственную должность законоучителя. Ему приходилось преподавать почти во всему округу Куопио в разных приходах. Округ был большим, потому что, помимо г. Куопио и его окрестностей, включал в себя и весь регион Северной Карелии.
Иван вступил в преподавательскую должность, вскоре после этого его обвинили в доносительстве властям. В 1910 году, газета «Перяпохъялайнен» уже намекала, что Иван и его отец якобы поддерживали антифинскую политику России, и назвала их «слишком низкими существами, чтобы именоваться финнами». В этом контексте имя Ивана стало известно в разных концах страны.
Положение школы в Сонкаяранта ухудшилось в 1914 году, когда внезапно скончался давно оказывавший помощь школе епископ Сердобольский Киприан (Шнитников), а деятельность Православного Карельского братства была парализована. Однако труд Ивана Кархапя всё-таки принёс добрый плод, ибо уже на следующий год петербургским купцом Нестеровым была пожертвовано 10 тыс. рублей на строительство частной церкви для нужд школы. Чертежи будущего храма были составлены насельником Валаамской обители монахом Геннадием. Церковь была освящена осенью 1915 года в честь святой пророчицы Анны. Торжества возглавил архиепископ Сергий (Страгородский) в сопровождении многочисленных представителей братии Валаамского монастыря, приходского духовенства и мирян. После освящения Иван Кархапяя обратился к присутствующим с речью.
За примерные труды в церковной и просветительской областях Ивану Кархапя вручались многочисленные награды. Искренняя вера Ивана и соответствующие ей труды вызывали ненависть противников, распространявших всевозможные слухи о нём. Особенно неприятным представлялся им тот факт, что в 1912 году в доме Кархапяя частным образом гостил ненавидимый многими в то время генерал-губернатор Франц-Альберт Александрович Зейн (1909-1917 гг.). Во время этого визита Зейн посоветовал просить государственных средств на строительство дороги в деревню, что лишь усилило подозрения недоброжелателей Ивана. Обвинения достигли апогея вскоре после Октябрьского переворота в России в 1917 году, и школа была закрыта как «рассадник идей панславизма». Иван Кархапя стали чаще оскорблять, именуя как «приспешником царизма» и «ищейкой», так и «большевиком». Утверждалось, что его влияние распространяется даже на назначения в православном духовенстве.
В 1917 году газета «Каръяалан саномат» публиковала пасквили, в которых Кархапя ассоциировался с тёмными силами, действующими во вред Отчизне. Критике подверглись его миссионерские и просветительские поездки, а также полученные им награды. В частности, утверждалось, что Иван сеет разногласия и ненависть в карельском населении, которое, по мнению критиков, не имело выраженного религиозного и национального самосознания. Ивана Кархапя называли бескомпромиссным и беспощадным проводником идей панславизма, желавшим удержать финнов в подчинении России. Издевательства коснулись и православной веры Ивана. Утверждалось, что он сам считает себя мучеником и сеет страх в местном населении. Рассказывалось, что он позволял себе издеваться над верой и святотатствовал, чем вводил в заблуждение простых людей. Подобным же образом подвергались издёвкам отец и брат Ивана Кархапя.
По мере возрастания критики стали раздаваться призывы к государственной власти принять жёсткие меры с тем, чтобы запретить Ивану публичную деятельность. Иван Кархапяя не считал нужным опровергать обвинения или отвечать на оскорбления.
Православные из Сонкаяранта оказывали своему наставнику и его школьному проекту всяческую поддержку, однако на Пасху 1917 года случились раздоры и среди православных. На проведённых тогда собраниях прихожан в селе Иломантси проводимая Иваном и открытой им школой работа были признаны направленными на угнетение и антипатриотичными, в целях чего использовалась религия. Был поставлен вопрос об освобождении Ивана Кархапя от занимаемых им ответственных приходских должностей и лишении его членства в Приходском совете. Сожаления в отношении его деятельности были высказаны и со стороны Православного прихода г. Йоэнсуу. С наступлением осени Иван лишился поддержки церковных властей и был отстранён от должности законоучителя.
В марте 1918 года, на Крестопоклонной неделе, Иван и его брат Яков получили повестку явиться на мобилизационный пункт финляндской Белой армии в Народной школе села Тууповаара. Здесь на основании доноса они были арестованы. Рассказывали, что один из тех, кто арестовывал братьев, нашёл у Ивана в кармане небольшую иконку, которую тот всегда имел с собой. Обнаруживший икону выругался, бросил её на землю, стал топтать ногами и сказал, что Ивану она больше не понадобится. Братьев должны были доставить в Йоэнсуу, однако перед этим Ивану удалось побывать дома. Там он благословил годовалую крестницу, перекрестился и надел ей на шею свой золотой крестик.
После этого братьев под конвоем доставили в Йоэнсуу, где в заточении находились пленные солдаты русской армии, красные финны, лица, подозреваемые в сочувствии большевикам и просто подозрительные элементы, к числу которых были отнесены и братья Иван и Яков Кархапя. По дороге была сделана остановка в одном из домов, хозяйке которого Иван успел сказать, что дни его сочтены. В Йоэнсуу братья были помещены вместе с остальными узниками в подвал здания Городской управы.
Военное командование стремилось контролировать приведение казней в исполнение, но часто рсправы происходили спонтанно, под воздействием алкоголя и безо всякого суда. Такая судьба постигла и Ивана Кархапяя. Он был расстрелян в марте-апреле 1918 года в числе других узников в районе Сиилайнен в Йоэнсуу. На момент смерти ему было 33 года. Согласно дате на могильном камне, Иван был расстрелян 8 августа; есть еще две даты его расстрела, все они документально подтверждены.