Иван Плеханов переехал в Москву в 1892 году, когда ему было 13 лет, так поступали многие подростки из разорявшихся крестьянских хозяйств. Иван выучился на повара и сначала работал в ресторане Тестова на Воскресенской площади, потом в чайной; при советской власти стал заведующим столовой, а затем пошел поваром к патриарху Тихону.
В 1920 году на Троицком подворье патриарх Тихон рукоположил Ивана Плеханова во диакона к Троицкой церкви, при которой он одновременно состоял членом церковно-приходского совета. Здесь он служил до ареста патриарха и захвата патриаршего подворья обновленцами. После освобождения патриарха сотрудники ОГПУ с особенным тщанием стали собирать сведения, как относятся церковные люди к освобождению патриарха и к его опубликованным в советской прессе заявлениям.
24 июля 1923 года ОГПУ арестовало диакона Иоанна, при обыске у него был найден машинописный текст наставления монахам и мирянам, направленный против обновленцев: что с упадком общего благочестия в церковную среду проникнет много лжебратий, которые, будучи водимы пороками и привычкой к роскошной жизни, устроят гонение на всех желающих жить благочестиво.
— Скажите, каково ваше отношение к Церкви раньше и теперь, после раскаяния патриарха Тихона? — спросил следователь.
— Считаю себя членом православной восточно-кафолической церкви как прежде, так и теперь.
— Скажите, каково ваше отношение к Тихону и его раскаянию?
— Как мало разбирающийся, я считаю для себя правильным не касаться его раскаяния, как лично меня не касающегося.
— Скажите, где, от кого и когда вы получили отобранный у вас при обыске печатный текст наставления, то есть фамилии, имена, отчества и адрес?
— В храме, от неизвестной женщины, подано мне в руки.
За недоказанностью преступления, а также за отсутствием существенных сведений от осведомителей ОГПУ распорядилось 24 сентября 1923 года диакона Иоанна освободить.
Отец Иоанн снова стал нести послушание повара у патриарха, а после его кончины — у патриаршего местоблюстителя митрополита Петра (Полянского).
В 1925 году епископ Бронницкий, викарий Московской епархии Иоанн (Васильевский), в Воскресенском храме в поселке Вешняки рукоположил диакона Иоанна во священника. До ноября 1936 года отец Иоанн служил в Москве, но с закрытием в Москве многих храмов и сокращением числа приходов был вынужден уйти за штат. Как священнослужителя, его выслали за стокилометровую зону от Москвы, и некоторое время он жил в Волоколамске; затем отец Иоанн получил назначение в храм Дмитриевского погоста Нагорьевского района Ярославской области. Отсюда он часто ездил в Москву закупить необходимые для церкви вещи и повидать духовных детей, которых у него за время служения в Москве появилось немало. Когда священник приезжал в Москву, то бывал в некоторых храмах; об этих его приездах осведомители донесли в НКВД. В двадцатых числах января 1938 года отец Иоанн приехал в Москву и собирался остаться на венчание племянницы, которое было назначено на 2 февраля, но в тот же вечер был арестован и заключен.
Были допрошены два дежурных свидетеля — священнослужители московских храмов Толузаков и Марков, которые дали показания об антисоветской будто бы деятельности священника, и после этого был допрошен отец Иоанн.
— Следствием установлено, что вы в январе сего года в присутствии нескольких лиц восхваляли врагов народа, — заявил следователь.
— В отношении врагов народа я ничего не говорил.
— Следствием также установлено, что вы в январе сего года среди окружающих вас лиц высказывали неудовольствие относительно существующего колхозного строительства.
— Это неправда. Относительно колхозного строительства я ничего не говорил.
— Вы арестованы и привлекаетесь к уголовной ответственности за проведение контрреволюционной агитации среди верующих. Признаете себя в этом виновным?
— Виновным себя в проведении контрреволюционной агитации я не признаю.
13 марта следствие было закончено, и 15 марта 1938 года тройка НКВД приговорила отца Иоанна к расстрелу. Священник Иоанн Плеханов был расстрелян 25 марта 1938 года и погребен в безвестной общей могиле на полигоне Бутово.