Иван Смирнов — сын священника селе Лопасня Серпуховского уезда Московской губернии, отец его умер еще до его рождения. Чтобы прокормить семью, мать Ивана поехала в Москву к брату священнику, который помог ей устроиться просфорницей в Ильинский храм на Воронцовом Поле. Иван учился в Заиконоспасском духовном училище, затем в Московской духовной семинарии, находившейся тогда в Москве в особняке на Садовом кольце, где сегодня располагается Музей декоративно-прикладного искусства.
В 1901 году, будучи 22 лет, Иван женился и был рукоположен в сан диакона. Служил в Москве в Вознесенской церкви на Большой Серпуховской улице и преподавал Закон Божий в нескольких московских женских городских училищах. В 1907 году отец Иоанн поступил в Московскую духовную академию. К этому времени у него было уже две дочери: Мария и Татьяна. Он состоял диаконом, но уже не Вознесенской, а Скорбященской церкви также на Большой Серпуховке — церкви при бесплатных квартирах для вдов и учащихся девиц известных купцов братьев Ляпиных (так называемая Ляпинка). Возможно, это обстоятельство и позволило диакону Смирнову уделять больше внимания учебе, оставив на время заботы о семье. Академию отец Иоанн закончил весьма хорошо. Он был пятым магистрантом, а его кандидатское сочинение «Синайский патерик в славяно-русском переводе» было удостоено премии А. М. Иванцова-Платонова. Тогда же в июне 1911 года Иван Михайлович рукоположен в сан священника, но остался в академии преподавателем на кафедре русского и церковнославянского языков с палеографией и работал над магистерской диссертацией. Эта диссертация, основную работу над которой отец Иоанн закончил в 1915 году, носила почти то же название, что и его кандидатская: «Синайский патерик (Λειμών πνευματικόϚ) в древнеславянском переводе», но теперь это было уже весьма многостороннее и фундаментальное сочинение.
С 1919 года о. Иоанн служит в городе Бутурлиновка Воронежской губернии — оставаться в Подмосковье было небезопасно. Но в 1923 году он снова в Москве, вторым священником храма Сошествия Святого Духа на Апостолов, что на Лазаревском кладбище. Настоятель храма — бывший профессор академии протоиерей Илья Васильевич Гумилевский. Он, вероятно, и посодействовал отцу Иоанну, который был выбран в клир общим собранием Лазаревской общины,— характерная деталь церковной жизни 1920-х. С 1925 года о. Иоанн Смирнов — настоятель храма. В один из воскресных дней 1932 года храм был внезапно оцеплен милицией, и настоятелю объявили о закрытии храма и конфискации имущества. Отец Иоанн продолжает служить — в Тихвинской, что в Сущеве, церкви и в Троицкой церкви на Пятницком кладбище. 30 декабря 1935 года он был назначен в Знаменскую церковь у Крестовской заставы, с 1936 года стал в ней настоятелем.
10 ноября начальнику Ростокинского районного отделения НКВД последовал рапорт от малограмотного участкового инспектора 58 отделения милиции, что им была сделана установка на гражданина Смирнова Ивана Михайловича, сообщался его адрес (Второй Лазаревский переулок, 2/4 — вероятно, бывший дом причта Духовской церкви), номер паспорта, что он — служитель культа и далее указывались свидетели, проживавшие там же. Через пару дней оперуполномоченный Овечкин стандартной фразой заполнил бланк: «Смирнов Иван Михайлович достаточно изобличается в том, что занимается к-р. агитацией террористического характера». В справке на арест (от 21 ноября) тем же Овечкиным фабрикуются ложные и несусветные высказывания священника, который якобы заявлял, что «скоро советскую власть свергнут, и напрасно рабочие стараются выбрать в Верховный Совет своих депутатов... недалек тот момент, когда я буду расправляться с коммунистами», и якобы свидетель В. Д. Лебедева показала за него то же самое, в частности, добавлено: «а с коммунистами я буду расправляться сам так, как расправляются фашисты в Германии».
22 ноября 1937 года о. Иоанна арестовали.
В следственном деле содержатся и другие показания тех же свидетелей, датированные уже 1957 годом. «Об антисоветской деятельности Смирнова мне ничего не известно... За несколько дней до ареста Смирнова меня вызывали в следственные органы и допрашивали в отношении Смирнова... Я дала показания в отношении биографических данных на Смирнова, которые мне были известны со слов самого Смирнова... Однако никаких показаний об антисоветской деятельности Смирнова я тогда не давала, да меня по этому вопросу и не допрашивали... Протокол моего допроса после его написания был зачитан мне следователем. Однако в нем об антисоветских высказываниях Смирнова записано ничего не было. Припоминаю, что когда я подписывала протокол допроса, то подписала не сразу за текстом, а в самом низу, где указал мне следователь... Оставалось незаполненное пространство в несколько строчек. Я боялась тогда об этом заявить следователю, и считала, что это так и надо».
7 декабря 1937 года тройка НКВД приговорила отца Иоанна к расстрелу. 10 декабря 1937 года, в день престольного праздника Знаменской церкви, где служил протоиерей Иоанн Смирнов, он был расстрелян на полигоне Бутово.