Иван Баранов — крестьянский сын, родился близ Рыбинска в 1861 году. Учился в начальном училище. В 1892 году поступил послушником в Толгский ярославский в честь Введения во храм Пресвятой Богородицы монастырь. В 1895 г. переведен в Варницкий во имя Святой Троицы Сергиев мужской монастырь, где принял монашеский постриг с именем Иосиф. В 1896 году рукоположен во диакона, а через 4 месяца — во иерея. В 1900 году направлен для исполнения пастырских обязанностей корабельным священником. С февраля по май 1900 года служил на пароходе Добровольного флота «Киев», с июня по сентябрь того же года — на броненосце Черноморского флота «Георгий Победоносец». В июне 1901 года, по возвращении в Ярославскую епархию, был вновь принят в братию Толгского монастыря.
В 1914 году, с началом Первой мировой войны, избран от епархии для несения пастырской службы в армии. Согласно инструкции ведомства военного и морского духовенства, от епархий избирали «священников незапятнанных, усердных; по доброму желанию, а не по неволе; с полным семинарским образованием». Несмотря на то что последнему требованию о. Иосиф не отвечал, он был зачислен полковым священником 321-го пехотного Окского полка. С июля 1914 года вместе с полком был на фронте. Неоднократно участвовал в тяжелых многодневных боях, находясь на передовой линии при перевязочном отряде. 10 мая 1915 года был награжден орденом св. Анны 3-й степени за «труды, понесенные при взятии крепости Перемышль». 1 июня того же года был представлен полком к награждению орденом св. Анны 2-й степени. 1 ноября 1915 года уволен из действующей армии и вернулся в Толгский монастырь. 4 ноября того же года полк направил представление к награждению о. Иосифа наперсным крестом. Последние две награды о. Иосиф получил в монастыре: орден св. Анны 2-й степени — в 1916 году, наперсный крест — в феврале 1917 года.
С августа 1916 был казначеем монастыря. 24 апреля 1917 года переведен в Рыбинск на должность заведующего подворьем Толгского монастыря.
20 августа 1918 года ночью о. Иосиф был увезен представителями советской власти с подворья и на другой день найден убитым на реке Черемхе (Черёмухе).
Место его захоронения неизвестно.
