Иван Ковшаров — сын одесского мещанина. Во время учебы на юридическом факультете Новороссийского (Одесского) университета он познакомился с Осипом Пергаментом — первым одесским председателем Совета присяжных поверенных, которого за ораторское искусство называли одесским златоустом. Пергамент преподавал в Новороссийском Университете римское право. Возможно, его личность повлияла на выбор Ковшаровым по окончании университета профессии адвоката.
В 1903 году 25-летний Иван Ковшаров окончил юридический факультет Новороссийского (Одесского) университета, после чего до 1906 году работал в Одессе. Достоверных данных об этом периоде его жизни пока нет.
В 1906 году переехал в Санкт-Петербург. В столице Ковшаров вступил в сословие присяжной адвокатуры помощником известного Петербургского адвоката Ксаверия Валицкого. С 1908 года состоял присяжным поверенным Санкт-Петербургского округа Судебной Палаты. Также он был зарегистрирован в качестве присяжного стряпчего при столичном коммерческом суде.
С 1912 года — юрисконсульт Александро-Невской Лавры в Петрограде.
В 1916 году вошёл в правление Общества объединённых петроградских православных приходов. По иронии судьбы Ковшаров, ранее защищавший революционеров от царского правительства, теперь вынужден был защищать церковь, ее служителей и имущество от большевистского правительства. Он делал это умело, активно препятствовал закрытию петроградских церквей. Весной 1918 года был избран комиссаром по епархиальным делам «для представительства и защиты общих прав и интересов» Петроградской епархии.
В 1922 году был арестован по «делу о сопротивлении изъятию церковных ценностей.» Остались воспоминания протопресвитера Михаила Польского, как Ковшаров вел себя на процессе: «С первой же минуты процесса, ясно предвидевший его неизбежный финал, Ковшаров давал на поставленные ему вопросы хладнокровные, меткие по смыслу и часто едкие по форме ответы». В своем выступлении он подробно разобрал доводы обвинения, виновным себя не признал, а закончил словами: «Для братской могилы в шестнадцать человек материала для обвинения мало» (обвинение требовало 16 смертных приговоров).
5 июля был оглашён приговор ревтрибунала, по которому десять обвиняемых были приговорены к смертной казни. 10 августа в «Известиях» было напечатано сообщение о помиловании шести приговоренных, но священномученики митрополит Петроградский Вениамин (Казанский) и архимандрит Сергий (Шеин), а также мученики миряне Юрий Новицкий и Иван Ковшаров помилованы не были.
В ночь на 13 августа 1922 года они, обритые и одетые в лохмотья (чтобы их не опознали и не отбили у конвоя), были расстреляны — по некоторым сведениям, на окраине Петрограда на станции Пороховые Склады по Ириновской железной дороге.