С детства он отличался глубокой религиозностью.
Праведная жизнь ребенка произвела такое глубокое впечатление на его французскую гувернантку-католичку, что она приняла Православие.

В годину гонений Михаил оказался в Белграде, где поступил в университет на богословский факультет.
В 1926 г. митрополитом Антонием (Храповицким) он был пострижен в монахи, приняв имя Иоанна в честь своего предка свт. Иоанна (Максимовича) Тобольского.
О. Иоанн постоянно молился, строго постился, каждый день совершал Божественную литургию.
Со дня монашеского пострига святитель никогда не ложился, но отдыхал в кресле, иногда его находили утром задремавшим на полу перед иконами.
«Если желаете увидеть живого святого, поезжайте в Битоль к отцу Иоанну», — говорил епископ Николай (Велимирович).

В 1934 г. иеромонах Иоанн был возведен в сан епископа, после чего отбыл в Шанхай, где было много русских беженцев. Владыка Иоанн сразу же погрузился в жизнь своей паствы, закончил в городе постройку собора, организовал помощь нуждающимся и улучшил преподавание в школах.
Он особенно любил сирот и создал приют имени Тихона Задонского.
За пятнадцать лет существования приюта он обогрел и прокормил свыше 3 500 сирот.
По свидетельству митрополита Антония (Храповицкого) епископ Иоанн был «зерцалом аскетической твердости и строгости в наше время всеобщего духовного расслабления».

Святитель был глубоким церковным писателем и блестящим ритором, но его слушатели не могли этого оценить — владыку не слушалась челюсть, и его речь была совершенно неразборчива.
Лишь в письменной передаче прихожане могли оценить, сколь великий проповедник перед ними выступает; лишь сейчас, из книги его «Слов» становится понятно, как мастерски он владел подлинным церковным риторством.
Но «гугнивость», неразборчивость речи была частью юродского подвига святителя, никогда не искавшего себе внешнего признания интеллигентных «ценителей».

В 1951 г. архиепископ Иоанн был назначен правящим архиереем Западноевропейского экзархата Русской Зарубежной Церкви.
Здесь владыка стал восстанавливать память и почитание древних православных святых Запада и привёл в лоно Церкви многих новообращённых из местных народов, присоединив к Зарубежной Церкви много французских и голландских приходов.
Владыка служил Божественную литургию в Европе по-французски, по-гречески, по-голландски, по-китайски, а позднее по-английски.

Во всех европейских больницах знали об этом епископе, который мог молиться за умирающего всю ночь.
В одном парижском госпитале лежала православная, стеснявшаяся перед соседками по палате прибытия к ней оборванного и босого епископа.
Но когда тот преподал ей Святые Дары, француженка на ближайшей койке сказала ей:
«Какая Вы счастливая, что имеете такого духовника. Моя сестра живет в Версале, и когда ее дети заболевают, она выгоняет их на улицу, по которой обычно ходит Епископ Иоанн, и просит его благословить их.
После получения благословения дети немедленно поправляются.
Мы зовем его святым».

С 1962 г. Святитель пребывал в США в сане Архиепископа Западно-Американского и Сан-Францисского (1962).
Там он построил кафедральный собор в честь иконы Пресвятой Богородицы "Всех Скорбящих Радосте" в  Сан-Франциско.

Владыка Иоанн отошел ко Господу 2 июля 1966 г. во время архипастырского посещения г. Сиэтлла с чудотворной иконой Божией Матери Курской-Коренной.

Архиепископ Шанхайский и Сан-Францисский Иоанн был причислен Русской Православной Церковью Заграницей к лику святых на ее Архиерейском Соборе в 1994 году.
Общецерковное прославление в Русской Православной Церкви совершилось решением Архиерейского Собора 24 июня 2008 года.