Во время своих путешествий по митрополии святой Петр часто останавливался в Москве, которая в то время представляла собой небольшой и малолюдный городок, расположенный на Боровицком холме, при слиянии рек Москвы и Неглинной.

 Московским князем при святом Петре был сначала внук святого Александра Невского — Георгий Данилович, потом брат его Иоанн Данилович, по прозванию Калита. Но так как князь Георгий часто и надолго уезжал из Москвы, то ею правил брат его Иоанн. 

Этот князь относился к святому Петру с великой любовью и почтением, и святитель Божий возлюбил князя за его преданность православной вере, добродетельную жизнь, милосердие к бедным, за любовь к чтению и слушанию Божественного Писания. Более, чем в других городах, стал святой Петр проживать в Москве, где для него был построен особый дом. 

Незадолго до своей блаженной кончины святой Петр посоветовал князю построить в Москве каменный храм в честь Успения Пресвятой Богородицы. Тогда в Москве еще не было каменного храма. При этом святитель пророчествовал: «Если послушаешь меня, сын мой, и воздвигнешь храм Пречистыя Богородицы в сем городе, то и сам прославишься более других князей, и сыновья и внуки твои прославятся в роды, и город этот будет славен среди других городов русских. Враги его будут посрамлены, и Бог прославится в нем; святители будут жить, еще же и мои кости в нем будут положены».

 Князь поспешил исполнить совет святителя, и 4 августа 1326 года святой Петр совершил закладку храма, впоследствии знаменитого Успенского собора.

 Как ни поспешно, по воле святители и усердию князя, производилась постройка, но святой Петр не дождался ее завершения. Князь Иоанн видел сон: представилась ему высокая гора и на вершине ее снег. Но вдруг снег растаял и исчез. Князь рассказал свой сон святителю и услышал от него такое объяснение: «Гора высокая — это ты, князь, а снег — это я смиренный. Мне прежде тебя должно отойти из этой жизни».