Potem, między rokiem 62 a 64, przebywał z Piotrem w Babilonie (1 Piotra 5:13).

Według najstarszej tradycji — opartej na wypowiedziach Papiasza, Orygenesa i Tertuliana — czerpał wiadomości od Piotra, z którym pozostawał w zażyłych stosunkach.a Piotr mówił o nim „mój syn” (1 Piotra 5:13). Apostoł był naocznym świadkiem niemal wszystkich zdarzeń opisanych przez Marka, toteż mógł mu opowiedzieć wiele barwnych szczegółów, których nie zawarto w innych Ewangeliach.