Среди таких трудов один раз встретил Ефрема какой-то благочестивый старец из соседнего с городом монастыря. Услышав беседу его с язычниками, инок удивился, найдя в таком месте и с такими людьми истинно христианского мудреца, и с некоторым огорчением спросил Ефрема: «Откуда ты, сын?» – как бы показывая, что ему надлежало бы быть не среди толпы порочных и неверных. Ефрем рассказал ему историю своей жизни. «Для чего же, – говорит ему инок, – будучи христианином, позволяешь себе оставаться в толпе язычников? Или ты намерен жить в мире?» Ефрем отвечал отрицательно, и инок предложил ему совет вступить в один из монастырей в окрестностях Едессы, под руководство какого-либо мудрого старца. Ефрем объявил, что жизнь иноческая есть единственное его желание, и последовал за иноком в гору, где обитали иноки.
Едесса так же, как и Низибия, имела своих великих подвижников, главное занятие которых состояло в молитвах, псалмопении и славословии Богу, которые не имели другого убежища, кроме пещер, не употребляли и обыкновенной пищи, а питались единственно растениями. С такими людьми скоро могла сблизиться душа пустыннолюбивого Ефрема. Он нашел себе друга в одном из подвижников – Иулиане, близком к нему и по келлии, а еще более по духу, столь же сокрушенному, как и у Ефрема, и столь же неослабному в подвигах. Умилительно благоговейное сокрушение, с которым читал слово Божие сей старец, обращенный с пути погибели благодатию Божиею. «Однажды, – говорит преподобный Ефрем, – пришедши к Иулиану, я увидел, что книги его не только мокры, но где встречаются слова Бог, Господь, Иисус Христос и Спаситель, там буквы почти изглажены. Я спросил его: „Кто так испортил книги?“ – „Не скрою от тебя ничего, – отвечал Иулиан. – Когда грешная жена приблизилась к Спасителю, она омыла ноги Его своими слезами и власами главы своей отерла их; так и я, где нахожу написанным имя Бога моего, орошаю его слезами, чтобы получить от Него прощение грехов моих“. – „Бог благ и милосерд, – сказал я ему. – Он приимет твое благое расположение, но, – прибавил я дружески, – прошу поберечь книги“».