Несмотря на периодические столкновения мусульман с племенами бедуинов, заканчивавшиеся в пользу верующих, их главным противником оставались мекканцы. В шаабане 4 г. х. (в апреле 626 г.) в местечке Бадр между ними могло состояться ещё одно крупное сражение, но Абу Суфьян, выступивший из Мекки с двумя тысячами воинов, повернул назад. Прождав противника в условленном месте восемь дней, мусульмане вернулись в Медину. После этого вооружённые столкновения не возобновлялись несколько месяцев, и Пророк получил возможность расширить сферу своего влияния. Это вызвало недовольство иудеев, которые после переселения в Хайбар выжидали исхода противостояния между мусульманами и язычниками.

Предводителям иудеев удалось вдохновить курейшитов и ряд других племён на решающее сражение против мусульман. С юга и востока Аравии к Медине стали стягиваться войска союзников, которые составили армию, насчитывавшую около 10 тыс. воинов. Получив известия о намерениях противника, Пророк собрал военный совет. Ситуация была критической, и укрепления города не могли защитить мусульман от такой многочисленной армии. Тогда Салман аль-Фариси, перс по происхождению, предложил вырыть на подступах к городу огромный ров. Прежде арабы не прибегали к такой тактике оборонительного боя, но Пророк по достоинству оценил предложение Салмана, и за шесть дней на северной границе города был вырыт длинный и глубокий ров (с востока, запада и юга Медина была окружена лавовыми полями и пальмовыми рощами, и большая армия могла атаковать город только с севера).

Когда союзники подошли к городу, три тысячи мусульман уже заняли позиции у рва. Женщинам и детям было приказано прятаться в укреплениях города. Осада города началась в шаввале 5 г. х. (в начале апреля 627 г.). Арабы были незнакомы с методами ведения боя в таких условиях, и попытки сломить сопротивление мусульман не имели успеха. Не помогло язычникам и то, что курайзиты предали мусульман, уступив уговорам главы племени бану ан-надир, и разорвали договор с Пророком, перейдя на сторону противника.

Попытки проникнуть в Медину не прекращались около месяца, после чего среди язычников начались разногласия. В одну из холодных ночей подул шквальный ветер, который, опрокинув палатки, сровнял с землёй лагерь язычников. Их решимость была окончательно надломлена, и осада города была снята.

В Битве у рва стороны почти не понесли потерь. Тем не менее она считается одним из переломных моментов во взаимоотношениях Пророка с курейшитами. Она показала, что языческие племена не располагают силами для того, чтобы положить конец распространению ислама.