После этого Пророк, да благословит его Аллах и приветствует, двинул войска на Таиф, повелев разрушить одно из укреплений, которое стояло на пути к городу. Когда мусульмане подошли к Таифу, выяснилось, что противник, располагавший запасами продовольствия на год, укрылся за городскими стенами. Войска подошли вплотную к городу и осадили его, но были осыпаны градом стрел. Многие мусульмане получили ранения, и им пришлось стать лагерем на безопаном удалении от стен.

После этого мусульмане предприняли пять попыток вынудить осаждённых принять бой за стенами Таифа, но они не имели успеха. Халид ибн аль-Валид ежедневно вызывал их на поединки, но ни один из них не принял вызова, а обстрелы города из катапульты не давали желаемого эффекта. Потом для совершения подкопа были сооружены две «черепахи» (осадные машины (даббаба)), но сверху их забросали кусками раскаленного железа, и люди, прикрывавшиеся ими, были вынуждены отступить, ничего не добившись.

В конце концов Пророк, да благословит его Аллах и приветствует, велел вырубить виноградники и пальмы, росшие вокруг Таифа, но люди стали заклинать его Аллахом и родственными связями не делать этого, и приказ был отменен. А через некоторое время глашатай Пророка, да благословит его Аллах и приветствует, объявил, что любой из рабов, принадлежащих жителям Таифа, который явится к мусульманам, получит свободу, после чего оттуда сбежали двадцать три раба, что весьма раздосадовало осажденных.

Осада продолжалась двадцать дней (а по другим данным, целый месяц), но не дала желаемых результатов. Посланник Аллаха, да благословит его Аллах и приветствует, решил посоветоваться с Науфалем ибн Муавийей, который сказал ему: «Они подобны лисе, укрывшейся в норе: если будешь стоять над ней, то достанешь её, а если уйдёшь, то она не причинит тебе никакого вреда», и тогда Пророк, да благословит его Аллах и приветствует, велел снять осаду. Некоторые мусульмане стали призывать его обрушить проклятия на жителей Таифа, но вместо этого он обратился к Аллаху с мольбой, сказав: «О Аллах, выведи их на путь истинный и сделай их мусульманами!»