В первые месяцы после Хиджры положение мусульман оставалось крайне тяжёлым. Курейшиты пришли в ярость из-за того, что им не удалось покончить с Пророком, и, пользуясь своим положением среди арабов, стали подстрекать остальные племена против мусульман. Они нашли союзников и среди жителей Медины. Во главе их стоял старейшина хазраджитов Абдаллах бин Убейй, который был недоволен приездом мусульман и лидерством Мухаммада. Чтобы не потерять уважение своих соплеменников полностью, Абдаллах бин Убейй и его сторонники сделали вид, что обратились в ислам, хотя в душе они питали ненависть к Пророку и его последователям. С такой категорией людей мусульманам впервые пришлось столкнуться в Медине, и их стали называть лицемерами (мунафиками).
В этих условиях Пророку пришлось предпринимать свои первые политические шаги, которые были направлены на обеспечение безопасности мусульман и достижение их единства. С этой целью между мухаджирами и ансарами было заключено соглашение, позволившее им преодолеть межплеменные распри и официально закрепившее за Пророком, помимо духовного лидерства, исполнительную и судебную власть.
Ближайшими соседями мусульман в Медине были иудейские племена бану кайнука, бану ан-надир и бану курайза. Первое племя, проживавшее на территории города, было союзником хазраджитов, а два других, чьи поселения находились в пригородах Медины, были союзниками ауситов. Поначалу они не оказывали сопротивления мусульманам и даже заключили с ними договор, по которому обе стороны получили право свободно исповедовать свою религию, а также обязались поддерживать друг с другом добрые отношения и оказывать друг другу помощь в случае военных действий против кого-либо из них.
После заключения этих соглашений Медина с её окрестностями превратилась в союзное государство во главе с Пророком Мухаммадом. Верующие получили возможность заниматься хозяйством, вести торговлю и свободно исповедовать ислам. Большое внимание уделялось обучению мусульман грамоте и военному делу. В то же время мир в Медине был шатким. Пастбища мусульман, находившиеся за пределами города, периодически подвергались набегам бедуинов, а прекращение вражды между ауситами и хазраджитами вызывало недовольство иудеев, которые лишились прибыли от ростовщических услуг и торговли оружием. Существовала вероятность того, что арабские племена потребуют назад свои пальмовые рощи, переданные им в качестве залога за долги. Вдобавок некоторые из иудеев принимали ислам, что также вызывало беспокойство их соплеменников.
В силу этих причин иудейские племена поддались на провокации курейшитов, которые всячески пытались навредить Мухаммаду. Они нарушили свои обязательства и несколько раз покушались на жизнь Пророка, из-за чего между ними и мусульманами произошло несколько сражений. В результате иудеи были вынуждены покинуть Медину, и некоторые из них поселились в Хайбаре — самом крупном иудейском оазисе в Центральной Аравии. Но эти события не повлияли на толерантное отношение к иудеям, и они на протяжении многих веков пользовались покровительством мусульманских правителей и имели возможность свободно исповедовать свою религию на их землях.