В начале шавваля 494 года от Хиджры (начале августа 1101) многотысячная крестоносная армия под предводительством Раймунда Тулузского потерпела поражение от объединённой армии румского султана Кылыч-Арслана и его союзников. В течение следующего месяца туркмены разгромили ещё две крупные армии, прибывшие в Малую Азию из Европы, лишив тем самым крестоносцев в Эдессе и Антиохии сухопутного сообщения с Византией. Эти события, вошедшие в историю как Арьергардный крестовый поход, во многом предопределили судьбу Латинского Востока.
В конце XI века самыми влиятельными государствами в Центральной Анатолии были Румский султанат и бейлик Данышмендидов со столицей в Сивасе. Первый крестовый поход значительно ослабил позиции юного султана Кылыч-Арслана, который потерял не только свою столицу Изник (византийскую Никею), но и значительные территории на побережье Эгейского и Мраморного морей. В Киликийской низменности расселились армяне, поддержавшие крестоносцев в войнах против мусульман. Сами крестоносцы основали в 491/1098 г. Эдесское графство и Антиохийское княжество.
Византийская империя и Румский султанат оказались на острие мощнейшего противостояния, взбудоражившего весь христианский и тюркский мир. Теперь потокам туркменских племен, продолжавших заселять Малую Азию, противостояли большие и малые полчища крестоносцев, прибывавших из Европы, и первый их удар принимали на себя войска Кылыч-Арслана.
Правитель Сиваса Гюмюштекин ибн Данишменд поддерживал румского султана и в самые тяжёлые дни находился рядом с ним. Но когда основные силы крестоносцев ушли в Сирию, его главной целью стало завоевание Мелитены (совр. Малатья), которой управлял православный армянин Гавриил, называвшийся «наместником и дуксом». Византийский военачальник армянского происхождения Филарет Вахамий занял Мелитену в 1074 г., и с тех пор город находился под контролем армянских предводителей, которые действовали независимо от Константинополя и полагались на крестоносцев.
В июле-августе 1100 г. на помощь осаждённым пришёл антиохийский князь Боэмунд Тарентский, прославившийся кровавыми расправами над мирными жителями в Антиохии и соседних городах. Но его небольшое войско (около 300 всадников) попало в засаду и было наголову разбито, а сам Боэмунд и его двоюродный брат Ричард Салернский были схвачены и доставлены сначала в Сивас (византийская Себастия), а оттуда — в Никсар (Неокесария). Император Алексей предложил Гюмюштекину большое вознаграждение за Боэмунда, надеясь поквитаться с ним за то, что тот нарушил клятву и стал единоличным правителем Антиохии. Однако туркменский правитель согласился отправить в Константинополь только Ричарда Салернского.
Известие о пленении знатных норманнов вызвало гневное возмущение в Европе, где начались приготовления к новому крестовому походу. Энтузиазма «воинам Христа» добавлял успех крестоносцев в Палестине, где в 1099 г. было создано Иерусалимское королевство. Первой в Византию прибыла огромная толпа из Ломбардии, которая насчитывала, по разным оценкам, от 50 до 200 тысяч человек.
В мае 1101 г. вблизи Никомедии ломбардцы соединились с небольшими, но хорошо подготовленными отрядами франков, бургундцев и германцев. Среди них были знатные рыцари, такие как граф Бургундии Этьен, герцог Бургундии Эд Боррель, граф Блуа Стефан. Все они были собраны там графом Раймундом Тулузским, одним из предводителей Первого крестового похода, который на тот момент состоял на службе у императора Алексея I Комнина. Он же был назначен командующим крестоносной армией, которая вместе с византийской армией, состоявшей из печенежских наёмников, выступила в направлении Дорилеума (совр. Эскишехир) в конце мая. Оттуда Раймунд хотел пойти на Конью, как это было в 1097 г., но ломбардцы настояли на том, чтобы армия двигалась на восток с целью спасения Боэмунда Тарентского.
Сельджуки оценили сильные и слабые стороны противника, и Кылыч-Арслан решил не вступать в противостояние своими силами. На его призыв о помощи откликнулись, помимо Гюмюштекина, артукидский правитель Белек ибн Бахрам, правитель Алеппо Ридван и правитель Харрана Караджа-бей. Туркменские войска, численность которых, по оценкам историков, достигала 20 тысяч, соединились под Германикополисом (совр. Чанкыры) и стали дожидаться противника, который шёл по выжженной земле и под знойным солнцем.
23 июня 1101 г. крестоносцы заняли Анкару, где их ожидала жуткая картина мёртвого запустения, а спустя десять дней они подошли к Германикополису. Для того чтобы избежать сражения, Раймунд увёл армию на север и стал двигаться дальше на восток. Сельджуки же избрали привычную для себя тактику, ослабляя противника внезапными нападениями во время переходов и стоянок.
В начале августа под Мерзифоном две армии встретились на небольшой равнине, хорошо знакомой туркменским воинам. Раймунд разделил армию на пять частей: бургундцев, германцев, франков, ломбардцев и печенегов. Сражение продолжалось несколько дней и завершилось полным разгромом крестоносцев. Выжившие рыцари бежали в Синоп, откуда они отплыли в Константинополь, а большая часть ломбардцев и печенегов погибла или попала в плен.
Вдохновлённые победой Кылыч-Арслан и его союзники направились к Иконию (совр. Конья), где малочисленный туркменский гарнизон был осаждён второй крестоносной армией. Граф Гильом II Неверский с войском численностью 15 тысяч человек прибыл в Константинополь по морю из Бари вскоре после того, как Раймунд Тулузский покинул Никомедию. Не сумев настичь первую армию, он двинулся на Иконий и осадил город. Когда же Гильом узнал о приближении армии Кылыч-Арслана, он снял осаду и направился в Киликию. Тем не менее избежать сражения не удалось, и в августе крестоносцы были разгромлены в горах Тавра. Жалкие остатки войска, побросав доспехи и всё имущество, сбежали в Антиохию.
В это самое время к Филомелиону (совр. Акшехир) приближалась третья армия, на этот раз франко-баварская, которую возглавляли герцог Гильом IX Аквитанский, граф Гуго Вермандуа и герцог Баварский Вельф. Полагаясь на успех Гильома Неверского, который отбыл из Константинополя незадолго до их прибытия, эти предводители разделили свою армию и отправили часть её морем в Яффу (среди них был монах-бенедиктинец и хронист Эккерхард из Ауры). Те же, которые пошли через Анатолию, в сентябре были разбиты сельджуками, как и их неудачливые предшественники.
Полный разгром трёх крестоносных армий обескуражил европейских монархов и оставил латинские княжества Востока без серьёзной поддержки, потому что переправлять большие силы морским путём не было возможности. Планам «рыцарей Христа» продолжить завоевание Сирии и Малой Азии не было суждено свершиться, а анатолийские сельджуки начали закрепляться на отвоёванных землях. Новой столицей Кылыч-Арслана стала Конья.
Гюмюштекин вскоре после возвращения в свой бейлик возобновил осаду Мелитены. Князь Гавриил надеялся, что крестоносцы не оставят его без поддержки, потому что год назад он выдал свою дочь Морфию замуж за Бодуэна де Бура, графа Эдессы, подстраховавшись приданым в размере 50 тысяч византинов. Но крестоносцы не решились пойти против Гюмюштекина, с которым они обсуждали условия освобождения Боэмунда Тарентского. В результате спустя несколько месяцев осады в городе начались разногласия между Гавриилом и ассирийскими солдатами, которые 3 зуль-хиджжа 495/18 сентября 1102 г. открыли ворота Мелитены.
Успех Гюмюштекина подтолкнул султана Кылыч-Арслана к более решительным действиям на востоке. Заключив соглашение с правителем Алеппо, он начал готовиться к походу на Антиохию, где на правах регента правил молодой племянник Боэмунда — Танкред Тарентский. Летом 496/1103 г. Кылыч-Арслан пошёл войной на Антиохийское княжество, но когда его армия достигла Цезарии Германикеи (тур. Мараш), Гюмюштегин освободил князя Антиохии за денежный выкуп. В тот же период в Константинополе был освобождён и Ричард Салернский.
Освобождение предводителей крестоносцев, причастных к гибели тысяч мусульман, возмутило Кылыч-Арслана и одновременно помешало его планам. Теперь трудно было рассчитывать на быстрое падение Антиохии, и румский султан повернул войско против Гюмюштекина. В сражении под Марашем (зуль-каада 496/август 1103) Данишмендиды потерпели поражение, и Гюмюштекин вернулся в Сивас и через некоторое время умер. На этом неприятности для Данишмендидов не закончились. В начале мухаррама 500/сентября 1106 г. после двухмесячной осады они уступили Кылыч-Арслану Малатью, после чего между родственниками началась острейшая борьба за власть.
Таким образом, после провала Арьергардного крестового похода Кылыч-Арслан упрочил свои позиции и даже расширил территорию султаната. Крестоносцы в Эдессе и Антиохии, потерпевшие сокрушительное поражение под Харраном (шабан 497/май 1104), не представляли для него угрозы. Византийский император без поддержки европейцев был не в состоянии начать новую войну. Поэтому внимание румского султана было приковано к событиям на севере Сирии и Ирака, в которые он поторопился вмешаться при первой же возможности. Как показало время, это было его роковой ошибкой.