Между тем, начиная с 1296 года, Филипп вступил в конфликт с папой Бонифацием VIII по поводу налогообложения духовенства. Бонифаций притязал на верховную власть также и в светской области и запретил светским правителям облагать налогами духовенство без его согласия. В 1300 году в Риме, перед лицом собравшейся многотысячной толпы паломников папа говорил о превосходстве папской власти над королевской. «Римский первосвященник, наместник Всемогущего Бога, повелевает королям и королевствам; он проявляет первенство над всеми людьми». Также он утверждал даже, что имеет право низлагать королей. Филипп IV считал подобное поведение папы недопустимым вмешательством во внутренние дела французского государства.
Задумав решительные действия против папы, Филипп IV созвал 8 апреля 1302 года так называемые Генеральные штаты. Их особенность заключалась в том, что на собрание были приглашены не только представители дворянства и духовенства, но и городского сословия; последние стали называться представителями третьего сословия. Филипп довел до сведения собравшихся о своих отношениях с папой, о взглядах последнего на королевскую власть и о своем решении вступить с ним в борьбу. Штаты поддержали короля; духовные лица вначале заступались за папу, но повелительный тон короля заставил их замолчать, и они сдались. Папа не уступал. На соборе осенью 1302 года в булле Unam Sanctam он снова подтвердил своё мнение о превосходстве духовной власти над светской, а в 1303 году освободил часть подвластных Филиппу земель от вассальной присяги. Король в ответ созвал собрание высших духовных лиц и светских баронов, перед которым обвинил Бонифация во всевозможных злодействах. После этого советник и хранитель печати короля Гийом де Ногаре с небольшой свитой выехал в Италию, чтобы арестовать папу. Папа уехал в Ананьи, не зная, что жители города готовы изменить ему. Ногарэ и его спутники свободно вошли в город, проникли во дворец и здесь вели себя грубо, едва не применив насилие (есть версия о пощёчине, данной папе). Через два дня настроение жителей Ананьи изменилось, они освободили папу, но через несколько дней Бонифаций VIII, не выдержав унижения, умер (см. 1294-1303 — папа Бонифаций Восьмой).
Два года спустя папой под именем Климента V был избран лояльный Филиппу архиепископ Бордоский, который согласился перенести папскую курию в Авиньон, находившийся в непосредственной близости к владениям французского короля. С этого времени начался длительный период французского контроля над папством. В 1307 году Филипп обрушился на орден тамплиеров, которые после своего удаления из Палестины расселились по различным странам Европы, особенно во Франции, и стали очень богаты, умея хорошо вести денежные дела. Увлечение тамплиеров мирскими интересами производило нехорошее впечатление на народ; их стали обвинять в равнодушии к религии, в отступлениях от нее, в ереси, даже в идолопоклонстве. Воспользовавшись этими слухами, Филипп приказал в один день арестовать всех тамплиеров, живших во Франции, во главе с их гроссмейстером Жаком Моле, и предал их суду. Многие из членов ордена были казнены, а собственность ордена во Франции перешла к Филиппу после того, как Климент в угоду королю распустил орден на Венском соборе 1313. В марте 1314 в Париже был сожжен Жак де Моле, великий магистр ордена. Богатейшие имущества тамплиеров были Филиппом отобраны в казну, что сильно увеличило государственные доходы Франции. Умер Филипп в Фонтенбло 29 ноября 1314 года