Tahtı oğluna devrettikten sonra 20 gün Eski Saray’da ikamet eden II.Bayezid, ömrünün geri kalanını halen Yunanistan sınırları içinde kalan Dimetoka’da geçirmek için hareket etti. Osmanlı padişahları içinde müstesna bir yeri olan Yavuz; babasını bizzat uğurladı, elini öptü, surlara kadar atının yanında yürüyerek kendisine yakışan saygıyı gösterdi. Bütün gayesi devleti ve dini korumak olan ve çok büyük hedeflere kendini adayan Yavuz, fevkalade hürmet beslediği babasına saltanat sevdası için mücadeleye girişmemişti. Babası artık hasta ve yaşlı olduğu için işleri vezirlere havale etmiş, düşmanlar bundan yararlanmak istemişlerdi.
Böylesine cengaver ve ince ruhlu evlada sahip Sultan II.Bayezid’in yaşlılıktan kaynaklanan rahatsızlıkları Dimetoka yolunda arttı ve 26 Mayıs 1512 ‘de Havsa kasabasının Abalar köyünde vefat etti. Cenazesi, İstanbul’da yaptırdığı caminin haziresine defnedildi ve oğlu Yavuz tarafından sonradan buraya bir türbe yaptırıldı.
II.Bayezid’in Dimetoka’dan geri dönüp tahta geçme ihtimalinden endişe duyan oğlu tarafından zehirletildiği şeklinde bazı eserlerde yer alan iddialar, gerçeği yansıtmamaktadır. Yavuz’un hangi mülahazalarla idareyi devraldığı hakikati ortada iken zehirlenme iddiasının bilhassa Yunan ve Bizans tarihçileri tarafından sahiplenilmesi çok manidardır. O devirde halk arasında II.Bayezid’in ölümüne Yavuz’un sebeb olduğu iddiasının yayılmasıyla ilgili olarak rakibi Şehzade Ahmed ve taraftarlarının devrin siyasi ortamında dile getirtikleri bir dedikodu olduğu kanaati hakimdir. Her ne kadar Şehabeddin Tekindağ gibi bir tarihçi de II.Bayezid’in zehirlendiği yönünde bir kanaat ifade etmişsede, Osmanlı tarihçilerinin çoğunluğu tarafından Yavuz’un babasını zehirlettiği iddiasının doğru olmadığı dile getirilmiştir.
