Okulun bulunduğu alan önceleri mezarlık iken çeşitli düzenlemeler yapılarak 1939 yılında imece usulü ile (devlet millet işbirliği) yapımına başlanmış ve 1941-1942 eğitim-öğretim yılında öğretime açılmıştır. 1950 yılına kadar İsmet İnönü İlkokulu olarak devam etmiş ve 1950 yılından sonra Savaş İlkokulu adını almıştır. 24/09/1998 tarih ve 14 nolu Afyon İl Milli Eğitim Müdürlüğü komisyon kararı ile Fatih Sultan Mehmet İlköğretim adını almıştır. Bu tarihten sonrada 8 yıllık eğitime geçilmiştir. Okulumuzdaki öğrenci yoğunluğu nedeniyle şu anda bulunduğumuz yeni bina 10 derslik olarak 24/12/2001 tarihinde ek bina olarak bakanlığımız tarafından yapılmış ve hizmete açılmıştır. Okul dönüşümleri sonucu İl Milli Eğitim Müdürlüğünün 09/07/2014 tarih ve 2875427 sayılı yazıları ile okulumuz bünyesinde  bulunan 7 ve 8. Sınıflar Gazi Ortaokuluna, Gazi Ortaokulunda buluna 3 ve 4. Sınıflar okulumuz bünyesine alınarak Fatih Sultan Mehmet İlkokuluna dönüştürülmüştür. Okulumuz bünyesine bulunan eski bina Kaymakamlık makamının 24/08/2017 tarih ve 12734289 sayılı yazıları ile İlçe Milli Eğitim Müdürlüğü binasına dönüştürülmüştür. Şu anda bulunduğumuz binada 10 derslik 2 idari oda 1 öğretmenler odası ve 1 tanede Rehberlik servisi odası mevcuttur.