Așezată pe două dealuri în forma de semicerc, Rafaila este un sat mănăstiresc, întemeiat pe lângă schitul călugărului Rafail, de la care si-a luat și numele. Pomenit în documente încă de pe vremea lui Stefan cel Mare, satul păstrează o legendă  a întemeierii lui, tot de pe vremea marelui domnitor. Se spune că în urma luptei cu turcii, Stefan ar fi răsplătit, pentru faptele de vitejie, pe arcașul  Radu Bălteanu cu o parte din Valea Stemnicului, unde acesta se retrage, nu înainte de a se călugări. Aici construiește o biserică din lemn  iar slujitorii care au îngrijit schitul aveau să fie și primii locuitori ai așezării de mai târziu, Rafaila. 

Pe langa  calugari si oameni ai schitului, s-au mai stabilit aici si cateva familii de ruteni (ucraineni), veniti in timpul lui Stefan cel Mare, dupa luptele cu polonii , de unde și denumirea părții de răsărit a comunei, "Ruteni", pastrata pana astazi.

Radu şi Irina Balteanu,doi fraţi s-au plans domnitorului ca părinţii le fuseseră ucişi de către turci. Au cerut să fie primiţi în oastea sa, pentru a-şi putea răzbuna parinţii. În luptele care au urmat, Radu s-a dovedit un arcaş deosebit, distingându-se prin fapte de mare eroism, iar dupa ce Ştefan i-a biruit pe păgâni, ar fi răsplatit, pentru faptele de vitejie, pe arcaşul său Radu cu o parte din Valea Stemnicului. În jurul anului 1500 Radu Bălteanu s-a călugarit, primind numele de Rafail, de unde se trage şi numele localităţii Rafaila.

Prima atestare documentara a manastirii Rafaila si a locurilor pe care se afla este un Hrisov dat in Iasi, la 4 decembrie 1599, de domnitorul Moldovei Ieremia Movila

Cercetarile arheologice au descoperit urme de locuire neolitica, in doua puncte ale localitatii Rafaila:

1). "Piciorul Harbului”, situat in partea de vest a satului, la o distanta de aproximativ 1,00 Km fata de zona locuita, intre raurile Stemnic si Recea. Aici au fost descoperite diferite unelte din silex, piatra, os, dar mai ales vase si fragmente ceramice.

2). "Ezer”, situat intre paraul Stemnic si un afluent al sau, unde s-a descoperit un depozit de bronz format din fibule de tip pasmanterie, un colt fragmentat si un varf de lance.

Toate acestea reprezinta nivelul ridicat al culturii materiale la care ajunsese populatia bastinasa in epoca bronzului si a fierului, care, pe langa agricultura si pescuit, se indeletnicea si cu mestesugurile.