Vom Boden des Kaunas Meer angehoben. Die mit Stroh bedeckte hölzerne Kirche von Rumšiškės wurde erstmals 1677 erwähnt, brannte jedoch nieder. Die heutige Kirche von Rumšiškės wurde 1707 erbaut und 1859–1860 wieder aufgebaut. Während des Baus des Wasserkraftwerks Kaunas wurden 1958 die Gebäude auf die untere Terrasse der Nemunas an einen höheren Ort verlegt, fast ohne die frühere Architektur zu verändern. Die archaische Natur der Kirche wird durch zwei Paaren quadratischer Säulen mit hohen Sockeln und Kapitellen bestätigt, die mit Ringelnatterköpfen geschmückt sind und ihre Spuren der alten Religion bewahrt haben. Das Presbyterium ist durch ein Band vom Künstler V. Didžiokas getrennt, das von zwei Engeln gehalten wird. Als die Kirche und der Glockenturm an einen anderen Ort verlegt wurden, wurde in einer Tiefe von etwa 0,4 bis 0,6 m eine Brandschicht gefunden. Dies weist darauf hin, dass die Kirche an der Stelle der alten gebaut wurde. Unter dem Hochaltar wurde in einer Tiefe von 1 m eine Ziegelsteingruft gefunden. Der dreistöckige hölzerne Glockenturm wurde am 1700 nach dem Vorbild einer Burg erbaut. Die Glockenwände bestehen aus gehauenen Baumstämmen, die meisten aus Zedernholz und neuere Wände – aus Kiefernholz. Das wertvolle Organ der Romantik eines unbekannten Autors klingt im Heiligtum schön und sauber.