Tai išskirtine verte – dydžiu ir didingumu – pasižymintis maždaug prieš 14 tūkst. metų ledynų properšoje susidaręs Vilkyškių kalvagūbrio galas. Tai ir nacionalinės reikšmės kultūros paveldo objektas (mitologinė vieta, piliakalnis) dešiniojo Nemuno slėnio šlaito viršuje. Nurodoma jį buvus su pylimu. Apie piliakalnį detalesnių duomenų neišliko, nes jį Nemunas nuplovė dar iki XIX a. 1835 m. rugsėjo 12 d. naktį į Nemuną nugriuvo likęs jo šiaurinis šlaitas. Mažesnė likusio šlaito griūtis įvyko 1878 m. Dabar išlikusi tik piliakalnio kalvos šiaurinės papėdės apačia, apaugusi mišku, stačiu 40 m aukščio šlaitu besileidžianti į Nemuno slėnį. Kalno šone buvo šventu laikomas rausvo granito akmuo, susprogdintas 1811 m. Istorijos žinovai pagrįstai mano, kad dabar ant kalno pagarbiai įtvirtintas raudono granito akmuo su jame iškaltais Gedimino stulpais – senojo alkakmenio dalelė. Istorikai Rambyno žodžio kilmę sieja su šaknimi ram-, kurią turi žodžiai ramus, ramovė-šventovė. Tai žymiausia Skalvos žemės šventvietė, jos širdis. Gausiai apipinta istorijomis, padavimais ir legendomis. Rambyno šlovė buvo atgaivinta prasidėjus tautiniam Atgimimui. 1988 m. Rambynas priėmė daugiatūkstantinį „Ekologinio protesto žygį“, nešusį į Skalvą žinią apie Lietuvos Atgimimą. Nuo 1884 m. čia organizuojamos Joninių šventės. 2017 m. šiai šventei suteiktas Tautinio paveldo sertifikatas. Aukščiausioje kalno vietoje įrengta apžvalgos aikštelė, nuo kurios atsiveria vienas iš 10 gražiausių Lietuvoje panoraminių vaizdų. Senoje vietoje yra antri laiptai nulipti į papėdę link Nemuno. Kalbininkai vietovardį Rambynas sieja su lietuvišku žodžiu rumbas – iškilus sukietėjimas, randas, iškilimas – ir latvišku rumba (gūbrys, kalva).