Billigaste lär var att flyga till Vilnius och sedan ta sig därifrån med tåg. Det är bara ~100 km mellan städerna och tågen kostar inte mycket.
T.ex. Wizzair flyger Skavsta-Vilnius (de kommer också att börja flyga till Kaunas men det är från Juli -> så hjälper inte så mycket om du vill resa i helgen).
De flyger dock endast vissa dagar i veckan, så kan vara att du måste kombinera med olika flygbolag för att passa in dagarna. Vilnius-Skavsta med Wizzair den 28.6 kostar ~60EURO (inklusive 23kg bagage).
Utresan skulle du dock behöva hitta med ett annat bolag.
Tåg mellan Vilnius och Kaunas kan du hitta här:
https://www.traukiniobilietas.lt/portal/en
Går många tåg per dag, tar någonstans mellan 1-1œ h och kostar ~5-6EURO