1916 m. baigė istorijos studijas Sankt Peterburgo (Rusija) universitete. Nuo 1918 m. dirbo mokytoju Panevėžyje, vėliau Ukmergėje, 1921–1922 m. buvo Ukmergės mokytojų metinių kursų vedėjas.

Dalyvavo mokytojų profesinės sąjungos veikloje, buvo jos centro valdybos narys. 1921 m. V. Kvieska kartu su kitais Lietuvos mokytojų profesinės sąjungos aktyvistais įkūrė mokslo ir mokymo priemonių gamybos ir platinimo, vadovėlių leidybos kooperacinę bendrovę „Spaudos fondas“, buvo jos valdybos pirmininkas. 1923–1929 m. V. Kvieska buvo žurnalo "Mokykla ir gyvenimas" atsakomasis redaktorius. 1930–1940 m. prisidėjo prie Lietuviškosios enciklopedijos leidimo. 1926–1940 m. jis dirbo Lietuvos Kooperacijos banke, buvo jo valdybos narys, valdybos pirmininkas, dažnai pasisakydavo spaudoje bankininkystės klausimais.

V. Kvieska tobulinosi tarptautiniuose bankininkų kursuose Londone (Didžioji Britanija). Jis pelnė autoritetą tarp bankininkų, buvo išrinktas Kredito įstaigų komiteto pirmininku, priklausė Ekonominių studijų draugijai, buvo Lietuvių-estų valdybos, Lietuvos kooperatyvų tarybos valdybos pirmininkas.

V. Kvieska buvo Lietuvos šaulių sąjungos narys, dalyvavo politinėje ir kultūrinėje veikloje, 1925 m. buvo Ukmergės apskrities tarybos pirmininkas.

1922–1923 m. kuriantis Lietuvos valstiečių liaudininkų sąjungai, V. Kvieska buvo tarp šios politinės partijos kūrimo iniciatorių, vienas pagrindinių jos ideologų. 1922–1923 m. jis buvo išrinktas I Lietuvos Seimo, 1923–1926 m. – II Lietuvos Seimo, o 1926–1927 m. – III Lietuvos Seimo nariu.

Jis parašė ir išleido knygas „Lietuvių tautinis judėjimas ir varpinikai ligi Didžiojo Seimo Vilniuje“ (1926 m.), „Italijos kooperacija“ (1935 m.), išleido brošiūrų, skirtų politinių partijų rinkimų kovai (1925–1926 m.), bendradarbiavo spaudoje. Kazio Vinvos slapyvardžiu jis parašė 5 veiksmų komediją „Geras biznis“.

1940 m. rugpjūčio 2 d. V. Kvieska sovietinio saugumo buvo suimtas ir kalinamas Kaune, išlaisvintas tik 1941 m. birželį sukilimo metu. 1944 m. V. Kvieska pasitraukė į Vakarus. 1949 m. jis emigravo į JAV.

Gyvendamas JAV, jis aktyviai bendradarbiavo Amerikos lietuvių spaudoje.