Kazys Tallat-Kelpša gimė 1893 m. spalio 28 d. bajorų šeimoje, Padievyčio dvare, Tauragės apskrityje. Prasidėjus Pirmajam pasauliniam kareui, tarnavo rusų kariuomenės kavalerijoje, dalyvavo kautynėse. Už pasižymėjimą 1915-1916 metų kovose jaunuolis buvo pakeltas į praporščikus, vėliau – į kornetus. Mūšyje prei Vadenijaus kaimo buvo sunkiai sužeista galva ir kaklas. 1918 m. Odesos karo ligoninės komisija dėl sunkaus sužeidimo jį išleido į atsargą. Už sumanumą ir pasižymėjimą kovose apdovanotas 4-ojo laipsnio Šv. Georgijaus ordinu, Šv. Stanislovo 3-ojo laispnio ordinu su kalavijais ir kaspinu, Šv. Anos 3-iojo laipsnio ordinu su kalavijais ir kaspinu.
1935 m. K. Tallat-Kelpšai Respublikos Prezidento aktu buvo suteiktas brigaados generolo laipsnis.
1936 m., kia Lietuvos kariuomenės atstovas, dalyvavo Anglijos karaliaus Jurgio V laidotuvėse.
Už nuopelnus Lietuvai K. Tallat-Kepša apdovanotas Lietuvos didžiojo kunigaikščio Gedimino 3-iojo laipsnio ordinu, Vytauto Didžiojo 3-iojo laipsnio ordinu, Lietuvos kariuomenės kūrėjų savanorių ir Lietuvos nepriklausomybės medaliais, Latvijos trijų žvaigždžių 2-ojo laipsnio ordinu ir Latvijos nepriklausomybės 10-mečio medaliu.