Pistole Walther P 38 měla nahradit pistoli Luger P.08. Když se k moci v roce 1933 dostala NSDAP, jeden z jejich plánů bylo znovuvybudování silné armády. Zavedená pistole Luger byla nevhodná pro svoji velkou výrobní náročnost, a proto bylo třeba vyvinout pistoli novou, která by měla moderní prvky (dvojčinná spoučť...) a jednoduččí výrobu. Zákázku získala v roce 1938 firma Walther.Walther dodal zbraň označovanou jako Armee Pistole (AP), ze které se vyvinula pistole Heeres Pistole (HP) a po několika změnách, které požadovala německá armáda, vznikla konečná varianta přijatá do výzbroje pod označením P.38. První kusy z nulté série byly dodány armádě v srpnu 1939. Výroba probíhala nejprve pouze u firmy Carl Walther v Zella-Mehlis, v průběhu války rovněž od roku1942 u firmy Mauser-Werke v Oberndorfu nad Neckarem a potom rovněž firmou Spreewerke v Hradku nad Nisou.V roce 1957 se P.38 začala opět vyrábět pro potřeby bundeswehru, s duralovým rámem pod označením P1. Výroba probíhala opět u firmy Walther, nyní v novém závodě v Ulmu nad Dunajem. Bundeswehr ji používal až do 90. let.