Ernst blev gift med Marie Elisabeth Mortensen den 18 aug. 1916 i Stege kirke, Stege, Mønbo, Præstø, DK. Marie (datter af Indsidder Lars Peter Mortensen og Sidse Kirstine Jensdatter) blev født den 9 jan. 1886 i Tøvelde, Stege landsogn, Mønbo, Præstø, DK; blev døbt den 16 maj 1886 i Stege kirke, Stege, Mønbo, Præstø, DK. [Gruppeskema] [Familietavle]

1. Inger Kirstine Bille Kristensen blev født den 18 feb. 1917 i Rådhusgade 35, DK-4780 Stege; blev døbt den 8 apr. 1917 i Stege kirke, Stege, Mønbo, Præstø, DK.
2. Randi Bille Christensen blev født den 30 mar. 1925 i Rådhusgade 35, DK-4780 Stege; blev døbt den 17 maj 1925 i Stege kirke, Stege, Mønbo, Præstø, DK.