जब वे लगभग १७ साल के थे तब पटेल का विवाह झावेरबा के साथ हुआ था, जो कि गाना गाँव की एक लड़की थी। दुर्भाग्यवश झावेरबा और उनके वैवाहिक जीवन के बारे में बहुत कम ज्ञात है। उन्हें १९०४ में एक पुत्री मणि और १९०५ में पुत्र दह्या का जन्म हुआ था। २९ वर्ष की कम आयु में १९०९ में झावेरबा का स्वर्गवास हुआ जब उनके बच्चे केवल ५ और ३ वर्ष के थे।

जब कई वर्षों पश्चात मणिबेन, पटेल की पुत्री से उनकी माँ के विषय में पूछा गया तो उन्होंने सरलता से कहा था कि 'मुझे मालूम नहीं है'। उनके पिता ने कभी उनकी माँ के विषय में बात नहीं की।

यह फोटो सरदार पटेल (अत्यंत दायीं ओर) को उनकी माँ लड़बा और उनके भाइयों के साथ दिखाता है। हालांकि पटेल की पत्नी झावेरबा का एक भी चित्र उपलब्ध नहीं है।