पटेल यांनी इंग्रजी भाषेतील श्रीमंत बॅरिस्टरचे व्यक्तिमत्त्व सूट व टोपी घालून गांधीजींच्या पावलावर पाऊल ठेवून खादीचा अवलंब केला होता.१९१८ मध्ये या परिवर्तनानंतर लगेचच पटेलांनी खेडा येथील शेतकर्‍यांच्या मोहिमेपासून स्वत:ला जनतेच्या सेवेत झोकून दिले.ब्रिटीश प्रशासनाने शेतकऱ्यांच्या याचिकेवर निर्णय घेण्यास नकार दिल्याने ते अयशस्वी झालेले पीक न घेता क्षेत्रातील कर भरण्यास नाकारले .गांधीजींकडे या लढ्याचे नेतृत्व करणे सोपवले गेले. त्यांनी सल्लेने पटेलांना या प्रचार मोहिमेसाठी निवडले.पटेलांनी आपले सहकारी नरहरी पारीख,मोहनलाल पंड्या आणि अब्बास तयब्बजी यांना बरोबर घेऊन,ग्रामस्थांना एकत्र केले आणि राज्यव्यापी बंड करून गुजरात प्रांतात कर भरण्यास नकार देण्याची मागणी केली.खेडा येथील ही मोहिम यशस्वी झाली आणि शेवटी सरकारने शेतकर्‍यांच्या मागण्या मान्य केल्या. यामुळे खेडाच्या शेतकर्‍यांच्या दृष्टीने पटेल नायक ठरले. १९२० पासून आपल्या वकिलीचा पेशा सोडून पटेल पूर्णपणे जनतेच्या सेवेत गुंतले. ते गुजरातमध्ये स्त्रियांच्या सबलीकरणासाठी, दारूबंदी, अस्पृश्यता निवारण आणि जातीभेद यासाठीही लढले. १९२२, १९२४ आणि १९२७ मध्ये अहमदाबाद महापालिकेचे अध्यक्ष म्हणून निवडले गेले आणि अहमदाबाद मध्ये सकारात्मक बदल घडविण्यात यशस्वी झाले. १९२३ मध्ये भारतीय ध्वज उभारण्यावर बंदी घालणारा कायदा अंमलात येताना त्या विरोधात त्यांनी नागपूर येथील सत्याग्रहाचे नेतृत्व केले. या काळात त्यांना बरीच प्रसिद्धी मिळाली आणि ते गुजरात प्रदेश कॉंग्रेस कमिटीचे अध्यक्ष म्हणून निवडले गेले. १९२८ साली सरदारांनी आपले लक्ष गुजरातच्या बारडोली गावाकडे वळविले,जेथे दुष्काळाच्या संकटांमुळे करांमध्ये झालेली वाढ आणि मोठ्या प्रमाणावर दुःख झाले होते.कराची संपूर्ण पूर्तता मागण्यासाठी मोहिम सुरु झाली. या मोहिमेच्या काळातच सरदारांच्या चपळ नेतृत्वाची कौशल्ये आणि संस्थात्मक क्षमता त्यांनी राष्ट्रीय स्तरावर प्रसिद्ध करण्याचा प्रयत्न केला.त्यांच्या या उल्लेखनीय योगदानासाठी आणि नेतृत्वाची क्षमता म्हणून, बारडोलीतील शेतकर्‍यांनी प्रेमाने त्यांना सरदार असे संबोधले. तेव्हापासून, या नावाने ओळखले जाऊ आले.