१८९७ मध्ये वयाच्या २२ व्या वर्षी मॅट्रिक परीक्षा पास झाल्यावर पुढच्या शिक्षणासाठी पटेलांना मुंबईला जायचे होते.पण घरच्या जबाबदार्‍या असल्यामुळे त्यांनी स्थानिक वकील कार्यालयात नोकरी करण्याचा निर्णय घेतला तिथे त्यांना कायद्याच्या पुस्तकांचाही लाभ झाला.पुढच्या दोन वर्षांत घरी अभ्यास करून जिल्हा वकीलीची परीक्षा उत्तीर्ण झाले.
१९०० साली गोध्रा येथे वकिलीची सुरुवात केली.थोडेसे स्थिरावत असताना,गुजरातमधील अनेक भागात प्लेगची साथ पसरली.एका मित्राची देखभाल करताना पटेलांनाच प्लेगची लागण झाली.या सर्व परिस्थितीवर मात करून,बोरसाड शहरी त्यांनी आपला जम बसविला.त्याच शहरात त्यांचे थोरले बंधू विठ्ठलभाई राहत होते. उत्तम फौजदारी वकील म्हणून त्यांनी नावलौकिक मिळविले.
पटेल साक्षीदारांची कसून उलट तपासणी घेत असत त्यामुळे ते निर्दयी असल्याचे ओळखले जात होते.एकदा त्यांच्या आशिलाच्या खुनाच्या केसमध्ये उलटतपासणी सुरू असताना,त्यांना घरातून तार आले की,त्यांच्या पत्नीचे निधन झाले आहे.त्यांनी शांतपणे तार आपल्या खिशात टाकली आणि आपले काम सुरूच ठेवले.आपल्या व्यक्तिगत दु:खाची झळ आपल्या आशिलाच्या केसला पोहोचू दिली नाही.
पुरेसे पैसे जमवायला त्यांनी खूप वर्ष कष्ट केले आणि मग १९१० मध्ये वयाच्या ३५ व्या वर्षी आपले बॅरिस्टर होण्याचे दीर्घकालीन स्वप्न पूर्ण करायला ते लंडनला रवाना झाले. ज्या अभ्यासक्रमाला सर्वसाधारणपणे तीन वर्षांचा कालावधी लागायचा तो अडीच वर्षांत पूर्ण करून त्यांनी परीक्षेत प्रथम श्रेणी मिळविली.१९१३ साली ते भारतात परतले आणि अहमदाबादमध्ये बॅरिस्टर म्हणून काम करण्यास सुरुवात केली. थोड्याच कालावधीत,ते शहरातील सर्वात व्यस्त आणि सर्वाधिक यशस्वी बॅरिस्टर बनले. न्यायाधीशांच्या आणि न्यायालयीन अधिकाऱ्यांशी व्यवहार करताना त्यांनी निर्भयतेने त्यांची प्रशंसा केली.सूट कपडे आणि मुख्यतः इंग्रजी बोलणे, गुजरात क्लबमध्ये ब्रिज खेळण्यात त्यांनी आपला संध्याकाळ घालविले. बॅरिस्टरमध्ये त्यांची यशस्वी कामगिरी उल्लेखनीय होती.सहा महिन्यांच्या आतच,ते फौजदारी खटल्यावरील बॅरिस्टरचा नेता बनले. पण एक सामान्य घटना एका विलक्षण व्यक्तीशी अचानक घडलेल्या घटनेमुळे,लवकरच त्यांचे जीवन नाटकीयपणे आपल्या आयुष्याच्या दिशेने वळले होते.