भाई के साथ सरदार पटेल एक वकील के रूप में

१८९७ में २२ साल की उम्र में अपनी मैट्रीक की परीक्षा पास करके पटेल आगे की पढ़ाई के लिए बम्बई जाने की इच्छा रखते थे। फिर भी उन्होंने अपने परिवार की जिम्मेदारियों का भार उठाने  के लिए, एक स्थानीय वकील के ऑफ़िस में नौकरी लेने का निर्णय लिया जहाँ पर उनकी क़ानून की किताबों तक पहुँच थी। 

१९००  में गोधरा शहर में जाकर पटेल ने वहाँ अपना क़ानूनी व्यवसाय शुरू किया। जैसे ही वे अपना घर बसाना शुरू कर रहे थे, प्लेग ने गुजरात के बहुत बड़े क्षेत्र का सफ़ाया कर दिया था और अपने एक दोस्त की सेवा करते हुए ख़ुद पटेल को यह बीमारी लग गई।  इन बाधाओं पर क़ाबू पाते हुए तथा गोधरा को छोड़ते हुए, उन्होंने बोरसद में जहाँ उनके भाई विट्ठलभाई रहते थे, अपना व्यवसाय शुरू किया।  वहाँ, वे तेज़ी से सफलता की सीढ़ी चढ़ गए और शीघ्र ही सबसे अधिक माँग वाले आपराधिक वकीलों में से एक बन गए।

पटेल गवाहों के अपने ज़िरह में निर्दयी होने के रूप में जाने जाते थे। एक बार जब वे एक मुक़दमे के अपने ज़िरह के बीच में थे जहाँ उनके मुवक्किल पर एक हत्या के आरोप में अभियोग लगाया गया था, पटेल को उनकी पत्नी की मृत्यु की सूचना देने वाला एक तार मिला। अपनी पीड़ा को छुपाते हुए, पटेल ने उस तार को अपनी जेब में रख लिया और उस ज़िरह को जारी रखा। वे अपने व्यक्तिगत दुःख को अपने मुवक्किल के जीवन के रास्ते में नहीं आने देते थे।  

१९१० में वर्षों की कड़ी मेहनत के बाद अंततः पर्याप्त धन संचित करने के बाद, पटेल दीर्घकालीन अभिलषित स्वप्न को पूरा करने के लिए ३५ वर्ष की उम्र में अपनी बैरिस्ट्री की पढ़ाई के लिए लंदन चले गए। वहाँ उन्होंने अपनी अंतिम परीक्षा प्रथम श्रेणी में पास की और इस प्रकार जिसे पूरा करने में सामान्यतया तीन साल लगे होते उसे दो सत्र की छूट के साथ ३० महीने में पूरा किया। वे १९१३ में भारत लौट आए और अहमदाबाद में बैरीस्टर के रूप में क़ानूनी व्यवसाय शुरू कर दिया।

थोड़े ही समय में वे शहर के सबसे व्यस्त और सबसे सफल बैरिस्टरों में से एक बन गए। वह लोगों के बारे में अपने जल्द निर्णय लेने के लिए जाने जाते थे तथा लोग  न्यायाधीशों और अदालत के अधिकारियों से निपटने में उनकी निडरता के लिए प्रशंसा करते थे। सूट पहने हुए और अधिकतर अंग्रेजी बोलते हुए वे अपनी शाम गुजरात क्लब में ब्रिज खेलते हुए बिताते थे। 

बार में उनकी सफलता उल्लेखनीय थी। छह महीने की अवधि के भीतर, वे बार के आपराधिक पक्ष  के नेता बन गए।

लेकिन एक साधारण घटना और एक असाधारण व्यक्ति से आकस्मिक भेंट जो उसके तुरंत बाद होनेवाली थीं, उनके जीवन की दिशा को लगभग नाटकीय रूप से मोड़ देने वाली थी ।