जब ईस्ट इंडिया कंपनी ने भारत की गर्दन में अपने दाँत गड़ा दिये थे, तब उन्होंने भारतीय राज्यों के नवाबों और राजाओं को सामरिक सहयोगियों के रूप में देखा। कंपनी ने इन राज्यों के शासकों को ऐसी संधियों के लिए मजबूर किया जिसके द्वारा कंपनी को सर्वोच्च शक्ति के रूप में मान्यता दे दी गई। अगस्त १९४७ में अंग्रेजों की वापसी के साथ, यह सर्वोपरिता समाप्त हो जाती और भारतीय राज्यों के ये शासक एक बार फिर मुक्त हो जाते। भारत के समपूर्ण क्षेत्र के लगभग दो बटे पाँच भाग में शाही राज्य शामिल थे। हैदराबाद और कश्मीर जैसे कुछ राज्य तो कई यूरोपीय देशों से बड़े थे। अन्य कुछ छोटे-छोटे कस्बे या जगीर थे जिनमें बस थोड़े-बहुत गांव थे। कुल मिला कर, ५६५ ऐसे राज्य थे जिन्हें १५ अगस्त, १९४७ की मध्यरात्रि के बाद भारत या पाकिस्तान में शामिल होने या स्वतंत्र रहने के लिए छूट दी गई थी।
२७ जून, १९४७ को, निर्धारित समय से दो महीने से भी कम समय पहले, भारत के अधिराज्य के साथ इन रियासतों के मिलाने के कार्य को सुविधाजनक बनाने के लिए सरदार पटेल के प्रभार के तहत एक नया राज्य विभाग स्थापित किया गया। पटेल ने इस विभाग के सचिव के रूप में वी.पी. मेनन को चुना । दोनों ने साथ मिलकर भारतीय राष्ट्र को एक साथ मिलाने का अति विशाल कार्य शुरू किया।
हालाँकि बीकानेर और बड़ौदा जैसे कुछ राज्य साथ आने के लिए तत्पर थे, पर कश्मीर और मणिपुर जैसे कुछ महीनों तक डावाँडोल स्थिति में रहे आए। जूनागढ़, जो काठियावाड़ के मध्य में है, पाकिस्तान से जा जुड़ा। त्रावणकोर ने अपनी आजादी की घोषणा कर दी और हैदराबाद, जो कि भारत के बीचोंबीच स्थित सबसे अमीर भारतीय राज्यों में से एक है, एक प्रभुता-संपन्न स्वतंत्र राष्ट्र बनने की इच्छा रखता था।
सरदार पटेल को इस अराजकता में गृह-युद्ध की संभावना का पूर्वानुमान हो गया था।विभाजन की हिंसा ने लोगों के बीच भय और अविश्वास की गहरी भावना पैदा कर दी थी। ऐसी कोई भी चीज़ जो युवा राष्ट्र की एकता और अखंडता को खतरे में डाल सकती थी, उसे दूर करने के लिए पटेल ने ७२ वर्ष की आयु में इस चुनौतीपूर्ण कार्य का प्रभार लेना आरंभ किया। पूरी दुनिया में और कहीं भी नहीं, इस तरह की हर प्रकार से विभिन्न जनसंख्या वाले राष्ट्र को इतने कम समय में एकीकृत किया गया था। लेकिन सरदार चुनौतियों से हारने वाले व्यक्ति नहीं थे।
धैर्यपूर्वक और बिना थके, पटेल, मेनन और उनकी टीम ने इस प्रक्रिया की शुरूआत की, जिसके तहत ५६५ रियासतों को भारत संघ में एकीकृत किया गया। उनकी उत्कृष्ट दूरदर्शिता और उल्लेखनीय योगदान के बिना भारत का भूगोल खतरनाक रूप से भिन्न हो सकता था। यह उस देश के प्रति पटेल की सबसे स्थायी विरासत थी जिसके लिए उन्होंने अपना जीवन न्दियोछावर कर दिया था।