સરદાર પટેલ બિહારના ચંપારણ ગામમાં ગાંધીએ કરેલા કાર્યથી ખૂબ જ પ્રભાવિત થયા હતા કે જ્યાં ગાંધી એ કચડાયેલા અને દબાયેલા ખેડૂતો માટે એક સત્યાગ્રહ આયોજિત કર્યો હતો કે જેમની પાસે બળજબરીથી ગળીનો પાક લેવડાવવામાં આવતો હતો અને તે પાકને પાછળથી તેમની પાસેથી જ અત્યંત ઓછી કિંમતે ખરીદવામાં આવતો હતો. ગ્રામજનોને પણ જમીનદારો પાસેથી ખૂબ ઓછું વળતર મળતું હતું અને દુષ્કાળ હોવા છતાં બ્રિટિશ સરકાર દ્વારા કર વધારો નાખવામાં આવવાથી ખેડૂતોની દુ:ખદ યાતનાઓમાં વધારો થયો હતો. ગાંધીએ બ્રિટિશરો દ્વારા ટેકો મેળવતાં જમીનદારો સામે વિરોધ નોંધવા હડતાલ નું આયોજન કર્યું અને આખરમાં બ્રિટિશરોને ગાંધી દ્વારા મુકવામાં આવેલી શરતો મંજુર કરવા સંમતિ આપવી પડી. આ સત્યાગ્રહની સરદાર પટેલના મનમાં ગહન અસર પડી અને તેમણે ગાંધીને પોતાના માર્ગદર્શક, ફિલસૂફ અને મિત્ર તરીકે સ્વીકાર્યા. આ પ્રેરણાનું એક ઉદાહરણ આપણને સરદારે વર્ષ ૧૯૧૭ માં બોરસદમાં આપેલા એક ભાષણમાંથી દેખાશે જેમાં તેમણે  ગાંધીની બ્રિટિશ પાસેથી 'સ્વરાજ' (સ્વ નિયમ) ની માંગણીની અરજી પર હસ્તાક્ષર કર્યા હતા. સરદાર જેઓ ગુજરાત સભાની કારોબારી સમિતિના સચિવ હતા તેઓ હવે વેઠ પ્રથા વિરુદ્ધ લડતા હતા અને ખેડા જિલ્લામાં ફાટી નીકળેલા પ્લેગ અને ભૂખમરાની પરિસ્થતિને પહોંચી વળવા રાહત કાર્યોનું આયોજન કરતા હતા. ગાંધી જયારે ચંપારણમાં વ્યસ્ત હતા ત્યારે તેમને ખેડા જિલ્લાના ખેડૂતોની ચળવળની આગેવાની કરે તેવા એક ગુજરાતી કાર્યકરની જરૂર હતી અને તે માટે સરદાર પટેલ સ્વેચ્છાએથી આગળ આવ્યા. આમ આવી હતી સરદાર ઉપર ગાંધીના કાર્યની અસર.