૨૬મી જાન્યુઆરી, ૧૯૩૧ના રોજ સરકારે ગાંધીજીને જેલમાંથી મુક્ત કર્યા. જેલમાંથી મુક્ત થયા પછી ગાંધીજી અને વાઈસરૉય વચ્ચે લાંબી મંત્રણા ચાલી. ૫મી માર્ચના રોજ બંને વચ્ચે સમજૂતી થઈ. જે ગાંધી-અર્વિન સમજૂતી તરીકે ઓળખાય છે. આ સમજૂતીનો દેશના ઉદામવાદી નેતાઓએ વિરોધ કર્યો. કૉંગ્રેસની કારોબારી સમિતિએ કૉંગ્રેસના પ્રતિનિધિ તરીકે ગાંધીજીને ગોળમેજી પરિષદમાં હારજ રહેવા લંડન મોકલવાનો નિર્ણય કર્યો આથી ગાંધીજી ૧૨મી સપ્‍ટેમ્બર, ૧૯૩૧ના રોજ લંડન પહોંચ્યા ને ગોળમેજી પરિષદમાં હાજરી આપી. નકર પરિણામ વિના આ પરિષદ પૂરી થઈ એ પછી ગાંધીજી સ્વિટ્ઝર્લેન્ડ, વેટિકન સિટી વગેરે સ્થળોએ થઈ સ્વદેશ પાછા ફર્યા.
અસ્પૃશ્યતા નિવારણ માટે કામ આરંભ્યું
ગાંધીજીના સ્વદેશાગમન પછી સને ૧૯૩૨ના પ્રારંભમાં કૉંગ્રેસની કારોબારી સમિતિએ સવિનય કાનૂનભંગ ફરી શરૂ કરવાનો ઠરાવ કર્યો. આથી સરકારે ગાંધીજીની ધરપકડ કરી યરવડા જેલમાં કેદ રાખ્યા. અસ્પૃશ્યો માટે અલગ મતદારમંડળોની વ્યવસ્થા કરવાના નિર્ણયની વિરુદ્ધમાં ગાંધીજીએ જેલમાં ઉપવાસ શરૂ કર્યાઉ હિંદુ નેતાઓની મળેલી પરિષદે અસ્પૃશ્ય કોમોને સવર્ણ હિંદુઓ જેવા જ હકો આપવાની ખાતરી આપતા ગાંધીજીએ ૨૬ સપ્‍ટેમ્બર, ૧૯૩૨ના રોજ પારણાં કર્યા. જેલમાં બેઠા તેઓએ અસ્પૃશ્યતા વિરુદ્ધ પ્રચાર કરવાનું શરૂ કર્યું. આ માટે તેમણે હરિજન સેવક સંઘની સ્થાપના કરી. ‘‍ હરિજન‘, ‘હરિજન સેવક‘ અને ‘હરિજનબંધુ‘ નામના સાપ્‍તાહિકો શરૂ કર્યા. અસ્પૃશ્યતા નિવારણનું કામ કરતા કાર્યકરોમાં શિથિલતા આવેલી લાગતા ગાંધીજીએ જેલમાં ફરી ઉપવાસ શરૂ કર્યા. સરકારે ગાંધીજીને ઉપવાસના પહેલા દિવસે જ જેલમાંથી છોડી મૂક્યા. બહાર આવીને ગાંધીજીએ સામુહિક સત્યાગ્રહને બદલે વ્યક્તિગત સત્યાગ્રહ અમલમાં મૂકયો. ગાંધીજી ખેડા જિલ્લાના રાસ ગામે કૂચ લઈ જવા નીકળ્યા એટલે સરકારે ફરી એક વખત તેમને પકડી યરવડા જેલમાં ધકેલી દીધા.
રાજકારણમાંથી નિવૃત્તિ
જેલમાં રહી અસ્પૃશ્યતાનિવારણનું કામ કરવા ગાંધીજીએ સગવડ માગી. થોડી આપવામાં આવી, પણ ગાંધીજીને તે અપૂરતી જણાતા તેમણે ઉપવાસ શરૂ કર્યા. ઉપવાસને લીધે તેમની તબિયત બગડી એટલે સરકારે તેમને વિના શરતે જેલમાંથી મુક્ત કર્યા. જેલમાંથી છૂટ્યા પછી ગાંધીજીએ રાજકારણમાંથી નિવૃત્તિ લીધી. આશ્રમ હરિજન સેવક સંઘને સોંપી તેઓ દેશાટનમાં નીકળી પડ્યા. ભારતયાત્રા પૂરી કર્યા પછી અહિંસાનો સંદેશો પ્રજા સુધી નથી પહોંચ્યો અને અહિંસા તથા રચનાત્મક કાર્યક્રમ અંગે પોતાની અને પોતાના સાથીદારો વચ્ચે મતભેદ હોવાનું કહી કૉંગ્રેસમાંથી રાજીનામું આપી દીધું. ૧૯૩૬ના ઍપ્રિલમાં ગાંધીજી વર્ધા પાસેના સેગાંવ ગયા. ત્યાં મીરાંબહેન સાથે રહી તેમણે સેવાના કામો શરૂ કર્યા.