後來，他陸續做過一些官職，但由於淡泊功名，爲官清正，不願與腐敗官場同流合污，過着時隱時仕的生活。陶淵明最後一次做官，是義熙元年（405年）。那一年，已過「不惑之年」（四十一歲）的陶淵明在朋友的勸說下，再次出任彭澤縣令。到任八十一天，碰到潯陽郡派遣督郵來檢查公務，潯陽郡的督郵劉雲，以兇狠貪婪聞名遠近，每年兩次以巡視爲名向轄縣索要賄賂，每次都是滿載而歸，否則栽贓陷害。縣吏說：「當束帶迎之。」就是應當穿戴整齊、備好禮品、恭恭敬敬地去迎接督郵。陶淵明嘆道：「我豈能爲五斗米向鄉里小兒折腰。」意思是我怎能爲了縣令的五斗薪俸，就低聲下氣去向這些小人賄賂獻殷勤。說完，掛冠而去，辭職歸鄉。此後，他一面讀書爲文，一面躬耕隴畝。
陶淵明妻翟氏，與他志同道合，安貧守節，「夫耕於前，妻鋤於後」，朋友來訪，無論貴賤，只要家中有酒，必與同飲。
儘管生活貧困，但陶淵明始終不願再爲官受祿。宋文帝元嘉元年（424年），江州刺史檀道濟親自到他家訪問，他對江州刺使送來的米和肉堅拒不受。朝廷曾徵召他任著作郎，也被他拒絕了。
陶淵明原本可以活得舒適，榮華富貴，至少衣食不愁，但那要以人格和氣節爲代價，於是他選擇了艱苦但寧靜而自由的田園生活。有得必有失，陶淵明獲得了心靈的自由，獲得了人格的尊嚴，寫出了具有獨特風格並流傳百世的詩文。爲後人留下了寶貴的文學財富和彌足珍貴的精神財富。
他的一生，充滿了對人生真諦的渴望與追求。他的詩歌如《飲酒》、《雜詩》等，質樸無華，清麗自然，寓絢於素，韻味雋永，或者詠史抒懷關心時局，或者充滿「性本愛丘山」的生活志趣。他的辭賦如《歸去來兮辭》，表達了不與世俗同流合污的決心。他的散文如《桃花源記》、《五柳先生傳》等，表現了返樸歸真、高遠脫俗的意境，對美好未來充滿了嚮往。後人有「一語天然萬古新，豪華落盡見真淳」之譽。他那不爲「五斗米折腰」的氣節，更是勉勵後人以天下蒼生爲重，以節義貞操爲重，折腰時心已愧，不趨炎附勢，保持善良純真的本性，不爲世上任何名利浮華所改變。
附陶淵明《飲酒》詩：結廬在人境，而無車馬喧。問君何能爾，心遠地自偏。 採菊東籬下，悠然見南山。山氣日夕佳，飛鳥相與還。此中有真意，欲辨已忘言。