高杉は労咳で体調が悪化しているのをおして、第二次長州征伐で戦い、小倉城を落とし幕府軍を駆逐した。その勝利の見返りとしてさらに寿命を縮めてしまったのだろう。医者のすすめで、慶応2年（1866年）の秋に、招魂場がある桜山のふもとの小さな家屋に転居し、愛人おうのの看病のもと療養生活にはいった。

のち下関の町中にある林算九郎（はやしさんくろう）邸の離れ屋敷に移った。翌慶応3年（1867年）の3月の後半あたりから病気は重篤になり、4月14日に数え年29歳という若さで息を引き取った。

死の直前に高杉は筆と紙を求め、「おもしろきこともなき世をおもしろく」と書きかけたが、力が尽きて後が続かずにいたところ、そばにいた歌人・野村望東尼（のむらもとに）が「すみなすものは心なりけり」と下の句を代わりにつけてやったという話が伝えられている（「世をおもしろく」→「世におもしろく」が正しいとも）。

高杉の遺骸は遺言に基づいて、奇兵隊の本営があった吉田に埋葬され、墓地周辺は「東行庵（とうぎょうあん）」として整備されている。