文久三年（1863）三月二十八日、十六日間の中山道の旅路を終えて浪士組は江戸に戻りました。折しも前年八月に薩摩藩が起こした生麦事件に対し、イギリスは幕府に謝罪状の提出と十万ポンドの賠償金の支払いを要求し、更に幕府に圧力をかけるためにイギリス・フランス・オランダ・アメリカの四か国艦隊を横浜に入港させていました。
幕府はこの脅しに屈する形で、四月一日にイギリスの要求を呑む決定を下します（のち撤回）。清河八郎はじめ浪士組はこの幕府の弱腰ぶりに憤り、独自に横浜焼き討ち計画を立てることになりますが、どうやら清河自身は、幕府が動かない以上、横浜焼き討ちが事実上不可能であることを察していたようですが、血気にはやる浪士たちを止めることもまた不可能であると悟っていたようです。
そして四月十三日のこと。横浜から戻っていた清河は、安積艮斎（あさか ごんさい）の塾で机を並べて共に学んだ仲であった金子与三郎（出羽上之山藩士）を訪ねるため、麻布一の橋の上之山藩邸へと向かいました。その行きがけに高橋泥舟の宅へ立ち寄り、しばし雑談を交わしましたが、高橋が登城の時刻となったので清河も退出することにしました。その帰り際に白扇を所望し
魁て また魁ん死出の山 迷いはせまじ皇（すめらぎ）の道
砕けても また砕けても寄る波は 岩角をしも打ち砕くらむ
の二首を認（したた）めましたが、これを見た高橋が「これは辞世ではないか」と驚き、清河を引き止めましたが、結局清河は金子の元へと向かってしまいます。
そして金子与三郎を訪ねた清河は、横浜焼き討ち計画への同意を求めたといわれます。金子も清河を手厚くもてなし、酒を交えての談義は夕方まで続き、清河が金子邸をあとにしたのは七つ時（午後４時頃）でした。東へ進み、中の橋を過ぎて赤羽橋のたもとまでやって来た時のことです。
「清河先生、しばらくです」
と声をかける者がありました。その人物こそ佐々木只三郎。
「ああ、佐々木君か」
足を止めた清河に、佐々木は深々と頭を下げました。それを見た清河が礼を返そうと被っていた傘を取ろうと顎の紐に手をかけた瞬間、背後から斬ったのは浪士組で佐々木と同じ取締並出役であった速見又四郎であったとは高橋泥舟の談（『泥舟遺稿』）。他に佐々木が斬ったとする説や窪田泉太郎とする話もあります。襲撃に加わったのは他に高久安次郎・広瀬六兵衛・永井寅之助・依田哲二郎・徳永昇らであったといいます。
『官武通紀』では「御老中周防守殿より御内書」つまり老中板倉勝静（いたくら かつきよ）より清河八郎を暗殺せよと密命があったとしていますが、一方で高橋泥舟は私怨によるものだと断じています。ただ、清川八郎の亡骸より押収された連盟書を元に、その一党がことごとく逮捕された事実を考えると、やはり幕命による暗殺であったと考えるべきと思われます。