oldcodepage = Session.Codepage ' 現在のコードページを退避
Session.Codepage = 0 ' コードページを既定値に戻す

' CSVファイルのダウンロード
Response.ContentType="application/octet-stream"
Response.AddHeader "Content-Disposition","attachment; filename=hoge.csv"
Response.Write "あ"
Session.Codepage = oldcodepage ' コードページを元に戻す
Response.End

参考URL:http://d.hatena.ne.jp/replication/20091214/1260745785