RPiconfig(Embedded Linux Wiki)
RASPBERRY に VGA (D SUB ) ディスプレイを接続する(Palm-Dreams's pico workshop)
Raspberry PiをVGAモニターに接続して画面出力したときのメモ(Qiita)
Raspberry Piのディスプレイの解像度を設定する(Raspberry Piブログ)

なお、SHDF-VGAF、SHDM-VGAF経由RDF173Hについては何も設定しない状態で1280×1024表示ができた。
pi@raspberrypi ~ $ tvservice -s
state 0x120016 [DVI DMT (37) RGB full 5:4], 1280x1024 @ 85.00Hz, progressive


以下の3行を/boot/config.txtに加えることで640×480固定に。
> hdmi_ignore_edid=0xa5000080
> hdmi_group=2
> hdmi_mode=4

pi@raspberrypi ~ $ tvservice -s
state 0x120016 [DVI DMT (4) RGB full 4:3], 640x480 @ 60.00Hz, progressive