Flash, Videoタグ、ろぼだんすで再生可能な解像度とHDMI出力時の表示結果はこんな感じです。
    | Flash   | videoタグ | ろぼだんす |
    +------+------+------+------+------+------+
    |スマホ|液晶TV|スマホ|液晶TV|スマホ|液晶TV|
--------+------+------+------+------+------+------+
640x360| ○ | △*2| ○ | ○ | ○ | ○ |
800x480| ○ | △*2| ○ | ○ | ○ | ○ |
900x540| ○ | △*2| × | × | ○ | ○ |
1280x720| ○ | △*2| × | × | ○ | ○ |
1024x768| △*1| △*2| × | × | × | × |
*1) 再生は開始するものの、画面表示がカクつく。音声は正常
*2) HDMI経由で液晶TVに表示すると、液晶TV側の表示が解像度の低い映像を拡大
  表示したように汚い。ふらだんす以外のjwplayerなども同様。


スマホでどこまで高画質な動画を再生できるか?

当然、ビットレートも高くなるので、ダウンロード型、ろぼだんすの出番であるのですが(^^)。

実は、これ、スマホ本体での再生を考えているのではなく、HDMIでTVに出力することを考えているのです。
最近のスマホでHDMI出力を備えてる端末も増えてきました。

ダウンロードした動画を、HDMI経由でTV出力すれば、PCがなくても、動画の購入やレンタルが可能になります。

で現状だと、さすがに1920×1080のフルHDは再生できません。。。残念。

ちょっと前のハイエンド~現行の普及モデルのスマホだと、ハードウェアのビデオデコードサポートが720p止まりなので1080i/1080pは(Tegra3とか積んだ)現行のハイエンドだけみたいです。

SH-12Cで探したところ1600x900は再生できるとの記事がありましたが、キリの良い所で1280x720pとするのがお勧めです。
最近、スマートフォンへのダウンロード型動画再生アプリろぼだんすにからんで、ストリーミング配信や、ダウンロード配信のお問い合わせを受けることが多くなってきました。
プログレッシブダウンロード対応のMP4の規格上、moov atom がどの mdatatom よりも前にないといけませんのでMP4ファイルを作成する際に注意が必要です。

moovの位置を調べるには、mp4dumpというソフトを使います。

手順はこうです。
①mp4dump.exeをダウンロードしますhttp://pbx.mine.nu/mpeg4ip_binaries_for_windows_free_download/

②c:¥movieフォルダを作成し、ダウンロードしたmp4dump.exe及び元の動画ファイルを、フォルダに入れます(フォルダの場所は任意でかまいません)。

③コマンドプロンプトでc:¥movie¥mp4dump.exe c:¥movie¥ファイル名.mp4と入力すると、冒頭あたりにコンテナ形式、moovの位置が表示されます。