H.264で低容量高画質

非常にすらばらしいエンコードを動画ですね。
音声が、HE-AACを使っているみたいです(48kbpsで96kbps同等の音声を再現できるコーデック)

ここまでは無理ですが、近いもので
akJ BetasでPSP動画作成
の
PSP DVD - h264 768k(HQ)
のファイル容量を下げるため、映像ビットレート 192k
最大フレームレート24
音声はビットレート96k
とするといいでしょう。

あと２パスエンコードをチェックします。

ちなみに、ニコニコにアップするファイルなら同じく２パス必須で、
ニコニコ動画投稿の16:9で、同じようにして、
あとは、詳細設定１でmaxrate 620kにするといいでしょう。
（再エンコードされる場合は、600にしてみる)

アニメですと、映像196kbpsでも結構きれいに出ますね。

容量が超える場合は、音声のビットレートを下げてください。音が悪くなったらチャンネルを１にしてみてください。

ぜひ試してみてください。

試してみましたけれども、そこまで高画質にならないです。。。
もしかしてやり方が違うんでしょうか？

どうやら、aviutlで、フィルターをいろいろと使うことができるんですけど
かけ方によっては高画質に見えるようにできるみたいです。

DVDからエンコなら
handbrakeというソフトでPSPで再生できないH.264が
結構高画質で低容量に変換できました。

参考になるかわかりませんが、というかいまさらですが・・・
この動画を解析してみました。
General
Complete name : C:\Documents and Settings\niino\My Documents\Downloads\C_63372.mp4
Format : MPEG-4
Format profile : Base Media
Codec ID : isom
File size : 39.2 MiB
Duration : 24mn 11s
Overall bit rate : 226 Kbps
Encoded date : UTC 2008-08-30 14:09:31
Tagged date : UTC 2008-08-30 14:09:31
Copyright : SMILEVIDEO_MP4

Video
ID : 1
Format : AVC
Format/Info : Advanced Video Codec
Format profile : High@L5.0
Format settings, CABAC : Yes
Format settings, ReFrames : 2 frames
Codec ID : avc1
Codec ID/Info : Advanced Video Coding
Duration : 24mn 11s
Bit rate mode : Variable
Bit rate : 175 Kbps
Maximum bit rate : 1 654 Kbps
Width : 512 pixels
Height : 288 pixels
Display aspect ratio : 16/9
Frame rate mode : Constant
Frame rate : 23.976 fps
Resolution : 24 bits
Colorimetry : 4:2:0
Scan type : Progressive
Bits/(Pixel*Frame) : 0.049
Stream size : 30.3 MiB (77%)
Writing library : x264 core 60
Encoding settings : cabac=1 / ref=1 / deblock=1:0:0 / analyse=0x3:0x133 / me=hex / subme=5 / brdo=0 / mixed_ref=0 / me_range=16 / chroma_me=1 / trellis=1 / 8x8dct=1 / cqm=0 / deadzone=21,11 / chroma_qp_offset=0 / threads=1 / nr=0 / decimate=1 / mbaff=0 / bframes=2 / b_pyramid=0 / b_adapt=1 / b_bias=0 / direct=3 / wpredb=1 / bime=1 / keyint=250 / keyint_min=25 / scenecut=40 / rc=2pass / bitrate=175 / ratetol=1.0 / rceq='blurCplx^(1-qComp)' / qcomp=1.00 / qpmin=10 / qpmax=51 / qpstep=4 / cplxblur=20.0 / qblur=0.5 / ip_ratio=1.40 / pb_ratio=1.30 / aq=2:1.00
Encoded date : UTC 2008-08-25 11:29:46
Tagged date : UTC 2008-08-30 14:09:32

Audio
ID : 2
Format : AAC
Format/Info : Advanced Audio Codec
Format version : Version 4
Format profile : LC
Format settings, SBR : Yes
Format settings, PS : No
Codec ID : 40
Duration : 24mn 11s
Bit rate mode : Variable
Bit rate : 48.0 Kbps
Maximum bit rate : 85.3 Kbps
Channel(s) : 2 channels
Channel positions : L R
Sampling rate : 48.0 KHz
Resolution : 16 bits
Stream size : 8.43 MiB (22%)
Encoded date : UTC 2008-08-30 14:09:32
Tagged date : UTC 2008-08-30 14:09:32

これを見ると、音声部はAAC-LCですね。
また動画は、High@L5.0となっており、PSPで再生できるMain@3.0より高画質な動画が作成できるようになっています。
変換はx.264で行われていますので、同じ程度の画質の動画を作ることはできます。
しかし、それをPSPで再生することは難しいと思います。