フィルタに下記を追加すると512×384でも画像が潰れず配信できるそうです。(押忍!豪炎高校應援團では有効でした)
unsharp=3:3:0.3,mp=eq2=1.1
unsharp=3:3:1.5,mp=eq2=1.1だと全体的にはシャープさが増すのですがノイズが気になり出しました。
・unsharp
動画のシャープさの設定、自分は3.0とかにしています。
・mp=eq2
動画のホワイトバランスの設定、上げ過ぎると画面が白くなります。
今後、色々試してみて追記したいと思います。