SOP Cache の Max 値の設定は Edit -> Preferences -> Objects and Geometry の SOP Cache タブで可能です。
しかし、その一つ上の Cull Level をスライドすると、 Manual Overrides 以下の二つのプルダウンの値が変化します。
デフォルト値は 1 ですが、このとき
Unloading: Flag
Memory: Never
となっていて、メモリの上限を決めず、必要なだけメモリが追加されるように設定されています。
例えば、 Cull Level を3以上にすると、Memory の項が Always となります。つまり、上限が設定され、最大値を順守するようになります。
逆に必要なだけメモリを使うようにしておきたい場合は、Cull Level を低く設定します。