ちょっと時間ができたのでfreeradiusを入れてみましたが、やっぱりwpa3-enterprise 192bit-securityは使えません。
wpa2-enterpriseはちゃんとfreeradiusで認証して接続できますが、wpa3-enterprise 192bit-securityはそもそもfreeradiusサーバと全く通信が行われずにVR-U300W内で死んでいるようです。(tcpdumpで見ても何も飛んでいません。)
# 本日の夕方に、返金するので返品してくれとbuffaloのサポートから電話がありました。
P.S. 返品後、20日以上経過した3/27に、やっと銀行振込で返金されました。