a>b>0，则a>0、b>0且a-b>0.∴√2a³+3/(ab-b²)=√2a³+3/b(a-b)≥√2a³+12/a²=(√2/2)a³+(√2/2)a³+4/a²+4/a²+4/a²≥5[(√2/2)a³·(√2/2)a³·(4/a²)·(4/a²)·(4/a²)]^(1/5)=10.∴b=a-b且(√2/2)a³=4/a²，即a=√2，b=√2/2时，所求最小值为: 10。
