解:x^2-8x+20=(x-4)^2+4>0
所以mx^2+2(m+1)x+9m+4<0
设f(x)=mx^2+2(m+1)x+9m+4为二次函数
f(x)<0的条件是m<0(函数开口向下),且Δ<0说明函数f(x)与坐标轴没有交点
Δ=b^2-4ac=[2(m+1)]^2-4*m*(9m+4)=4m^2+8m+4-36m^2-16m=-32m^2-8m+4<0
解不等式-32m^2-8m+4<0得m>1/4或者m<-1/2
综合得m<-1/2
我觉得是m<- 6/11
分子部分是恒大于零的,直接无视
分母可写成mX平方+11m+6<0
m<-6//x方+11... m<- 6/11
m>-6/11