(1)集合A={x|f(x)=x}
x2+ax+b=x
x2+(a-1)x+b=0
x=x1,x2
说明A中有两元素{x1,x2},满足f(x1)=x1,f(x2)=x2
B={x|f[f(x)]=x}
把x1代入B中
得:f[f(x1)]=f(x1)=x1
把x2代入B中
得:f[f(x2)]=f(x2)=x2
说明x1,x2都满足f[f(x)]=x
B中也有两元素{x1,x2}
所以A包含于B
(2)由A={x|x=f(x)}及A=﹛-1,3﹜知
方程f(x)=x即x^2+(a-1)x+b=0的两个根为-1,3
所以-1+3=1-a得a=-1
(-1)*3=b得b=-3
所以f(x)=x^2-x-3
所以f[f(x)]=x即(x^2-x-3)^2-(x^2-x-3)-3=x
化简整理得x^4-2x^3-6x^2+6x+9=(x+1)(x-3)(x^2-3)=0
所以B={-1,3,-√3,√3}
(3)