Solve[{(-1+A+B)*(1+A+B)*(A+B+c)^2/(2*B^2*c)==I*1.01165*(4*1/Cos(d)^2+4/Cos(d)^3*Sqrt[1/Cos(d)^2-1]),
-((A+B)^2*(-1+2*B^2)+2*(A+B)*(-1+B)^2*c+(-2+(A+B)^2)*c^2)/2/B/c==I*1.01165*((-5)*1/Cos(d)^2-3/Cos(d)^2*Sqrt[1/Cos(d)^2-1]),
(B^4-c^2)/2/B^2/c==I*1.01165,
-2*(B^2*(A+B)+B^2*c+(A+B)*c^2)/(B^4+c^2)==-5},{A,B,c,d}]
这是我编辑的，然后这个是方程组
然后运行之后显示的是这个
请问下是哪儿出了问题呢？

cos(d)的正确格式是Cos[d]，然后我把你代码里面的cos(d)都换成了d本身，使用NSolve或者高版本里面的SolveValues函数，应该存在无穷多组复数解
NSolve[{(-1 + A + B)*(1 + A + B)*(A + B + c)^2/(2*B^2*c) ==
I*1.01165*(4*1/d^2 +
4/d^3*Sqrt[
1/d^2 - 1]), -((A + B)^2*(-1 + 2*B^2) +
2*(A + B)*(-1 + B)^2*c + (-2 + (A + B)^2)*c^2)/2/B/c ==
I*1.01165*((-5)*1/d^2 - 3/d^2*Sqrt[1/d^2 - 1]), (B^4 - c^2)/2/B^2/
c == I*1.01165, -2*(B^2*(A + B) + B^2*c + (A + B)*c^2)/(B^4 +
c^2) == -5}, {A, B, c, d}]