\[Kappa] = 1; \[Epsilon] = 2/100; \[Lambda] = 7/10^5;
Solve[{-16*Sqrt[2]*\[CapitalDelta]^3*\[Epsilon]^2 -
64*Sqrt[2]*\[CapitalDelta]^2*\[Epsilon]^2*\[Eta] -
80*Sqrt[2]*\[CapitalDelta]*\[Epsilon]^2*\[Eta]^2 -
32*Sqrt[2]*\[Epsilon]^2*\[Eta]^3 +
12*Sqrt[2]*\[CapitalDelta]*\[Epsilon]^2*\[Kappa]^2 +
16*Sqrt[2]*\[Epsilon]^2*\[Eta]*\[Kappa]^2 -
32*Sqrt[2]*\[CapitalDelta]^3*\[Kappa]*\[Lambda] -
120*Sqrt[2]*\[CapitalDelta]^2*\[Eta]*\[Kappa]*\[Lambda] -
144*Sqrt[2]*\[CapitalDelta]*\[Eta]^2*\[Kappa]*\[Lambda] -
56*Sqrt[2]*\[Eta]^3*\[Kappa]*\[Lambda] +
8*Sqrt[2]*\[CapitalDelta]*\[Kappa]^3*\[Lambda] +
10*Sqrt[2]*\[Eta]*\[Kappa]^3*\[Lambda] -
8*Sqrt[2]*\[Epsilon]^2*\[Eta]*\[Mu]1*\[Mu]2 +
24*Sqrt[2]*\[CapitalDelta]*\[Kappa]*\[Lambda]*\[Mu]1*\[Mu]2 +
32*Sqrt[2]*\[Eta]*\[Kappa]*\[Lambda]*\[Mu]1*\[Mu]2 -
8*Sqrt[2]*\[CapitalDelta]*\[Kappa]*\[Lambda]*\[Mu]2^2 -
8*Sqrt[2]*\[Eta]*\[Kappa]*\[Lambda]*\[Mu]2^2 == 0,
-24*Sqrt[2]*\[CapitalDelta]^2*\[Epsilon]^2*\[Kappa] -
64*Sqrt[2]*\[CapitalDelta]*\[Epsilon]^2*\[Eta]*\[Kappa] -
40*Sqrt[2]*\[Epsilon]^2*\[Eta]^2*\[Kappa] +
2*Sqrt[2]*\[Epsilon]^2*\[Kappa]^3 +
16*Sqrt[2]*\[CapitalDelta]^4*\[Lambda] +
80*Sqrt[2]*\[CapitalDelta]^3*\[Eta]*\[Lambda] +
144*Sqrt[2]*\[CapitalDelta]^2*\[Eta]^2*\[Lambda] +
112*Sqrt[2]*\[CapitalDelta]*\[Eta]^3*\[Lambda] +
32*Sqrt[2]*\[Eta]^4*\[Lambda] -
24*Sqrt[2]*\[CapitalDelta]^2*\[Kappa]^2*\[Lambda] -
60*Sqrt[2]*\[CapitalDelta]*\[Eta]*\[Kappa]^2*\[Lambda] -
36*Sqrt[2]*\[Eta]^2*\[Kappa]^2*\[Lambda] +
Sqrt[2]*\[Kappa]^4*\[Lambda] -
24*Sqrt[2]*\[CapitalDelta]^2*\[Lambda]*\[Mu]1*\[Mu]2 -
64*Sqrt[2]*\[CapitalDelta]*\[Eta]*\[Lambda]*\[Mu]1*\[Mu]2 -
40*Sqrt[2]*\[Eta]^2*\[Lambda]*\[Mu]1*\[Mu]2 +
6*Sqrt[2]*\[Kappa]^2*\[Lambda]*\[Mu]1*\[Mu]2 +
8*Sqrt[2]*\[CapitalDelta]^2*\[Lambda]*\[Mu]2^2 +
16*Sqrt[2]*\[CapitalDelta]*\[Eta]*\[Lambda]*\[Mu]2^2 +
8*Sqrt[2]*\[Eta]^2*\[Lambda]*\[Mu]2^2 -
2*Sqrt[2]*\[Kappa]^2*\[Lambda]*\[Mu]2^2 +
8*Sqrt[2]*\[Lambda]*\[Mu]1^2*\[Mu]2^2 -
8*Sqrt[2]*\[Lambda]*\[Mu]1*\[Mu]2^3 ==
0, -\[CapitalDelta] == \[Eta] -
Sqrt[\[Mu]1]*Sqrt[\[Mu]2]}, {\[CapitalDelta], \[Mu]2}]

它的结果的意思是，内存分配失败，多见于内存不足的情况

可以考虑把三式解出代入前两式
另外你这方程组超定，软件可能去检查相容性了，所以计算非常麻烦。