DSolve[{D[
P[n, t], {n,
1}] == \[Lambda] (n - 1) P[n - 1, t] + \[Mu] (n + 1) P[n + 1,
t] - (\[Lambda] + \[Mu]) n P[n, t], P[100, 0] == 1}, P, {n, t}]

把下标改到括号里面，用Dsolve解不出来

保持下标用RSolve也不行

你这问题的出处是啥？我好像还是第一次见递推和微分混合的问题，不过，假设问题本身是正确的，我倒是能想到一种求近似解的方法。
首先你的方程其实和 t 无关，简洁起见我们把它改写下（这只是我个人爱好，并非必要）：
{D[P[n, t], n] == \[Lambda] (n - 1) P[n - 1, t] + \[Mu] (n + 1) P[n + 1,
t] - (\[Lambda] + \[Mu]) n P[n, t], P[100, 0] == 1} /. P -> (P@# &)
(*
{P'[n] == (-1 + n) λ P[-1 + n] -
n (λ + μ) P[n] + (1 + n) μ P[1 + n], P[100] == 1}
*)
然后，对 P'[n] 作差分近似，就能用 RSolve 解了：
RSolve[{(P[n + 1] - P[n - 1])/
2 == (-1 + n) λ P[-1 + n] -
n (λ + μ) P[n] + (1 + n) μ P[1 + n], P[100] == 1}, P, {n}]
二阶中心差分近似的结果已经挺复杂了，你有兴趣可以试试更高阶的。

十分感谢，这是生灭过程取极限后的方程