目前，我知道gpu分配线程块给sm,sm再调度线程束给sp，最后由sp执行指令。但是，我疑惑的是：
1.在调核函数之前，程序是在cpu上运行的，那么CPU是如何将控制权移交给gpu的，而sm给sp分发指令时，指令又是从哪取的？
2.如何核函数里再调核函数，这个过程又是怎么样的？我想不通一个sp执行调用核函数的指令时，是如何再重新分配线程的。
望高手解答一下，谢谢

GPU是外部设备，正常情况下不会影响CPU的控制权。CPU只是把要执行的kernel调用存在一块数据里发送给GPU。执行kernel的时候CPU不会主动等待，所以你需要各种同步函数保证kernel执行完了再使用结果。
kernel的代码存在显存里，最近用过的代码会在指令缓冲里。
kernel里再调kernel就是“简单”地把新的调用加入队列，和在主机端把kernel调用加入队列没有本质区别。