level 1
想用java版tensorflow做线上预测，发现gpu耗时比cpu还多，想请教一下参数应该如何设置。如session的个数，session的参数设置，线上每台机器是一张显卡。现在用cpu耗时才4ms左右，用gpu反而要50ms左右。
2018年12月13日 14点12分
1
level 8
你做线上预测有没有把sess拉出来，就是让运行的时候，sess只加载一遍，这样就只有第一次运行的时候加载sess和graph，后面传图片就有结果，延时很小
2018年12月18日 15点12分
2