首页 > 代码库 > 关于浮点数精度的问题
关于浮点数精度的问题
float double数精度,自己原来也不怎么在乎,但这大半年下来竟然发现屡屡在此问题上栽跟头。
总结下来写渲染程序:
1.在CPU端尽量设置为double类型数据计算各种变换矩阵,最终传给GPU时再弄为float。
2.如果数值偏差太大,建议先转换为局部坐标系进行各种计算,最终转换为最后的坐标系。
3.顶点着色器中设置为高精度的high,比medium 降低的性能真的很小,但效果改善很不错。
4.有时向着色器中传入时间变量,会随着程序的开启越来越大,此时要注意精度,采取必要的措施,如取余等方式。
关于浮点数精度的问题
声明:以上内容来自用户投稿及互联网公开渠道收集整理发布,本网站不拥有所有权,未作人工编辑处理,也不承担相关法律责任,若内容有误或涉及侵权可进行投诉: 投诉/举报 工作人员会在5个工作日内联系你,一经查实,本站将立刻删除涉嫌侵权内容。