关于浮点数精度的问题
生活随笔
收集整理的這篇文章主要介紹了
关于浮点数精度的问题
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
float double數精度,自己原來也不怎么在乎,但這大半年下來竟然發現屢屢在此問題上栽跟頭。
總結下來寫渲染程序:
1.在CPU端盡量設置為double類型數據計算各種變換矩陣,最終傳給GPU時再弄為float。
2.如果數值偏差太大,建議先轉換為局部坐標系進行各種計算,最終轉換為最后的坐標系。
3.頂點著色器中設置為高精度的high,比medium 降低的性能真的很小,但效果改善很不錯。
4.有時向著色器中傳入時間變量,會隨著程序的開啟越來越大,此時要注意精度,采取必要的措施,如取余等方式。
轉載于:https://www.cnblogs.com/liding/p/6255172.html
總結
以上是生活随笔為你收集整理的关于浮点数精度的问题的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: Ansible-playbook 部署r
- 下一篇: 自动布局报错(两条连线冲突):Unabl