日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

PB_Truncate函数截取小数点引起的数字错误

發布時間:2025/3/21 编程问答 18 豆豆
生活随笔 收集整理的這篇文章主要介紹了 PB_Truncate函数截取小数点引起的数字错误 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

參考PB幫助中Truncate函數的說明:

Using Truncate on a computed field????? A real number loaded into a floating point register (used for calculation) is represented as precisely as the binary storage will permit. For example, the real number displayed as 2.07 is actually stored as 2.0699999999999997.

Truncating such a number may not give the expected result. To avoid this problem, you can change the initial real data type to long, integer, or decimal, or you can append a constant in the truncate argument: Truncate (x + 0.0000001, n )

?

xg1=dec(left(mpart[8],4))
gonglv=truncate(xg1 / 100,2)

?

注意,這里的xg1如果是int類型的話,就會發生上面的錯誤,將其類型修改為DEC后,解決!

轉載于:https://www.cnblogs.com/wjonjon/archive/2010/07/14/1777023.html

《新程序員》:云原生和全面數字化實踐50位技術專家共同創作,文字、視頻、音頻交互閱讀

總結

以上是生活随笔為你收集整理的PB_Truncate函数截取小数点引起的数字错误的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。