MATLAB常见问题:小数保留有效数字位数相关问题/除法结果问题/数据显示格式设置
目錄
- 一、問題引出與求證
- 二、問題查閱與解決
- 三、MATLAB如何修改計算結果保留的有效數字
- 四、拓展——數值顯示
- 五、總結
- 六、后記
一、問題引出與求證
今天,利用MATLAB編寫乘同余法產生隨機數相關代碼時,遇到一個問題:
(下圖僅截取部分代碼片段)
輸出結果為:
再次運算:
發現:
二者顯然不相同。但是他們似乎是用相同的數0.0234和6進行相乘。結果為什么不相同呢?為了驗證哪個計算出錯,我又利用計算器進行了驗證,結果非常amazing啊:
那第一個代碼為什么會算出0.1406呢?我突然想到了一個點,是不是除法運算結果沒有保留全部數值呢?
一做驗證,果然如此。
而用0.0234375*6,結果保留四位有效數字果然是0.1406。
看來果然如此,MATLAB默認保留四位有效數字,其余位數省略,但是不消失。
比如:
a=6/256 b=0.0234 a==b結果顯示,果然a和b并不相等:
二、問題查閱與解決
經過大量資料查閱,只在這里找到部分答案:
“若為實數,則以保留小數點后4位的浮點型表示”
經過再次從網上查閱資料,發現可以修改結果保留的有效數字,詳細步驟如三:
三、MATLAB如何修改計算結果保留的有效數字
Step1:主頁–>預設
Step2:打開“命令行窗口”,找到“文本顯示”
Step3:修改數值格式與數值顯示
關于數值格式,共有12種,詳見下表格:
顯示格式只影響數值的顯示方式,不影響它們在 MATLAB 中的存儲方式。
參考自:MATLAB官方文檔
當然,也可以使用format方法,鏈接如下:
https://ww2.mathworks.cn/help/matlab/ref/format.html?s_tid=srchtitle
四、拓展——數值顯示
數值顯示有兩個選項:
-
loose(默認)
默認情況下,MATLAB 會在命令行窗口輸出中顯示空行。如:
-
compact
compact可以取消顯示空行。如:
參考自:設置輸出格式
五、總結
MATLAB中小數格式,默認以保留小數點后4位的浮點型表示,也可以進行手動設置;
顯示格式只影響數值的顯示方式,不影響它們在 MATLAB 中的存儲方式。
六、后記
如果各位有什么更容易的解決辦法,歡迎在評論中給出,感激不盡~
總結
以上是生活随笔為你收集整理的MATLAB常见问题:小数保留有效数字位数相关问题/除法结果问题/数据显示格式设置的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: asp.net model 验证和取出
- 下一篇: 一个关于pynoi游戏的C语言编程