好看的电视剧,旷世神医,网络小说排行榜

jony7788

級別: 工控俠客

精華主題: 0
發(fā)帖數(shù)量: 49 個
工控威望: 2002 點
下載積分: 111 分
在線時間: 234(小時)
注冊時間: 2023-02-25
最后登錄: 2025-02-10
查看jony7788的主題 / 回貼

樓主發(fā)表于: 2023-09-29 15:33

只看樓主 | 小中大

圖片：

用三菱PLC(FX-3U)計算對數(shù)，發(fā)現(xiàn)同EXCEL直接計算的有差異，兩個數(shù)值都是相差0.09，是什么原因造成的呢。

[ 此帖被jony7788在2023-09-29 20:26重新編輯 ]

gzcjx555

QQ 296686949

級別: 工控俠客

精華主題: 0
發(fā)帖數(shù)量: 519 個
工控威望: 4206 點
下載積分: 2625 分
在線時間: 363(小時)
注冊時間: 2014-02-15
最后登錄: 2025-02-11
查看gzcjx555的主題 / 回貼

1樓發(fā)表于: 2023-09-29 18:10

只看該作者 | 小中大

計算精度問題，三菱FX3U只支持單精度浮點計算，32位，EXCEL默認使用雙精度浮點，也就是64位。

本帖最近評分記錄：

下載積分:+5(jony7788) 熱心助人！

聯(lián)系電話15071699246，QQ296686949

jony7788

級別: 工控俠客

精華主題: 0
發(fā)帖數(shù)量: 49 個
工控威望: 2002 點
下載積分: 111 分
在線時間: 234(小時)
注冊時間: 2023-02-25
最后登錄: 2025-02-10
查看jony7788的主題 / 回貼

2樓發(fā)表于: 2023-09-29 20:01

只看該作者 | 小中大

感謝！
后面發(fā)現(xiàn)當數(shù)值大于一定值的時候，兩者的計算結(jié)果是一樣的。

niningtt

級別: 工控俠客

精華主題: 0
發(fā)帖數(shù)量: 1230 個
工控威望: 3550 點
下載積分: 858 分
在線時間: 459(小時)
注冊時間: 2010-08-24
最后登錄: 2025-02-07
查看niningtt的主題 / 回貼

3樓發(fā)表于: 2023-10-06 16:16

只看該作者 | 小中大

你PLC計算的結(jié)果0.004,0.007只是四舍五入的三位小數(shù)結(jié)果，實際按32為浮點數(shù)還有幾位有效數(shù)字，只是編程軟件沒有顯示出來，不表示那是計算的參數(shù)值

本帖最近評分記錄：

下載積分:+5(jony7788) 熱心助人！

cypress1121

級別: 工控俠客

精華主題: 0
發(fā)帖數(shù)量: 184 個
工控威望: 3272 點
下載積分: 17723 分
在線時間: 414(小時)
注冊時間: 2020-01-07
最后登錄: 2025-02-10
查看cypress1121的主題 / 回貼

4樓發(fā)表于: 2023-10-06 17:00

只看該作者 | 小中大

小數(shù)點位數(shù)問題~~

http://m.xjkz.com.cn
訪問內(nèi)容超出本站范圍，不能確定是否安全
繼續(xù)訪問	取消訪問

99久久国产综合精品女不卡-99久久好看一级毛片-99久久精品99999久久-99久久精品费精品国产-99久久精品费精品国产一区二