單片機浮點(diǎn)數的實(shí)用快速降法 作者: 時(shí)間:2012-03-08 來(lái)源:網(wǎng)絡(luò ) 加入技術(shù)交流群 掃碼加入和技術(shù)大咖面對面交流海量資料庫查詢(xún) 收藏 可見(jiàn)只需要在X/YH的基礎上再乘以一個(gè)修正因子(YH-YL)/YH,就可以得到X/Y的一次校準值。不難證明這個(gè)值已經(jīng)達到了24位的精度要求。事實(shí)上,相對誤差滿(mǎn)足: 上一頁(yè) 1 2 3 下一頁(yè)
評論