首页 > 新闻资讯

第六下载站6down rounddown(7,0)=6,为啥?

rounddown(7,0)=6,为啥?

如图所示,0.65-0.7并不返回-0.05,而是-0.04999999。这是因为计算机在处理十进制计算时产生了不可避免的错误。我们只能加一轮来处理。例如=向下取整(取整(0.65-0.7,2)*20,0)

第六下载站6down最6下载唧唧down

原文标题:第六下载站6down rounddown(7,0)=6,为啥?,如若转载,请注明出处:https://www.saibowen.com/news/18027.html
免责声明:此资讯系转载自合作媒体或互联网其它网站,「赛伯温」登载此文出于传递更多信息之目的,并不意味着赞同其观点或证实其描述,文章内容仅供参考。