比较两组计算结果大小时有Bug

2
回复
440
查看
[复制链接]

微信扫一扫 分享朋友圈

签到天数: 45 天

连续签到: 1 天

[LV.5]经常光顾

发表于 2021-6-23 13:53:23 | 显示全部楼层 |阅读模式
QQ截图20210623134642.jpg

获取两组曲线长度后比较大小,结果出现红框所示的Bug,一组结果是12.0 而另一组是12 所以结果为False了,求教大神应该怎么解决?
订阅 Rhino 最新资讯
回复

使用道具 举报

签到天数: 2812 天

连续签到: 3 天

[LV.Master]开坛元老

发表于 2021-6-23 18:34:34 | 显示全部楼层
小数只显示6位数,但小数7位数不显示但存在
12.0可能还有小数例如12.0000001建议你先四舍五入,小数2位数再比较

回复 支持 反对

使用道具 举报

签到天数: 45 天

连续签到: 1 天

[LV.5]经常光顾

 楼主| 发表于 2021-6-29 07:31:27 | 显示全部楼层
modern 发表于 2021-6-23 18:34
小数只显示6位数,但小数7位数不显示但存在
12.0可能还有小数例如12.0000001建议你先四舍五入,小数2位数 ...

好的,谢谢M大,已经解决了
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

15927211580

周一至周五 9:30-18:00

武汉市武昌区中山路380号201

  • 关注微信公众号

  • 微信咨询客服号

QQ- Archiver- 鄂ICP备12016959号   充值M币 |勋章中心 | ( 鄂ICP备12016959号 )

Powered by Discuz!X3.2© 2001-2013 Comsenz Inc.

金融信息行业协会理事单位 | 信息服务业行业协会会员单位 | 网络信贷服务业企业联盟单位