找回密码
 马上注册

QQ登录

只需一步,快速开始

查看: 5476|回复: 4

请教,EV3的变量有位数的限制么?

[复制链接]
发表于 2019-12-24 16:07:58 | 显示全部楼层 |阅读模式
本帖最后由 ZDKJ 于 2019-12-24 16:09 编辑

今天做了个小程序,想在屏幕上逐渐显示更多位数的数字
例如;
1
12
123
1234
12345
123456
1234567
12345678
123456789
1234567890
12345678901
这样子显示出来,但是显示到12345678之后,显示的数字就不对了
如图
后来实验直接在变量里输入数值,可以到1234567,再加一位12345678又不对了,
考虑可能是科学计数法,但是看不明白他这个计数法的规律,
大佬可以给讲讲么?

图片1.jpg

lin.ev3

10.05 KB, 下载次数: 39

如果您觉得我的帖子对您有用,请不吝给我一个“赞”!
发表于 2019-12-25 16:16:19 | 显示全部楼层
建立一个变量X,然后显示出来。
第一步:把1234567赋予给X,会显示1234567
第二步:把12345678赋予给X,会显示12345680
此时,再去观察赋予的X,会发现刚才输入的12345678变成了1.234568E+07
这是科学技术法,表示1.234568×10的7次方,小数点后只保留6位有效数字,由于第6位是7,但是7后面是8四舍五入就变成了1.234568。 比如你用两个常量12345670和8相加,EV3得到的结果就是12345680而不是12345678
如果您觉得我的帖子对您有用,请不吝给我一个“赞”!
回复 2 0

使用道具 举报

发表于 2019-12-25 16:17:23 | 显示全部楼层
ev3用的浮点数是单精度float吧  有效数字是6-7位 有效位以外的数字有舍入误差
怎么解决不清楚。。。
如果您觉得我的帖子对您有用,请不吝给我一个“赞”!
回复

使用道具 举报

发表于 2019-12-25 22:09:54 | 显示全部楼层
这个还真不清楚
如果您觉得我的帖子对您有用,请不吝给我一个“赞”!
回复

使用道具 举报

发表于 2019-12-28 17:28:28 | 显示全部楼层
应该加1   才可以出来
如果您觉得我的帖子对您有用,请不吝给我一个“赞”!
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 马上注册

本版积分规则

手机版|中文乐高 ( 桂ICP备13001575号-7 )

GMT+8, 2024-11-25 05:19 , Processed in 0.393429 second(s), 27 queries .

Powered by Discuz! X3.5

Copyright © 2001-2020, Tencent Cloud.

快速回复 返回顶部 返回列表