MathParse не работает с числом более 10 знаков в режиме integer
code_31980.txt
Введите в поле приведенной схемы число более 10 знаков и результат станет отрицательный.
Заметил что даже Edit при выставлении в IntegerNumber и введении числа более 10 знаков, начинает выдавать отрицательный результат.
Этот топик читают: Гость
Ответов: 186
Рейтинг: 9
|
|||
карма: 0 |
| ||
файлы: 1 | code_31980.txt [901B] [484] |
Ответов: 196
Рейтинг: 43
|
|||
Потому что для integer максимальное значение = 2147483647.
|
|||
карма: 2 |
|
Ответов: 4630
Рейтинг: 749
|
|||
Потому что тип Integer - знаковый и имеет разрядность 32 бита. Числа от 00000000h до 7FFFFFFFh представляют положительные числа, и от 80000000h до FFFFFFFFh отрицательные. Переведя 7FFFFFFFh в десятичную систему получишь максимальное положительное число в 2147483647.
[offtop]Надо бы конвертер типа UIntToStr[/offtop] |
|||
карма: 26 |
|
3