Вверх ↑
Этот топик читают: Гость
Ответов: 186
Рейтинг: 9
#1: 2013-10-10 11:25:35 ЛС | профиль | цитата
MathParse не работает с числом более 10 знаков в режиме integer

code_31980.txt

Введите в поле приведенной схемы число более 10 знаков и результат станет отрицательный.

Заметил что даже Edit при выставлении в IntegerNumber и введении числа более 10 знаков, начинает выдавать отрицательный результат.


карма: 0

0
файлы: 1code_31980.txt [901B] [173]
vip
#1.1контекстная реклама от партнеров
Ответов: 194
Рейтинг: 42
#2: 2013-10-10 11:35:31 ЛС | профиль | цитата
Потому что для integer максимальное значение = 2147483647.
карма: 1

0
Ответов: 4342
Рейтинг: 678
#3: 2013-10-10 11:41:00 ЛС | профиль | цитата
Потому что тип Integer - знаковый и имеет разрядность 32 бита. Числа от 00000000h до 7FFFFFFFh представляют положительные числа, и от 80000000h до FFFFFFFFh отрицательные. Переведя 7FFFFFFFh в десятичную систему получишь максимальное положительное число в 2147483647.
[offtop]Надо бы конвертер типа UIntToStr[/offtop]
карма: 25

0
3
Сообщение
...
Прикрепленные файлы
(файлы не залиты)