Windows 10 :: Windows :: Калькулятор :: глюк :: экспонента :: песочница :: geek

Windows 10WindowsКалькуляторглюкэкспонентапесочницаgeek

$Калькулятор = ОБЫЧНЫЙ - □ X Журнал Память V(4) - 2 = -1,068281969439142е-19 -1,068281969439142е-19 МС MR М+ М- MS % СЕ V 7 С <Е\ -т-8 9 х х2 4 5 б - х3 1 2 3 + Vx ± 0,Windows 10,Windows,Калькулятор,глюк,экспонента,песочница,geek,Прикольные гаджеты. Научный, инженерный и айтишный юмор$

Вечно с этими дробными значениями проблемы...

19.02.2016, 18:24

+0,0

а еще в javascript очень весело вычисления производятся. я даже пруфы заскринил когда изучал:

QHhl ПГПДНИ1
0.10000000000000000555111512312578270211815834045410
0.20000000000000001110223024625156540423631668090820
/ий", которые нужно выделить ограничителями ?
0.29999999999999998889776975374843459576368331909180
0.40000000000000002220446049250313080847263336181641
0

19.02.2016, 18:29

+0,3

есть подозрение что после 20-го(примерно) знака у него какойто мусор в памяти, видимо чота там программисты захардкодили думая что никто после 20-го знака не полезет :))

19.02.2016, 18:34

-0,1

Таки да: https://en.wikipedia.org/wiki/Extended_precision#x86_Extended_Precision_Format. Захардкодили не просто так, а для скорости (вычисления с плавающей точкой - узкое место). Там шестьдесят четыре бита мантиссы, т. е. примерно двадцать десятичных знаков.

CALIBORN ENGLISH

19.02.2016, 18:39

-0,0

Не очень понял, при чем какое-то "захардкоживание". Числа с плавающей точкой здесь хранятся в двоичной системе. Тут причина в том, что не все конечные десятичные дроби представимы в виде конечных двоичных дробей. Числа вроде 0,1 в двоичном виде в область памяти ограниченного размера ее целиком записать нельзя, только округлив до какой-то точности. Точно так же нельзя конечной десятичной дробью записать, например, 1/7.

19.02.2016, 19:43

+0,2

Нет. Причина в том, что количество битов в мантиссе конечно.

CALIBORN ENGLISH

20.02.2016, 07:21

0,0

Или, вернее так: ошибка вообще возникает из-за конечных десятичных дробей, а в двадцатом знаке она из-за мантиссы в шестьдесят четыре бита.

CALIBORN ENGLISH

20.02.2016, 07:26

0,0

Если совсем уж придираться, то в примере на JavaScript в случае дроби 0,5 мантисса точно такой же длины, а ошибки нет. Как раз потому, что 1/2 может быть точно представлена в виде двоичной дроби.

20.02.2016, 09:26

+0,1

Но корень квадратный из четырех тоже можно точно представить в двоичной системе.

CALIBORN ENGLISH

20.02.2016, 09:28

0,0

самый простой вариант 0.1+0.2 = 0.30000000000000004

19.02.2016, 20:46

0,0

Калькулятор — □ X
= ОБЫЧНЫЙ ©
МС MR М+ М- MS 0
V(1) - 1 = 0
V(9) - 3 = 1,121252885047248е-1 9,Windows 10,Windows,Калькулятор,глюк,экспонента,песочница,geek,Прикольные гаджеты. Научный, инженерный и айтишный юмор

19.02.2016, 18:35

0,0

Калькулятор
□
X
= ИНЖЕНЕРНЫЙ ©
-8,1648465955514287168521180122928е-39
AR
V(4) - 2 =
-8,16484659555142871685
21180122928е-39,Windows 10,Windows,Калькулятор,глюк,экспонента,песочница,geek,Прикольные гаджеты. Научный, инженерный и айтишный юмор

19.02.2016, 19:41

0,0

У меня такой-же результат, не так как у ТС

19.02.2016, 20:20

0,0

Это инженерный так считает. ПРи переключении на обычный такой :

Калькулятор
□
X
= ОБЫЧНЫЙ ©
-1,068281969439142е-19
V(4) - 2 =
-1,0б8281969439142е-19,Windows 10,Windows,Калькулятор,глюк,экспонента,песочница,geek,Прикольные гаджеты. Научный, инженерный и айтишный юмор

19.02.2016, 20:43

0,0

Win7 тоже не смог

,Windows 10,Windows,Калькулятор,глюк,экспонента,песочница,geek,Прикольные гаджеты. Научный, инженерный и айтишный юмор

19.02.2016, 20:39

-0,1

На WinXP всё ещё хуже.. там вообще выглядит так, словно 2 - 2 = -8,1

Р Калькулятор р Калькулятор р Калькулятор .
Правка Вид Справка
4.
Правка Вид Справка
4.

Правка Вид Справка
2.
Г Backspace CE C

МС 7 I 8 I 9 I / sqrt j
MR I 4 5 6 • X
MS 1 2 3 - Ш
Мн- 0 +/- # =
Г Backspace CE C

MC 7 I 8 I 9 I | sqrt
MR 4 5 6 • X
MS 1 2 3 -

20.02.2016, 00:28

-0,1

Вы искренне считаете, что большинство людей - бараны, не замечающие E-39 и/или не знающие, что это такое?
За 20 лет "компьютеризации" и работы с Экселем - большинство уже информированы.

20.02.2016, 09:16

-0,1

Лично я вот искренне считаю, что вычитая 2 из 2, в ответе должен быть 0, а не хренова экспонента с кучей знаков после запятой. И, черт возьми, я не про это писал! Сложно прочитать фразу "выглядит так, словно" и посмотреть на скриншоты?

20.02.2016, 11:08

0,0

Ты написал, что "выглядит словно -8.1". Я именно по этому поводу и ответил. Что так оно выглядит только для тех, кто не в теме (столкнулся первый, например), а не в теме этой беды на сегодня уже совсем мало людей.

По поводу самой беды - ну ты ж в курсе, откуда она берется? А зачем на обычном калькуляторе использовать нестандартного собственного монстра вместо нативных для CPU типов данных? Там же гемора будет столько, что из-за этого юзер-френдли калькулятора они бы не доделали половину более полезной в винде чепухи.

20.02.2016, 11:27

+0,1

Чтобы написать коммент, необходимо залогиниться

Похожие посты ↓↓↓

2360212, 2091615, 2109549, 2118419, 2129432, 3752467, 3546947, 5011076, 1578179, 1770276, 5204752, 3019003, 1575963, 4472926, 4643566