В этой статье я хотел бы поделиться с Вами информацией о пределах точности расчетов в Microsoft Excel. Никто не задумывается, но Excel посчитает нам не любые вещи, которые мы у него попросим. Есть ограничения. И об этих ограничениях лучше знать заранее, чтобы избежать ошибок, там где они не ожидаются и совсем неоднозначны.
Мы уже сталкивались с системными ошибками excel, например, когда система не досчитывает таблицу до конца. Ограничения же точности, о которых я хочу рассказать — это уже скорее архитектурное ограничение, с которым нам придется мириться, но о котором просто необходимо знать любому пользователю Excel.
В чем суть, и как это работает
Microsoft Excel делает рассчеты на основе переменной с плавающей запятой. Это значит, что данные храняться у него в особом виде, а именно в виде дроби, где одна цифра стоит как целая часть, а остальные составляют дробную часть. Эта дробь умножается на 10 в n-ной степени.
Например, число 12345 будет храниться и обрабатываться (участвовать в расчетах) в Excel’е как 1.2345E4 или 1.2345*10
