beldmit: (Default)
[personal profile] beldmit
Несколько последних дней борюсь на работе фактически с вычислительной математикой.
Ценное наблюдение: для того, чтобы целый результат, не лезущий в 32 бита, влез в 64 без искажения, недостаточно объявить итоговый результат типом int64_t. Надо и (в моем случае) один из множителей тоже привести к этому типу.

Правда, проблемы и сомнения в полученных результатах все равно есть. Но самые сомнительные куски уже выкинуты.

Profile

beldmit: (Default)
Dmitry Belyavskiy

February 2026

S M T W T F S
1234567
8910111213 14
15161718192021
22232425262728

Most Popular Tags

Style Credit

Expand Cut Tags

No cut tags
Page generated Apr. 19th, 2026 12:31 am
Powered by Dreamwidth Studios