beldmit: (Default)
[personal profile] beldmit
Несколько последних дней борюсь на работе фактически с вычислительной математикой.
Ценное наблюдение: для того, чтобы целый результат, не лезущий в 32 бита, влез в 64 без искажения, недостаточно объявить итоговый результат типом int64_t. Надо и (в моем случае) один из множителей тоже привести к этому типу.

Правда, проблемы и сомнения в полученных результатах все равно есть. Но самые сомнительные куски уже выкинуты.

Profile

beldmit: (Default)
Dmitry Belyavskiy

December 2025

S M T W T F S
 123456
78910111213
14151617181920
2122 2324252627
28293031   

Most Popular Tags

Style Credit

Expand Cut Tags

No cut tags
Page generated Dec. 29th, 2025 08:05 am
Powered by Dreamwidth Studios