beldmit: (Default)
[personal profile] beldmit
Несколько последних дней борюсь на работе фактически с вычислительной математикой.
Ценное наблюдение: для того, чтобы целый результат, не лезущий в 32 бита, влез в 64 без искажения, недостаточно объявить итоговый результат типом int64_t. Надо и (в моем случае) один из множителей тоже привести к этому типу.

Правда, проблемы и сомнения в полученных результатах все равно есть. Но самые сомнительные куски уже выкинуты.

Profile

beldmit: (Default)
Dmitry Belyavskiy

June 2026

S M T W T F S
 123456
7 8910111213
14151617181920
21222324252627
282930    

Most Popular Tags

Style Credit

Expand Cut Tags

No cut tags
Page generated Jun. 10th, 2026 09:18 am
Powered by Dreamwidth Studios