Программистское
Aug. 27th, 2004 07:55 pm![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
beldmitНесколько последних дней борюсь на работе фактически с вычислительной математикой.
Ценное наблюдение: для того, чтобы целый результат, не лезущий в 32 бита, влез в 64 без искажения, недостаточно объявить итоговый результат типом int64_t. Надо и (в моем случае) один из множителей тоже привести к этому типу.
Правда, проблемы и сомнения в полученных результатах все равно есть. Но самые сомнительные куски уже выкинуты.
Ценное наблюдение: для того, чтобы целый результат, не лезущий в 32 бита, влез в 64 без искажения, недостаточно объявить итоговый результат типом int64_t. Надо и (в моем случае) один из множителей тоже привести к этому типу.
Правда, проблемы и сомнения в полученных результатах все равно есть. Но самые сомнительные куски уже выкинуты.
![[identity profile]](https://www.dreamwidth.org/img/silk/identity/openid.png){kind=small}
no subject
Date: 2004-08-27 10:53 am (UTC)Именно
Date: 2004-08-27 11:06 am (UTC)Re: Именно
Date: 2004-08-27 11:16 am (UTC)Re: Именно
Date: 2004-08-27 11:40 am (UTC)Свалиться на меня можно будет не раньше 7-8 сентября скорее всего - до того почти все расписано.
no subject
Date: 2004-08-27 03:30 pm (UTC)Ее еще можно купить?
Date: 2004-08-27 08:44 pm (UTC)Спасибо за информацию!
Re: Ее еще можно купить?
Date: 2004-08-28 07:33 am (UTC)http://hackersdelight.org/basics.pdf
есть в интернет-магазинах:
http://books.dore.ru/bs/f1bid1464.html
я ее покупал в "Москве", но тогда она была последняя.
Купил
Date: 2004-09-14 12:18 pm (UTC)