[python] chyba v kodu

Jan Kundrát jkt na gentoo.org
Čtvrtek Květen 3 18:12:24 CEST 2007


Radek Machulka wrote:
> Zkuste si to pro -5, 0 a 5 V a zjistite, ze nefunguje. Problem je, ze ve dvou 
> stejnych intervalech je ruzny rozsah hex cisel (tj. 8 neni pulka z f). Kvuli 
> tomu je tam ten ceil.
> Jinak nevim, co je mysleno tim "dostatecne dlouhy string" mozna, ze chyba bude 
> prave tam.

Ja zase nevim, co znamenaji "divne vysledky".

ceil() je predpokladam math.ceil().

Moje funkce dava hodnoty jine maximalne o jednicku, coz je IMHO pomerne 
presne. Pokud pouzijes hex(int(((inp + 5) / 10.0 * 0xffff))), dostavas 
velice podobne vysledky.

Takze jeste jednou, co je "divne"?

-jkt



Další informace o konferenci Python