[elektro-etc] Ámítástechnika , oh!

[Gabor Ambruzs]

Matlab-simulinkben futottam egyszer bele abba hogy
2!=1.9999999999999999999999. Pár orát debugoltunk mire leesett a
tantusz...... Bement egy dobozba a majdnem 2 az meg hülyeségeket csinált.
Nagyon nem mindegy hogy valami int vagy float....
2015.04.24. 19:38 ezt írta ("Karoly Kovacs" <koka55 at gmx.at>):

> A lebegőpontos aritmetika szokott ilyen tréfákat csinálni.
> Na meg az, amikor a programoló számítástechnikai ismeretei - hogy is
> mondjam, szóval tudjátok. :)
>
> Aranyos pl., amikor be kell fizetni 0,0001 Ft-ot.
>
> Komolyra fordítva: néhány esetben nem is olyan egyszerű az aritmetikát úgy
> "irányítani", hogy értelmes eredmény jöjjön ki.
>
> Károly
>
> Pataki István wrote:
>
>>
>> Kaptam a matávtól egy levelet. Be is szkennelhettem volna, de talán a
>> lényeget egy sima idézet is hozza:
>>
>> "A Műszaki rendszer felújítása a jelzett két nap egyikén az Ön telefon
>> és ISDN szolgáltatásának működésében egyszeri, 4,00000000000001 óra
>> időtartamú kiesésével járhat."
>>
>> De nem a ragozás egyeztetésének hiányán akadtam fenn:). Azt már
>> mexoktam, hogy (még az a múlt rendszerben, amikor 25% volt a sarc)
>> 2400Ft-ra 600,01Ft volt az áfa, és rendesen ott is szerepelt az összeg
>> mint 3000,01Ft. El nem tudom találni, miféle programnyelvi sajátosság
>> eredményezi az ilyen apróságokat, de nem volt még olyan számlám, ahol a
>> kalkulátor minden tételre ugyanannyit hozott volna ki. Többnyire
>> filléres eltérésekről van szó, de nekem akkor is érthetetlen.
>>
>> pi
>>
>>
>