[elektro-etc] Ámítástechnika , oh!

[Pataki István]

Persze nem vagyok szoftveres, meglehet azért nem értem a dolgot, de a 
legpiszlicsárébb programomban is egy csomó időt eltöltöttem azzal, hogy 
a humán interfész ne mutasson marhaságot. Nem érdekel, hogy 
tizenakárhány tizedesre dolgozik, az csak azért van, hogy a kerekítés 
meg a formattálás után normális képe és a kijelzésnek megfelelő 
pontossága legyen az eredménynek. És főleg ne maradjon benne olyan, hogy 
ha összeadom az oszlopokat kalkulátorral, akkor más eredmény jöjjön ki, 
mint ami a vonal alá van írva.

Mivel ilyet a "nagy" szolgáltatóknál tapasztaltam, az a gyanú alakult ki 
bennem, hogy ennek valami közös oka lehet, például ugyanazt a rendszert 
használják.

pi


----- Original Message ----- 
From: "Gabor Ambruzs" <gabor.ambruzs at gmail.com>
To: <elektro-etc at tesla.hu>
Sent: Saturday, April 25, 2015 9:08 AM
Subject: Re: [elektro-etc] Ámítástechnika , oh!


Matlab-simulinkben futottam egyszer bele abba hogy
2!=1.9999999999999999999999. Pár orát debugoltunk mire leesett a
tantusz...... Bement egy dobozba a majdnem 2 az meg hülyeségeket 
csinált.
Nagyon nem mindegy hogy valami int vagy float....
2015.04.24. 19:38 ezt írta ("Karoly Kovacs" <koka55 at gmx.at>):

> A lebegőpontos aritmetika szokott ilyen tréfákat csinálni.
> Na meg az, amikor a programoló számítástechnikai ismeretei - hogy is
> mondjam, szóval tudjátok. :)
>
> Aranyos pl., amikor be kell fizetni 0,0001 Ft-ot.
>
> Komolyra fordítva: néhány esetben nem is olyan egyszerű az aritmetikát 
> úgy
> "irányítani", hogy értelmes eredmény jöjjön ki.
>
> Károly
>
> Pataki István wrote:
>
>>
>> Kaptam a matávtól egy levelet. Be is szkennelhettem volna, de talán a
>> lényeget egy sima idézet is hozza:
>>
>> "A Műszaki rendszer felújítása a jelzett két nap egyikén az Ön 
>> telefon
>> és ISDN szolgáltatásának működésében egyszeri, 4,00000000000001 óra
>> időtartamú kiesésével járhat."
>>
>> De nem a ragozás egyeztetésének hiányán akadtam fenn:). Azt már
>> mexoktam, hogy (még az a múlt rendszerben, amikor 25% volt a sarc)
>> 2400Ft-ra 600,01Ft volt az áfa, és rendesen ott is szerepelt az 
>> összeg
>> mint 3000,01Ft. El nem tudom találni, miféle programnyelvi sajátosság
>> eredményezi az ilyen apróságokat, de nem volt még olyan számlám, ahol 
>> a
>> kalkulátor minden tételre ugyanannyit hozott volna ki. Többnyire
>> filléres eltérésekről van szó, de nekem akkor is érthetetlen.
>>
>> pi
>>
>>
>