Suchen:

Art: Beiträge; Benutzer: tsseh

Suchen: Die Suche dauerte 0,05 Sekunden.

  1. Antworten
    42
    Hits
    5.053

    [DISKUSSION] AW: Richtig runden.

    6 ist doch richtig für 32 bit.

    std::numeric_limits::digits10 - cppreference.com


    damit sind es 6.92 für 32 und 15.65 für 64 bit.



    du musst wissen, welche genauigkeit benötigt wird.
  2. Antworten
    42
    Hits
    5.053

    [DISKUSSION] AW: Richtig runden.

    in c ist das genauso wie in perl wie in irgendetwas anderem. maximal kann ich mich in c entscheiden 32 Bit oder 64 Bit darstellung zu nehmen. irgendeine andere sprache hat vielleicht noch 128 Bit...
  3. Antworten
    42
    Hits
    5.053

    [DISKUSSION] AW: Richtig runden.

    ja, hast ja gerade eine neue angefangen.


    man weiß, wann man gleitkommazahlen hat und wann nicht. in nicht typisierten sprachen nicht so eindeutig, aber wenn man .57 * 100 schreibt weiß man, daß...
  4. Antworten
    42
    Hits
    5.053

    [DISKUSSION] AW: Richtig runden.

    dann müsste aber DBL_DIG aber 15 sein und FLT_DIG 7
    und perl nutzt doch sicher auch double, oder? damit hat man wider min. 15 unterscheidbare ziffern und print müsste 56.999999.. anzeigen.
  5. Antworten
    42
    Hits
    5.053

    [DISKUSSION] AW: Richtig runden.

    eigentlich nicht, wir haben nie 0.57. wenn aber doch, warum nehmen wir nicht die 2 stellen nach dem "."?



    ja und was soll das sein? woher soll print wissen, in welcher genauigkeit du den wert...
  6. Antworten
    42
    Hits
    5.053

    [DISKUSSION] AW: Richtig runden.

    da kommst du über eine Kettenbruchentwicklung hin. musst du aber nicht, da geld keine 0.57 € kennt sondern nur 0 € 57 cent.



    my $a = .57*100;
    printf "%.16f", $a;
  7. Antworten
    42
    Hits
    5.053

    [DISKUSSION] AW: Richtig runden.

    nein ist es nicht! bei (57 *100)/100 ist es das erwartete Ergebnis


    nein, 56.999999999999995115018691649311222136020660400390625 == 57 schlägt fehl


    das .57 als 64-Bit Gleitkommazahl...
  8. Antworten
    42
    Hits
    5.053

    [DISKUSSION] AW: Richtig runden.

    du arbeitest ja nicht mit ganzzahlen. dein problem ist ja nicht die multiplikation, sondern .57.



    http://www.youtube.com/watch?v=tPfnEByx9r0



    das ist sprachunabhängig
  9. Antworten
    42
    Hits
    5.053

    [DISKUSSION] AW: Richtig runden.

    Das hat aber nichts mit JS zu tun. das ist so definiert in allen Sprachen! http://de.wikipedia.org/wiki/IEEE_754
    Ich wüsste jetzt auch keine Sprache, die von Hause aus mehr als 64-Bit...
Ergebnis 1 bis 9 von 9