BC , bin ich etwa zu dumm ???

Dieses Thema im Forum "Linux-Distributionen" wurde erstellt von rapmaster, 28. Januar 2004.

Status des Themas:
Es sind keine weiteren Antworten möglich.
  1. rapmaster

    rapmaster Halbes Gigabyte

    Registriert seit:
    21. Juli 2002
    Beiträge:
    5.181
    10^5 = 100.000

    wie rede ich BC dazu auch negative exponente zu berechnen ?

    d.h.
    10 hoch minus 5

    wenn ich 10^-5 eingebe wird 0 ausgegeben, was allerdings nicht stimmt.

    mfg
     
  2. cirad

    cirad Kbyte

    Registriert seit:
    24. Februar 2001
    Beiträge:
    509
    Ohne Scale rechnet er auch richtig. (:

    # Nein, ich meinte schon genau das, was ich schrieb.
    1/10^-1 = 1/0
    Ist doch alles korrekt.

    # 10^-1 = 0,1, er rundet es ab auf 0
    Er teilt einfach ganzzahlig und mit scale > 0 schneidet er ab. Runden wäre komisch ...

    Und sobald man weiß, daß er per default ganzzahlig rechnet, kann man auch mein erstes Post vergessen. ;) Nix mit eindeutig Fehler, alles bestens. :)
     
  3. Bio-logisch

    Bio-logisch Halbes Megabyte

    Registriert seit:
    18. Februar 2002
    Beiträge:
    708
    Nein, ich meinte schon genau das, was ich schrieb.
    Anderes Beispiel:

    1/(10^-1)
    Runtime error (func=(main), adr=9): Divide by zero


    10^-1 = 0,1, er rundet es ab auf 0 und teilt dann 1 durch 0.

    Mit scale Rechnet er richtig:

    scale=10; 1/(10^-1)
    10.0000000000
     
  4. cirad

    cirad Kbyte

    Registriert seit:
    24. Februar 2001
    Beiträge:
    509
    @Bio-logisch:
    Du meinst vermutlich (1/10)^-1. Dann ist DivByZero korrekt.
    1/10 = 0
    0^-1 = 1/0

    @RapMaster:
    Besser als nix:
    scale=10; 10^-5
    .0000100000
     
  5. rapmaster

    rapmaster Halbes Gigabyte

    Registriert seit:
    21. Juli 2002
    Beiträge:
    5.181
    schade...
     
  6. Bio-logisch

    Bio-logisch Halbes Megabyte

    Registriert seit:
    18. Februar 2002
    Beiträge:
    708
    Ich hab noch mal etwas rumgespielt:

    1/10^-1
    Runtime error (func=(main), adr=9): Divide by zero (Obwohl es nach adam riese ja wieder 10 ist)

    Er weigert sich also tatsächlich mit Nachkommastellen zu rechnen.
     
  7. Bio-logisch

    Bio-logisch Halbes Megabyte

    Registriert seit:
    18. Februar 2002
    Beiträge:
    708
    1/10^5

    Aber da kommt auch null raus:
    Er rundet immer auf ganze Zahlen.

    Bei 1/10^0 gibt er korrekt 1 aus.

    Keine Ahnung, wie man das abstellen kann.
     
  8. rapmaster

    rapmaster Halbes Gigabyte

    Registriert seit:
    21. Juli 2002
    Beiträge:
    5.181
    nein ich will den rechenvorgang haben
     
  9. Bio-logisch

    Bio-logisch Halbes Megabyte

    Registriert seit:
    18. Februar 2002
    Beiträge:
    708
  10. rapmaster

    rapmaster Halbes Gigabyte

    Registriert seit:
    21. Juli 2002
    Beiträge:
    5.181
    wie heißt es eigentlich richtig?
     
  11. cirad

    cirad Kbyte

    Registriert seit:
    24. Februar 2001
    Beiträge:
    509
    Tja, wohl ziemlich eindeutig ein Fehler.
     
Status des Themas:
Es sind keine weiteren Antworten möglich.

Diese Seite empfehlen