Comment avoir un resultat exact sans arrondissement

  • pourquoi il y un arrondissement dans le résultat de retour, car j'obtiens un accumule d'erreur inacceptable après l'utilisation de SUM,

    ce qui suit est un exemple, vous pouvez l'exécutez pour voir la diff!!

    est ce qu'il a pas moyen d'avoir la valeur exacte au moins 14 chiffres après virgule.

    declare @col1 INT

    declare @col2 INT

    declare @expCol3 decimal(38,18)

    set @col1=98277

    set @col2=98137

    set @expCol3=0.367806473829296

    select cast(@col1 as float)*@col2*@expCol3

    select 98277.0*98137*0.367806473829296

Viewing 2 posts - 1 through 1 (of 1 total)

You must be logged in to reply to this topic. Login to reply