C# Math.Có lỗi hay không?

Question

Tôi không biết tại sao Trần hoạt động như thế nào trong hình ảnh bên dưới

Tại sao chế biếnFee! = Cài đặt.PaymentProcessingFeeInPercentage * awardsSum?

View image at full size

alt text http://img514.imageshack.us/img514/3950/csharpceilingproblem.png

Answer 1

tỷ lệ phần trăm của bạn không phải là thực 0,05. Đó là một giá trị đóng thành 0,05 ... và có thể nhiều hơn một chút so với 0,05. Vì vậy, khi nó được nhân với 2600, bạn đang nhận được một giá trị chỉ hơn 130.0 ... mà sau đó được "trần" để 131.0.

Sử dụng một công cụ nhỏ tôi đã viết cách đây một thời gian (có sẵn từ this page về các loại điểm nổi nhị phân .NET) có vẻ như giá trị thực tế là float gần 0,05 nhất là 0,0500000007450580596923828125. Để tăng gấp đôi, đó là 0,05000000000000000277555756156289135105907917022705078125.

Đạo đức của câu chuyện: không sử dụng float cho loại điều này - sử dụng decimal. Hoặc nếu bạn chỉ đang cố gắng đại diện cho một tỷ lệ phần trăm, nếu nó là okay để thực sự chỉ chính xác đến một phần trăm, sử dụng một giá trị số nguyên 0-100.

Answer 2

Đây là một kết quả của các đại diện dấu chấm động của những con số liên quan. See the wikipedia. Có lẽ 0.05 có vô hạn đại diện cơ sở 2 là một đôi, do đó Math.Ceiling giá trị thực sự nhìn thấy có thể là hơi lớn hơn 130.

Answer 3

Bạn đang nhìn thấy floatng điểm không chính xác.
Các thực tế cơ sở-2 đại diện của 0.05 là nhiều hơn một chút nhỏ hơn 0.05, vì vậy sản phẩm là nhiều hơn một chút nhỏ hơn 130.0.
Do đó, Math.Ceiling đang làm tròn.

Thay đổi float s và double s thành decimal.

Answer 4

Điều này là do định dạng bộ nhớ trong cho số dấu phẩy động vốn không chính xác khi số được biểu diễn bằng số thập phân. Có rất nhiều, nhiều câu hỏi về điều này trên Stack Overflow.

Số bạn đang trở về có lẽ là một cái gì đó giống như 130,000000000000001 kể từ khi các con số trong tính toán của bạn không thể được đại diện chính xác như một số dấu chấm động nhị phân.

Answer 5

IMHO, đây có thể là điều cần làm với độ chính xác của dấu phẩy động. Nói cách khác, 2600 × 0,05 cho 130,0000 ... 001 thay vì 130.

Nếu bạn cố gắng làm tròn kết quả trước, hãy gọi Math.Ceiling?

Answer 6

Trong trình biên dịch của tôi, khi tôi tra cứu giá trị nhân, nó nói 130.00000193715096, do đó kết quả math.ceiling là ok. Vấn đề là độ chính xác giới hạn của kiểu dữ liệu float.

Hãy thử sử dụng 'double' thay thế, nếu có thể.

Answer 7

Nếu bạn sử dụng số dấu phẩy động trong một hoạt động ngân hàng lớn, đừng để tôi làm nổi tiền của tôi trong ngân hàng của bạn.Sử dụng số thập phân hoặc số nguyên của mẫu số chung nhỏ nhất, tức là xu.

Tuy nhiên, bạn có thể sử dụng Math.Round để giúp bạn sử dụng double s hoặc float s, nếu bạn đưa ra các giả định về mức độ tính toán của bạn. tức là:

double processingFee = Math.Ceiling(Math.Round( 
    Settings.PaymentProcessingFeeInPercentage * prizesSum, 2));