Tại sao (int) (33.46639 * 1000000) trả lại 33466389?

Question

(int)(33.46639 * 1000000) trả về 33466389

Tại sao điều này xảy ra?

Answer 1

Toán học dấu chấm động không hoàn hảo. What every programmer should know về nó.

Số học dấu chấm động được coi là chủ đề bí truyền của nhiều người. Điều này khá đáng ngạc nhiên vì dấu phẩy động là phổ biến trong các hệ thống máy tính. Hầu như mọi ngôn ngữ đều có kiểu dữ liệu dấu phẩy động; máy tính từ máy tính đến siêu máy tính có máy gia tốc điểm nổi; hầu hết các trình biên dịch sẽ được gọi để biên dịch các thuật toán dấu phẩy động theo thời gian; và hầu như mọi hệ điều hành đều phải trả lời các ngoại lệ dấu phẩy động như tràn. Bài báo này trình bày một hướng dẫn về các khía cạnh của dấu phẩy động có ảnh hưởng trực tiếp đến các nhà thiết kế hệ thống máy tính. Nó bắt đầu với nền tảng trên biểu diễn dấu chấm động và lỗi làm tròn, tiếp tục với một cuộc thảo luận về tiêu chuẩn điểm nổi IEEE, và kết luận với nhiều ví dụ về cách các nhà xây dựng máy tính có thể hỗ trợ tốt hơn dấu phẩy động.

...

Nặn vô cùng nhiều số thực thành một số hữu hạn các bit yêu cầu một đại diện tương đối. Mặc dù có vô số số nguyên, trong hầu hết các chương trình, kết quả của phép tính nguyên có thể được lưu trữ trong 32 bit. Ngược lại, với bất kỳ số bit cố định nào, hầu hết các phép tính với số thực sẽ tạo ra các đại lượng không thể được biểu diễn chính xác bằng cách sử dụng nhiều bit đó. Do đó, kết quả của phép tính dấu chấm động thường phải được làm tròn để phù hợp với biểu diễn hữu hạn của nó. Lỗi làm tròn này là tính năng đặc trưng của tính toán dấu phẩy động.

Answer 2

độ chính xác kép không phải là chính xác, vì vậy nội 33,46639 là thực sự được lưu trữ như 33,466389

Edit: Theo Richard nói, nó nổi dữ liệu điểm, (được lưu trữ trong hệ nhị phân trong một tập hữu hạn các bit) vì vậy nó không chính xác điều đó) ....

Answer 3

Lý do bạn nhận được một kết quả khác nhau là một thực tế mà bạn sử dụng một 'đúc'

 
(int)(33.46639 * 1000000) returns 33466389 
^^^^^ 

bỏ kết quả vào một loại 'int' ... mà một trong hai làm tròn lên hoặc xuống các loại tích phân khi nhân với nhau và sau đó chuyển đổi thành 'int' .... không dựa vào điểm nổi đủ chính xác .... Skeet đăng một giới thiệu tuyệt vời trên trang web của mình here và here ...

Answer 4

Nếu bạn hỏi tại sao nó không trở thành 33466390, bởi vì double s không có độ chính xác vô hạn và số không thể được biểu thị chính xác theo dạng nhị phân.

Nếu bạn thay thế double với một decimal ((int)(33.46639m * 1000000)), nó được tính bằng 33466390, vì decimal s được tính theo cơ sở 10

Answer 5

Lý do là 33,46639 sẽ được biểu diễn như một cái gì đó hơi ít hơn con số đó .

Nhân với 1000000 sẽ cung cấp cho bạn 33466389.99999999.

Nhập-đúc bằng (int) sau đó sẽ chỉ trả về phần nguyên (33466389).

Nếu bạn muốn số "đúng", hãy thử làm tròn() trước khi nhập.

Answer 6

Vì không thể diễn tả chính xác 33.46639 trong một số hữu hạn số nhị phân. Kết quả thực tế của 33.46639 * 1000000 là 33466389.9999999962747097015380859375. Các diễn viên cắt ngắn nó để 33466389.

Answer 7

Đó là đêm giao thừa năm mới vào cuối năm 1994. Andy Grove, Giám đốc điều hành của Intel, đã ra một năm tuyệt vời, những gì với bộ vi xử lý Pentium sắp ra và là một hit lớn. Vì vậy, anh bước vào một quán bar và yêu cầu một cú đúp của Johnnie Walker Green Label.

Người phục vụ phục vụ và nói, "đó sẽ là $ 20, thưa ngài."

Grove đặt một hóa đơn hai mươi đô la trên quầy, nhìn vào nó một lúc, và nói, "giữ sự thay đổi."

http://en.wikipedia.org/wiki/Pentium_FDIV_bug