Cách Go xử lý yêu cầu đồng thời trên Google App Engine

Question

Tôi hơi bối rối về cách Go xử lý các yêu cầu đồng thời trên Google App Engine. Vì vậy, tôi hy vọng một người nào đó có thể cung cấp một số rõ ràng.

Dưới đây là những sự kiện mà tôi đã thu thập được:

1. Go là single ren trên App Engine. - this is because it is possible to do arbitrary pointer arithmetic by creating race conditions with multiple threads

2. Goroutines are multiplexed onto multiple OS threads so if one should block, such as while waiting for I/O, others continue to run.

3. [App Engine has a] 10 concurrent limit [which] is enforced through a limit on concurrent threads on every runtime. Most of such cases, our scheduler will try to spin up a new instance.

Nếu Go là single ren trên App Engine sau đó trỏ 3 là tranh luận. Điều này lá 1 và 2. Nếu Go trên App Engine là đơn luồng và chủ đề được yêu cầu để tiếp tục thực hiện trong khi chặn cho I/O, thì có vẻ như một phiên bản App Engine Go sẽ chặn tất cả các goroutines trong khi chờ I/O.

Điều này có đúng không? Nếu không đồng bộ của Go thực sự hoạt động như thế nào trên App Engine?

Để giúp định lượng mọi thứ. Nếu tôi giữ kết nối trong 30 giây. Làm thế nào có thể kết nối đồng thời có thể một AE Go duy nhất dụ duy trì?

Cảm ơn bạn.

EDIT: đây là yêu cầu tính năng sẽ cho phép Phiên bản đi xử lý nhiều hơn 10 yêu cầu đồng thời Allow configurable limit of concurrent requests per instance. Hãy gắn dấu sao cho nó.

Answer 1

Ví dụ về Máy ứng dụng Go cho phép 10 yêu cầu đồng thời, nhưng chỉ chạy một chuỗi CPU. Thực tế, nhiều yêu cầu có thể được xử lý đồng thời, nhưng chỉ một yêu cầu có thể thực hiện công việc CPU tại một thời điểm. Nếu một yêu cầu là, chờ đợi cho một cuộc gọi API kho dữ liệu để trả về, một yêu cầu khác là miễn phí để được xử lý bởi cùng một cá thể.

Tuyên bố của bạn "Nếu Go là chuỗi đơn trên App Engine thì điểm 3 là tranh luận". không đúng. Vẫn có giới hạn 10 yêu cầu trong chuyến bay đồng thời cho một phiên bản Go App Engine duy nhất. Các tài liệu là một chút lỏng lẻo với các từ khi nó nói về "chủ đề".

Answer 2

Tôi phải thừa nhận rằng tôi không có kiến ​​thức bên trong về AppEngine. Đây là tất cả suy đoán và đoán, nhưng tôi nghĩ nó có phần hợp lý.

Ứng dụng của bạn sẽ không bao giờ đạt đến giới hạn mười chuỗi. Điều này là do có rất ít lý do cho các chủ đề được tạo ra. Đầu tiên, số lượng goroutine tối đa chạy cùng một lúc được đặt thành một đến enforce memory safety. Thứ hai, không giống như một chương trình đi bình thường, công cụ ứng dụng không thực sự cần tạo các syscalls. Thời gian duy nhất nó là để kết nối mạng. Tất cả IO trong appengine có thể được kết hợp thành một chuỗi epoll. Điều này có nghĩa là tất cả những gì bạn cần là hai luồng tại bất kỳ thời điểm nào. Sau đó, bạn có thể thêm một chuỗi thứ ba hoặc thứ ba trong trường hợp mỗi lần bạn cần chạy các syscalls khác như phân bổ bộ nhớ và chấp nhận/đóng các kết nối. Đây là những syscalls nhanh chặn trong một khoảng thời gian rất ngắn. Ngay cả với các syscalls khác, bạn vẫn còn rất xa giới hạn mười sợi.

Đồng thời không bị ảnh hưởng bởi vì cuối cùng, mọi thứ bạn làm trong appengine đều đọng xuống để đợi thứ gì đó trên mạng quay trở lại. Bạn không cần nhiều luồng để làm nhiều việc cùng một lúc.