Cách tạo bộ nhớ cache trong node.js xử lý rõ ràng cho các yêu cầu trùng lặp đồng thời cho hoạt động liên kết CPU

Question

Vì vậy, nút hoạt động tốt với tôi. Tôi có một ứng dụng máy chủ rất cụ thể về cơ bản chấp nhận các yêu cầu để thực hiện một thủ tục cụ thể CPU-ràng buộc, và nó thực hiện một chương trình C để làm như vậy. Thing là, nếu tôi có nhiều khách hàng, rất có thể tôi sẽ nhận được nhiều phiên bản của cùng một yêu cầu. Nó sẽ là một tối ưu hóa tốt đẹp bằng cách nào đó xử lý một cách rõ ràng, bằng cách thực hiện một bộ nhớ cache với một cái gì đó của một khóa trên một khóa cụ thể, để các khách hàng khác sẽ đơn giản chờ đợi yêu cầu đó quay lại và sao chép phản hồi của nó.

Nhưng tôi mới làm quen với nút, vì vậy tôi không biết cách xử lý cơ chế này thành cơ chế xử lý yêu cầu bộ định tuyến nút cơ bản của tôi. Rõ ràng tôi có thể làm điều đó trong ngôn ngữ x sử dụng nguyên thủy cơ bản concurrency, nhưng tôi biết rằng nút là sự kiện theo định hướng và tôi nghĩ rằng điều này có thể được thực hiện khá thanh lịch trong một cách evented. Ý tưởng?

Answer 1

Trong thế giới phía máy khách của JavaScript, bạn thường lưu trữ các mục trong một mảng. Tôi cũng là một nút mới, vì vậy xin tha thứ nếu đây không phải là câu trả lời bạn đang tìm kiếm, nhưng nó đáng để thử.

Bạn có thể thiết lập một mảng trống khi máy chủ bắt đầu và lưu trữ kết quả bằng một băm đặc biệt của một số loại dựa trên yêu cầu nhận được. Điều này có vẻ như một giải pháp khả thi.

Ví dụ:

var http = require('http'); 
var cache = []; 
http.createServer(function (req, res) { 
    var obj; 
    if(!cache[key]) { 
     obj = .... // logic that gets results 
     cache[obj.key] = obj; 
    } else { 
     obj = cache[key]; 
    } 
}).listen(1337, "127.0.0.1"); 

Answer 2

Dễ dàng peasy .. Node.js là đơn luồng, do đó yêu cầu ràng buộc CPU đầu tiên đang chặn máy chủ anyway .. vì vậy hãy ghi nhớ kết quả. Về cơ bản, bạn thiết lập một băm với khóa được yêu cầu và trước khi gọi chương trình C, hãy kiểm tra hàm băm. Nếu nó ở đó, trả lại, bạn đang làm xong. Nếu không, hãy chạy chương trình C, dán kết quả vào băm tại khóa được yêu cầu trước khi trở về, rồi trả về.

Answer 3

Một số câu trả lời ở trên, nhưng không có câu nào thực sự xử lý yêu cầu paralel cho cùng một tài nguyên một cách chính xác.

Bạn không cần phải lo lắng về sự tương tranh khi kiểm tra khóa bộ nhớ cache, vì nút là môi trường một luồng. Tất cả các hành động của bạn thực sự là nguyên tử. Tuy nhiên, tất cả các hoạt động không đồng bộ trong nút sẽ khiến nó chấp nhận các yêu cầu tiếp theo. Vì vậy, bạn cần phải xử lý các yêu cầu trùng lặp đồng thời, tại đây được giải quyết với việc đăng ký người quan sát đến EventEmmiter:

var http = require('http'), EventEmitter = require('events').EventEmitter; 
var cache = {}; 

http.createServer(function (req, res) { 
    var key = someMagic(req), cached = cache[key]; // get some unique request identifier 

    if (!cached) { // if we've never seen this request before 
    cached = new EventEmitter(); // make this cache entry an event emitter 
    cached.status = 'running'; 
    handleAsyncRequest(function(result) { // your request handling is probably asynchronous, call this callback when you're done 
     cached.response = result; // memoize data 
     cached.status = 'finished'; 
     cached.emit('finished'); // notify all observers waiting for this request 
    }); 

    } else { 
    switch(cached.status) { // if existing request, check if it's still running or finished 
     case 'finished': 
     res.end(cached.response); // send cached response immediately if request has finished 
     break; 
     case 'running': 
     // subscribe as observer; send response when request is finished 
     cached.once('finished', function() { res.end(cached.response); }); 
     break; 
    } 
    } 
}).listen(1337, "127.0.0.1");