Luồng không khí và Nifi có thực hiện cùng một công việc trên luồng công việc không? Các pro/con cho mỗi một là gì? Tôi cần đọc một số tệp json, thêm siêu dữ liệu tùy chỉnh khác vào nó và đặt nó vào hàng đợi Kafka để được xử lý. Tôi đã có thể làm điều đó ở Nifi. Tôi vẫn đang làm việc trên luồng không khí. Tôi đang cố gắng chọn công cụ quy trình làm việc tốt nhất cho dự án của tôi Cảm ơn bạn!Luồng khí Airbnb và Apache Nifi
8
A
Trả lời
7
Để có cái nhìn vĩ đại của Airflow và Apache NiFi thanh toán reddit này bài: https://www.reddit.com/r/bigdata/comments/51mgk6/comparing_airbnb_airflow_and_apache_nifi/
Đối với trường hợp sử dụng cụ thể của bạn nuốt file Json, làm phong phú thêm cho họ và định tuyến họ Kafka Tôi tin NiFi là công cụ phù hợp cho việc làm. Một vài bộ xử lý bạn có khả năng có thể sử dụng, cũng như tài liệu hướng dẫn cho mỗi, là dưới đây:
JoltTransformJSON: https://nifi.apache.org/docs/nifi-docs/components/org.apache.nifi.processors.standard.JoltTransformJSON/index.html
PublishKafka (hoặc PublishKafka_0_10 tùy thuộc vào phiên bản của bạn): https://nifi.apache.org/docs/nifi-docs/components/org.apache.nifi.processors.kafka.pubsub.PublishKafka/index.html
Các vấn đề liên quan
- 1. Cài đặt luồng không khí cho tính khả dụng cao
- 2. Làm rõ chèn lấp luồng không khí
- 3. Sự khác biệt giữa Nifi và Mini NiFi (MiNiFi)
- 4. Apache NiFi: Chuyển đổi JSONtoSQL (Cơ sở dữ liệu Oracle)
- 5. Luồng không khí: thay đổi thời gian crontab cho một DAG trong luồng không khí
- 6. Luồng không khí: cách xóa DAG?
- 7. Trường hợp sử dụng NIFI
- 8. Làm cách nào để xóa các thẻ mẫu mặc định trong luồng không khí
- 9. Chạy tập lệnh R trong luồng không khí?
- 10. Airflow: mô hình để chạy luồng không khí subdag lần
- 11. Luồng không khí: PythonOperator: tại sao bao gồm 'ds' arg?
- 12. Xóa nhật ký tác vụ Luồng không khí
- 13. Cách sử dụng các luồng không khí xcom với MySqlOperator
- 14. luồng không khí khởi động thất bại do gunicorn
- 15. Làm thế nào để cài đặt luồng không khí?
- 16. Đa luồng với Apache DBCP
- 17. Luồng không khí: Cách SSH và chạy BashOperator từ một máy chủ khác nhau
- 18. Sự khác nhau giữa quy tắc kích hoạt luồng không khí "all_done" và "all_success" là gì?
- 19. TemplateNotFound khi sử dụng PostgresOperator của luồng không khí với khuôn mẫu Jinja và SQL
- 20. Xử lý đa luồng Apache Camel
- 21. NoSQL và dữ liệu khí tượng
- 22. Setters và thu khí trong C++
- 23. Cấu hình ESLint của Prettier + Airbnb
- 24. Cách lấy khóa API cho Airbnb
- 25. Apache NiFi ExecuteScript: Tập lệnh Groovy để thay thế các giá trị Json thông qua một tệp ánh xạ
- 26. Phản ứng Linter proptypes Airbnb mảng
- 27. Kích hoạt luồng khí DAG từ thiết bị đầu cuối không hoạt động
- 28. Làm thế nào để chạy mã Spark trong luồng không khí?
- 29. Làm thế nào để ngăn chặn luồng không khí từ chạy dag lấp đầy?
- 30. Tác vụ luồng không khí bị kẹt ở trạng thái "xếp hàng" và không bao giờ chạy