אפאצ'י קפקא

תווכה מוכוונת מסרים

אפאצ'י קפקא היא פלטפורמת תוכנה לעיבודזרם נתונים (stream processing) קוד פתוח המפותחת במסגרת קרן התוכנה אפאצ'י ונכתבת בשפות Scala ו -Java. הפרויקט נועד לספק פלטפורמה אחודה, עם תפוקה גבוהה וזמני השהיה קצרים לטיפול בזרם נתונים בזמן אמת. שכבת האחסון היא בעצם "תור הודעות גדול ממדים בתבנית עיצוב יצרן-צרכן (Pub/Sub) עם ארכיטקטורה מבוזרת ניתנת להגדלה (scalable), הפועל כלוג (יומן מקוון) של טרנזאקציות"[1] ובכך מהווה תשתית יעילה עבור ארגונים גדולים לעיבוד נתונים. בנוסף, קפקא מתחבר למערכות חיצונית עבור ייבוא/ייצוא של נתוינים באמצעות Kafka Connect ומגדיר לשימוש זרמי נתונים  Kafka Streams כספריית עיבוד נתונים בשפת Java.

אפאצ'י קפקא
Apache Kafka
מפתח קרן התוכנה אפאצ'י, LinkedIn עריכת הנתון בוויקינתונים
מחזור חיים 7 בנובמבר 2010 – הווה (14 שנים) עריכת הנתון בוויקינתונים
גרסה אחרונה 3.9.0 (6 בנובמבר 2024) עריכת הנתון בוויקינתונים
מערכת הפעלה חוצה-פלטפורמות עריכת הנתון בוויקינתונים
נכתבה בשפות Java, Scala עריכת הנתון בוויקינתונים
סוג רישיון אפאצ'י 2.0, רישיון אפאצ'י עריכת הנתון בוויקינתונים
קוד מקור
kafka.apache.org
לעריכה בוויקינתונים שמשמש מקור לחלק מהמידע בתבנית
ארכיטקטורת אשכול של קפקא

עיצוב הפלטפורמה מושפע מאוד ממימושי Transaction log הקיימים במערכות DBMS.[2]

שימושים בתעשייה

להלן רשימה של ארגונים בולטים המשתמשים בקפקא:

הערות שוליים

  1. ^ Monitoring Kafka performance metrics, Datadog Engineering Blog, accessed 23 May 2016/
  2. ^ The Log: What every software engineer should know about real-time data's unifying abstraction, LinkedIn Engineering Blog, accessed 5 May 2014
  3. ^ "Exchange Market Data Streaming with Kafka". betsandbits.com. אורכב מ-המקור ב-2016-05-28. {{cite web}}: פרמטר לא ידוע |deadurl= (הצעה: |url-status=) (עזרה)
  4. ^ "OpenSOC: An Open Commitment to Security". Cisco blog. נבדק ב-2016-02-03.
  5. ^ "More data, more data".
  6. ^ "Conviva home page". Conviva. 2017-02-28. נבדק ב-2017-05-16.
  7. ^ Doyung Yoon. "S2Graph : A Large-Scale Graph Database with HBase".
  8. ^ "Kafka Usage in Ebay Communications Delivery Pipeline".
  9. ^ "Cryptography and Protocols in Hyperledger Fabric" (PDF). בינואר 2017. נבדק ב-2017-05-05. {{cite web}}: (עזרה)
  10. ^ "Kafka at HubSpot: Critical Consumer Metrics".
  11. ^ Cheolsoo Park and Ashwin Shankar. "Netflix: Integrating Spark at Petabyte Scale".
  12. ^ Boerge Svingen. "Publishing with Apache Kafka at The New York Times". נבדק ב-2017-09-19.
  13. ^ Shibi Sudhakaran of PayPal. "PayPal: Creating a Central Data Backbone: Couchbase Server to Kafka to Hadoop and Back (talk at Couchbase Connect 2015)". Couchbase. נבדק ב-2016-02-03.
  14. ^ "Shopify - Sarama is a Go library for Apache Kafka".
  15. ^ Josh Baer. "How Apache Drives Spotify's Music Recommendations".
  16. ^ Patrick Hechinger. "CTOs to Know: Meet Ticketmaster's Jody Mulkey".
  17. ^ "Stream Processing in Uber". InfoQ. נבדק ב-2015-12-06.
  18. ^ "Apache Kafka for Item Setup". medium.com. נבדק ב-2017-06-12. {{cite web}}: תבנית ציטוט כוללת פרמטר ריק לא ידוע: |1= (עזרה)
  19. ^ "Streaming Messages from Kafka into Redshift in near Real-Time". Yelp. נבדק ב-2017-07-19. {{cite web}}: תבנית ציטוט כוללת פרמטר ריק לא ידוע: |1= (עזרה)