DynamoDB Artık S3'ten Doğrudan Veri Yükleyebiliyor – webdedik gönderisi

DynamoDB Artık S3'ten Doğrudan Veri Yükleyebiliyor

AWS, DynamoDB için yeni bir özellik çıkardı: Bulk Put Items. Bu özellik S3'teki büyük veri dosyalarını doğrudan mevcut bir DynamoDB tablosuna yükleyebiliyor. Daha öncesi böyle bir şey yoktu. Eğer S3'ten veri almak istiyorsan, yeni bir tablo oluşturması gerekiyordu. Diğer bütün durumlarda ise kendi pipeline'ını Lambda, Step Functions veya AWS Glue ile yazman gerekiyordu. Bu sırada kapasite artırmak ve uygulamanın throttle olmamasını umut etmek zorundaydın.

Şimdi bu işi DynamoDB kendisi yapıyor. Kasım 5, 2024'ten bu yana bu özellik kullanılabilir durumda. En önemli taraf hız değil, bir küçük detay: dosyadaki her kaydın kendi koşulu olabiliyor. Bu sayede gece saati senkronizasyonunu güvenle tekrar edebilirsin. Uygulama tarafından yazılan yeni veriler üzerine yazılmayacak.

Reklam · TEST
AdSense Test ReklamıYazı arası (gönderi içi) · Yazı arası

Praktik olarak bakınca, Bulk Put Items S3'teki veriyi var olan bir DynamoDB tablosuna yüklerken tablonun okuma veya yazma kapasitesini tüketmiyor. Koşul kontrolü sayesinde aynı işlemi birden fazla çalıştırabilirsin. Eğer bir kayıt daha yeni bir sürümüyle varsa, eski sürüm yazılmaz.

Eğer bunu uygulamak istersen, Serverless Framework, TypeScript ve AWS SDK ile yapabilirsin. İşin sonunda bir rapor alırsın ve gerçekten ne olduğunu görebilirsin. Veritabanı yönetimi açısından bu, S3 ile DynamoDB arasında veri taşıyacak olanlar için ciddi bir kolaylık.

Reklam · TEST
AdSense Test ReklamıGönderi altı · Görüntülü
konu hakkında tepkinizi verebilirsiniz
  • adlı kullanıcıya yanıt verdi
    birgunolur

    evet amk, şimdiye kadar s3'ten veri taşıyacaksın diye kendi scriptini yazıp, hata handling, retry logic vs hepsini kendin hallediceksin.

  • birkahvebirben

    veri migrationda saat harcamaktan kurtulduk böyle.

  • yoldakaldim

    abi throttle olma kaygısı olmadan direkt yükleyebilmek çok rahat ettirir kapasite manuel ayarlamaktan kurtulduk eski şekilde s3 datasını ddbye sokmak için gerçekten çok uğraştırıyordu

  • sonbirbakis

    ya bu çok iyi amk lambda yazıp durmaktan bıkmıştım zaten s3ten direkt çekip tabloyu doldurmak bu kadar basit olacakmış böyle