Skip to main content

Command Palette

Search for a command to run...

AWS - 大規模從 S3 Glacier 復原回 Standard

工作經驗紀錄

Published

前言

最近工作上剛好遇到需求,需要將整批的物件從 S3 Glacier Deep Archive 中復原回 Standard。而這項操作需要用到兩項主要的服務:Inventory report 和 Batch operation。

先決條件

需要先到需要復原的物件的 Bucket 中設定 Inventory report,會需要在某個 S3 bucket 中存放 Inventory report,如果是要跨不同的 Bucket,可以考慮自己編寫。

然後因為會需要提供 IAM Role 給 Batch operation 做授權,所以寫需要建立一個有權限做存取 S3 的 IAM Role

操作執行

因為 Glacier 的 Storage class 是無法直接存取的,所以我們需要間執行 Restore 的操作。然後再依照 Inventory report 做 Copy 將這些檔案複製到 Standard 的 Storage class。

因此實際上會有兩個 Batch operation 的 Job 來執行:

  1. 建立 Job 執行 Restore(有分 Bulk 和 Standard,Bulk 比較慢最慢 48 小時,Standard 最慢 12 小時)
  2. 建立 Job 依照 Inventory report 將這些檔案複製到 Standard

後續注意

因為 Bucket 中 Inventory report 的設定會有 daily 和 weekly,如果只是要一次性的話記得關閉或刪除。因為他其實是用複製的,所以 Glacier 中封存的檔案還是存在(除非你指定複製的地點是原本的地方,那就會蓋過去)。再來要注意的就是時間了,光是 Restore 最快也是要等 12 小時。因此如果是想要封存但是至少一季內都還會用到的話,建議先到 Glacier Instant Retrieval 的層集就夠了,因為這樣不需要 Restore 即可存取。

Reference

More from this blog

如何開始入門軟體工程領域 - 名詞解釋(長期更新)

現在應該開始有很多人想要踏入軟體工程的領域,但在進入這個領域之前,覺得先了解一些名詞,可以在入門時更有方向也更知道要用什麼關鍵字去找尋有用的資訊。這篇文章就是想要幫助想要入門的人理解一些軟體工程裡的專有名詞。 作業系統 這一區塊主要解釋跟作業系統層面相關的名詞 英文中文解釋 Operation system 簡稱 OS | 作業系統 | 就是電腦的作業系統,是三大作業系統分別是:Linux、Windows、macOS | | Linux | | 自由和開放原始碼的 UNI...

May 10, 2023

我的 MacBook Pro (Apple Silicon) 設定

現在開始因為 ChatGPT 的出現,各種 AI 助手的功能都跑出來了。想想自己用了許久的環境設定也應該要來重新審視和建立新的開發環境了,僅此紀錄我個人的環境配置步驟和設定。 環境前置步驟 還原 MacBook Pro 至全新環境 macOS(全部資料刪除) 設定好初始設定後,登入 Apple ID 進入 App Store 確定 macOS 版本和預設 APP 都更新到最新 macOS 版本 到系統設定調整所有設定至個人習慣的設定 三指拖移 觸控板手勢開啟 防火牆開啟 輸入法設定...

Apr 25, 2023

ChatGPT 下的發展預想

從 ChatGPT 問世到現在,有許許多多的文章和討論出來。先從最早的 Google 要完蛋了,到後來的工作要被取代了,工程師失業了。 我就比較沒有想要馬上出來評論一下,我喜歡讓子彈飛一會兒。跟討論一下我自己比較在意的討論點。 Google 為什麼慢了? 結論:因為他需要更小心 很多人說 Google 怎麼被微軟搶先了一步。剛開始 Bing 說要加上 AI 的時候大家都在說 Google 怎麼慢了。我就馬上跑去看 OpenAI 的網站,靠北呀啊就 Azure 贊助的。那當然在正式上線 ChatG...

Mar 23, 2023

不工程的攻城獅

223 posts

I am not a programmer because I am not good at programming. But I do programming. Love to learn new things. An animal lover and a dancer. My oshi is 潤羽るしあ.