日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當(dāng)前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

马逊s3云存储接口_使用 Amazon S3 云服务轻松实现存储

發(fā)布時(shí)間:2024/9/30 编程问答 31 豆豆
生活随笔 收集整理的這篇文章主要介紹了 马逊s3云存储接口_使用 Amazon S3 云服务轻松实现存储 小編覺得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.

Amazon Simple Storage Service (S3) 是一個(gè)公開的服務(wù),Web 應(yīng)用程序開發(fā)人員可以使用它存儲(chǔ)數(shù)字資產(chǎn),包括圖片、視頻、音樂和文檔。 S3 提供一個(gè) RESTful API 以編程方式實(shí)現(xiàn)與該服務(wù)的交互。通過本文,您將了解如何使用開源的 JetS3t 庫利用 Amazon 的 S3 云服務(wù)存儲(chǔ)和檢索數(shù)據(jù)。

簡介

云是一個(gè)抽象的概念,表示松散連接在一起的計(jì)算機(jī)組,這些計(jì)算機(jī)共同執(zhí)行某項(xiàng)任務(wù)或者服務(wù),就像是使用一個(gè)單獨(dú)的實(shí)體完成一樣。此概念背后的架構(gòu)也很抽象:每個(gè)云提供者都可以根據(jù)各自情況隨意設(shè)計(jì)它的產(chǎn)品。軟件即服務(wù)(Software as a Service,SaaS)是一個(gè)與云相關(guān)的概念,表示云向用戶提供某種服務(wù)。云模型可以降低用戶成本,因?yàn)樗麄儫o需購買軟件和硬件也可以運(yùn)行 — 服務(wù)提供者已經(jīng)為用戶提供了必要的組件。

以 Amazon 的 S3 產(chǎn)品為例。顧名思義,這是一個(gè)公開的服務(wù),使 Web 開發(fā)人員能夠存儲(chǔ)數(shù)字資產(chǎn)(如圖片、視頻、音樂和文檔等),以便在應(yīng)用程序中使用。使用 S3 時(shí),它就像一個(gè)位于 Internet 的機(jī)器,有一個(gè)包含數(shù)字資產(chǎn)的硬盤驅(qū)動(dòng)。實(shí)際上,它涉及到許多機(jī)器(位于各個(gè)地理位置),其中包含數(shù)字資產(chǎn)(或者數(shù)字資產(chǎn)的某些部分)。 Amazon 還處理所有復(fù)雜的服務(wù)請(qǐng)求,可以存儲(chǔ)數(shù)據(jù)并檢索數(shù)據(jù)。您只需要付少量的費(fèi)用(大約每月 15 美分 /GB)就可以在 Amazon 的服務(wù)器上存儲(chǔ)數(shù)據(jù),1 美元即可通過 Amazon 服務(wù)器傳輸數(shù)據(jù)。

Amazon 的 S3 服務(wù)沒有重復(fù)開發(fā),它公開了 RESTful API,使您能夠使用任何支持 HTTP 通信的語言訪問 S3 。 JetS3t 項(xiàng)目是一個(gè)開源 Java 庫,可以抽象出使用 S3 的 RESTful API 的細(xì)節(jié),將 API 公開為常見的 Java 方法和類。編寫的代碼越少越好,難道不是嗎?充分利用其他人的成果也是不錯(cuò)的。在本文中您將看到,JetS3t 使 S3 和 Java 語言的工作變得更加簡單,從根本上提高了效率。

S3 概述

理論上,S3 是一個(gè)全球存儲(chǔ)區(qū)域網(wǎng)絡(luò) (SAN),它表現(xiàn)為一個(gè)超大的硬盤,您可以在其中存儲(chǔ)和檢索數(shù)字資產(chǎn)。但是,從技術(shù)上講,Amazon 的架構(gòu)有一些不同。您通過 S3 存儲(chǔ)和檢索的資產(chǎn)被稱為對(duì)象。對(duì)象存儲(chǔ)在存儲(chǔ)段(bucket)中。您可以用硬盤進(jìn)行類比:對(duì)象就像是文件,存儲(chǔ)段就像是文件夾(或目錄)。與硬盤一樣,對(duì)象和存儲(chǔ)段也可以通過統(tǒng)一資源標(biāo)識(shí)符(Uniform Resource Identifier,URI)查找。

例如,在我的硬盤中,我有一個(gè)名為 whitepaper.pdf的文件,它位于主目錄中名為 documents的文件夾中.相應(yīng)的,該pdf文件的URI:/home/aglover/documents/whitepaper.pdf 。在 S3 中,URI 有一點(diǎn)不同。首先,存儲(chǔ)段只能是頂級(jí)的 — 無法像嵌套硬盤中的文件夾(或目錄)一樣進(jìn)行嵌套。其次,存儲(chǔ)段必須遵循 Internet 命名法則;句點(diǎn)旁邊沒有斜杠,名稱不包括下劃線等等。最后,由于存儲(chǔ)段名稱已經(jīng)是 Amazon 域內(nèi)的 (s3.amazonaws.com) 公共 URI 的一部分,存儲(chǔ)段名稱必須在所有 S3 中是惟一的。(好消息是每個(gè)帳戶只能包含 100 個(gè)存儲(chǔ)段,因此不用擔(dān)心別人占用了所有的好名字)。

DNS 魔術(shù)

不用擔(dān)心 S3 資產(chǎn)的 URL 。通過 Domain Name System (DNS) 和 CNAME(canonical name的縮寫)記錄,您可以將自定義程度更高的 URL 映射到 S3 的 URL 。這樣一來,您就隱藏了您(或您的應(yīng)用程序)依賴 S3 的事實(shí)!

存儲(chǔ)段在 S3 中是 URI 的根。也就是說,存儲(chǔ)段的名稱將是指向 S3 中某個(gè)對(duì)象的 URI 的一部分。例如,如果我有一個(gè)名為 agdocs 的存儲(chǔ)段以及一個(gè)名為 whitepaper.pdf 的對(duì)象,URI 將是:http://agdocs.s3.amazonaws.com/whitepaper.pdf 。

S3 還提供了指定存儲(chǔ)段和對(duì)象的所有者和權(quán)限的能力,就像對(duì)待硬件的文件和文件夾一樣。在 S3 中定義對(duì)象或存儲(chǔ)段時(shí),您可以指定一個(gè)訪問控制策略,注明誰可以訪問您的 S3 資產(chǎn)以及如何訪問(例如,讀和寫權(quán)限)。相應(yīng)地,您可以通過許多方式提供對(duì)您的對(duì)象的訪問,使用 RESTful API 只是其中一種。

開始使用 S3 和 JetS3t

要開始使用 S3,您需要一個(gè)帳戶。 S3 不是免費(fèi)的,因此在創(chuàng)建帳戶時(shí)您必須向 Amazon 提供一種支付手段(比如信用卡號(hào)碼)。不用擔(dān)心 — 不收初裝費(fèi);您只需要為使用付費(fèi)。對(duì)于本文的示例,只需要支付不到 1 美元的費(fèi)用。

在創(chuàng)建帳戶的過程中,您還需要?jiǎng)?chuàng)建憑據(jù):訪問密鑰和秘密密鑰(就像用戶名和密碼)。(您還可以獲取 x.509 證書;但是,只有在使用 Amazon 的 SOAP API 時(shí)才需要使用該證書)。和任何訪問信息一樣,都必須保管好您的秘密密鑰。因?yàn)槿魏稳耸褂媚膽{據(jù)訪問 S3 時(shí),您都將為此付費(fèi)。因此,每當(dāng)創(chuàng)建存儲(chǔ)段或?qū)ο髸r(shí),默認(rèn)的行為是讓所有內(nèi)容都私有;您必須顯式獲取對(duì)外部世界的訪問。

有了訪問密鑰和秘密密鑰,您可以下載 JetS3t并使用它通過 RESTful API 與 S3 交互。

使用編程手段通過 JetS3t 登錄 S3 可以分為兩步。首先,必須創(chuàng)建一個(gè) AWSCredentials 對(duì)象,然后將它傳遞到 S3Service 對(duì)象。AWSCredentials 對(duì)象非常簡單。它將訪問密鑰和秘密密鑰視為 String。S3Service 對(duì)象實(shí)際上是一個(gè)接口類型。因?yàn)?S3 同時(shí)提供 RESTful API 和一個(gè) SOAP API,JetS3t 庫可以提供兩種實(shí)現(xiàn)類型:RestS3Service 和 SoapS3Service。就本文而言(包括大部分 S3 事務(wù)),RESTful API 的簡潔性讓它成為一個(gè)很好的選擇。

創(chuàng)建一個(gè)連接的 RestS3Service 實(shí)例很簡單,如清單 1 所示:

清單 1. 創(chuàng)建一個(gè) JetS3t 的 RestS3Service 實(shí)例

def awsAccessKey = "blahblah" def awsSecretKey = "blah-blah" def awsCredentials = new AWSCredentials(awsAccessKey, awsSecretKey) def s3Service = new RestS3Service(awsCredentials)

現(xiàn)在可以執(zhí)行一些有趣的操作了:例如,創(chuàng)建存儲(chǔ)段、添加一個(gè)影片,然后獲取一個(gè)有時(shí)間限制的 URL 。實(shí)際上,這聽起來像一個(gè)業(yè)務(wù)流程,不是嗎?這是一個(gè)與發(fā)布有限資產(chǎn)(比如影片)有關(guān)的業(yè)務(wù)流程。

創(chuàng)建存儲(chǔ)段

對(duì)于虛構(gòu)的電影業(yè)務(wù),我將創(chuàng)建一個(gè)稱為 bc50i 的存儲(chǔ)段。借助 JetS3t,該流程很簡單。通過 S3Service 類型,您有幾個(gè)選項(xiàng)。我更喜歡使用 getOrCreateBucket 調(diào)用,如清單 2 所示。顧名思義,調(diào)用該方法可能返回一個(gè)存儲(chǔ)段實(shí)例(表示為 S3Bucket 類型的實(shí)例)或在 S3 中創(chuàng)建代碼段。

清單 2. 在 S3 服務(wù)器上創(chuàng)建存儲(chǔ)段

def bucket = s3Service.getOrCreateBucket("bc50i")

不要被我這個(gè)簡單的代碼示例所蒙蔽。 JetS3t 庫的擴(kuò)展性非常強(qiáng)。例如,您可以快速確定擁有多少存儲(chǔ)段 —— 只需通過 listAllBuckets 調(diào)用請(qǐng)求一個(gè) S3Service 實(shí)例即可。該方法返回一個(gè) S3Bucket 實(shí)例數(shù)組。對(duì)于任何存儲(chǔ)段實(shí)例,您可以詢問它的名稱和創(chuàng)建日期。更重要的是,您可以通過 JetS3t 的 AccessControlList 類型控制與之相關(guān)的權(quán)限。例如,我可以獲取 bc50i 存儲(chǔ)段實(shí)例,并允許任何人可以公開讀取和編寫,如清單 3 所示:

清單 3. 修改存儲(chǔ)段的訪問控制列表

def bucket.acl = AccessControlList.REST_CANNED_PUBLIC_READ_WRITE

當(dāng)然,通過 API,您也可以隨意刪除存儲(chǔ)段。 Amazon 甚至允許您指定創(chuàng)建存儲(chǔ)段的地理位置。 Amazon 簡化了存儲(chǔ)實(shí)際數(shù)據(jù)的復(fù)雜性,但是您可以告訴 Amazon 要將存儲(chǔ)段(及其內(nèi)部所有的對(duì)象)放在美國或歐洲(當(dāng)前可用選項(xiàng))。

向存儲(chǔ)段添加對(duì)象

使用 JetS3t 的 API 創(chuàng)建 S3 對(duì)象就像操作存儲(chǔ)段一樣簡單。 JetS3t 庫也很智能,可以負(fù)責(zé)處理與 S3 存儲(chǔ)段內(nèi)文件相關(guān)的內(nèi)容類型。例如,我想向 S3 上傳一段影片 nerfwars2.mp4,以便用戶能夠在有限的時(shí)間內(nèi)觀看。創(chuàng)建一個(gè) S3 對(duì)象與創(chuàng)建常見的 java.io.File 類型一樣簡單,并能將 S3Object 類型與存儲(chǔ)段關(guān)聯(lián),如清單 4 所示:

清單 4. 創(chuàng)建一個(gè) S3 對(duì)象

def s3obj = new S3Object(bucket, new File("/path/to/nerfwars2.mp4"))

使用文件和存儲(chǔ)段初始化 S3Object 之后,要做的所有事情就是通過 putObject 方法上傳,如清單 5 所示:

清單 5. 上傳影片

s3Service.putObject(bucket, s3obj)

使用清單 5 可以完成上傳。現(xiàn)在影片位于 Amazon 服務(wù)器了,影片的鍵就是它的名稱。當(dāng)然,您可以根據(jù)需要重寫該名稱以調(diào)用其他對(duì)象。實(shí)際上,JetS3t API(以及 Amazon S3 RESTful API)公開了許多信息,供您創(chuàng)建對(duì)象時(shí)使用。我們知道,您還可以提供訪問控制列表。 S3 中的任何對(duì)象都可以保存 API 允許您創(chuàng)建的其他元數(shù)據(jù)。之后可以通過該元數(shù)據(jù)的 S3 API(以及派生的 JetS3t)查詢?nèi)魏螌?duì)象。

創(chuàng)建對(duì)象的 URL

到現(xiàn)在為止,我的 S3 實(shí)例有一個(gè)包含影片的存儲(chǔ)段。實(shí)際上,我的影片可以通過以下 URI 獲取:http://bc50i.s3.amazonaws.com/nerfwars2.mp4 。但是,只有我才能獲取。(在本例中,我只能通過編程方式訪問它,因?yàn)榕c所有內(nèi)容關(guān)聯(lián)的默認(rèn)訪問控制被設(shè)置為拒絕任何未授權(quán)訪問)。我的目的是為選擇的用戶提供一種方式查看新影片(在有限的時(shí)間內(nèi)),直到我開始收取訪問費(fèi)用(S3 也會(huì)提供幫助)。

圖 1 展示了默認(rèn)的訪問控制。返回的 XML 文檔(相應(yīng)地顯示在我的瀏覽器中)告訴我對(duì)當(dāng)前資產(chǎn)的訪問被拒絕(http://bc50i.s3.amazonaws.com/nerfwars2.mp4)。

創(chuàng)建一個(gè)公共 URL 是 S3 提供的一個(gè)便捷功能;實(shí)際上,使用 S3,您可以創(chuàng)建一個(gè)公共 URL,但只在一段時(shí)間內(nèi)有效(例如,24 小時(shí)內(nèi))。對(duì)于我剛剛存儲(chǔ)在 S3 服務(wù)器上的影片,我將創(chuàng)建一個(gè) 48 小時(shí)內(nèi)有效的 URL 。然后我將向選定的用戶提供該 URL,以便他們下載并觀看(假定他們?cè)趦商靸?nèi)下載)。

要?jiǎng)?chuàng)建一個(gè)針對(duì)S3對(duì)象的時(shí)間敏感型URL,您可以使用JetS3t的createSignedGetUrl方法,這是一個(gè)S3Service 類型的靜態(tài)方法。該方法采用一個(gè)存儲(chǔ)段名稱、一個(gè)對(duì)象鍵(在本例中是影片名,還記得嗎?)、一些憑證(以 JetS3t 的 AWSCredentials 對(duì)象的形式)、截止日期。如果您了解所需的存儲(chǔ)段和對(duì)象鍵,則可以通過清單 6 中的 Groovy 代碼快速獲取 URL:

清單 6. 創(chuàng)建一個(gè)時(shí)間敏感型 URL

def now = new Date() def url = S3Service.createSignedGetUrl( bucket.getName(), s3obj.key, awsCredentials, now + 2)

使用 Groovy,我可以通過 + 2 語法輕松指定一個(gè) 48 小時(shí)的限定日期。得到的 URL 如下所示(只有一行):

https://bc50i.s3.amazonaws.com/nerfwars2.mp4?AWSAccessKeyId= 1asd06A5MR2&Expires=1234738280&Signature=rZvk8Gkms%3D

現(xiàn)在,通過該 URL,可以在瀏覽器中獲得圖 2 所示的內(nèi)容:

圖 2. 用于下載的 URL

這個(gè)過程是不是很簡單?通過幾行代碼,我在云中創(chuàng)建了一個(gè)安全資產(chǎn),該資產(chǎn)只能通過特殊的 URL 下載。

利用 S3 完成時(shí)間敏感型下載

如果您的帶寬和存儲(chǔ)需求不穩(wěn)定,則 S3 能提供很多幫助。例如,想想我演示的業(yè)務(wù)模型 — 影片在一年中特定的時(shí)間發(fā)布。在傳統(tǒng)的存儲(chǔ)模型中,您需要在某處機(jī)架上購買許多空間(或提供通向它的硬件和管道),很可能下載量很大,但隨后會(huì)相對(duì)降低。但是,您不能根據(jù)需要付費(fèi)。使用 S3,該模型將根據(jù)需要付費(fèi) — 公司僅在需要時(shí)為存儲(chǔ)和帶寬付費(fèi)。更重要的是,S3 的安全特性可以幫助您進(jìn)一步指定人們何時(shí)可以下載視頻,甚至可以指定誰可以下載。

使用 S3 實(shí)現(xiàn)這些需求非常容易。在高水平上,創(chuàng)建一個(gè)受限的影片公共下載需要 4 個(gè)步驟:

  • 登錄 S3 。
  • 創(chuàng)建存儲(chǔ)段。
  • 向存儲(chǔ)段添加所需的視頻(或?qū)ο?。
  • 創(chuàng)建一個(gè)指向該視頻的時(shí)間敏感型 URL 。
  • 就是這樣!

    結(jié)束語

    與傳統(tǒng)存儲(chǔ)模型相比,S3 的隨需付費(fèi)模型有很多明顯的優(yōu)勢。例如,在自己的硬盤上存儲(chǔ)音樂收藏,我必須預(yù)先花 130 美元購買一個(gè) 500GB 的存儲(chǔ)單元。我沒有 500GB 的數(shù)據(jù)可以存儲(chǔ),因此我為自己不需要的空間花費(fèi)了 25 美分 /GB(雖然很便宜)。我還需要維護(hù)設(shè)備并支付電費(fèi)。如果我使用 Amazon,我不需要預(yù)先為不重要的資產(chǎn)支付 130 美元。我只需要支付 10 美分 /GB,無需為管理和維護(hù)存儲(chǔ)硬件付費(fèi)。現(xiàn)在想想在整個(gè)企業(yè)范圍內(nèi)實(shí)現(xiàn)這些服務(wù)的好處。以 Twitter 為例,在 S3 上為 100 萬個(gè)用戶帳戶存儲(chǔ)圖片。通過按照使用付費(fèi)的方式,Twitter 不需要花費(fèi)大量資金購買硬件基礎(chǔ)設(shè)施來存儲(chǔ)和提供圖片服務(wù),也不需要支出人力和部件成本來配置和維護(hù)圖片。

    云的好處還不止這些。您還可以實(shí)現(xiàn)低延遲和高可用性。假設(shè)存儲(chǔ)在 Amazon 云中的資產(chǎn)遍布全世界,那么為各個(gè)位置提供內(nèi)容的速度將會(huì)更快。更重要的是,由于您的資產(chǎn)分布在各種機(jī)器上,您的數(shù)據(jù)在一些機(jī)器(或部分網(wǎng)絡(luò))癱瘓時(shí)也能保持高可用性。

    一言以蔽之,Amazon S3 的好處很簡單:低成本、高可用性、安全。除非您是一個(gè) SAN 專家,喜歡維護(hù)硬件資產(chǎn)來存儲(chǔ)數(shù)據(jù)內(nèi)容,但是 Amazon 可能比您做的更好。在資金緊張的時(shí)候,為什么還要將自己的資金提前預(yù)支在硬件上呢(不要忘了,硬件會(huì)隨時(shí)間貶值)?

    更多關(guān)于云的知識(shí)和產(chǎn)品請(qǐng)到縱橫數(shù)據(jù)官網(wǎng)上了解www.zoneidc.com

    總結(jié)

    以上是生活随笔為你收集整理的马逊s3云存储接口_使用 Amazon S3 云服务轻松实现存储的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。

    如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò),歡迎將生活随笔推薦給好友。