AI-AWS Amazon Bedrock初試體驗

試用限制多，未來可期，有很大進步空間

試用很多無法選用依照AWS的官方文件所述: Amazon Bedrock 是一項全受管服務，透過單一 API 以及建置生成式 AI 應用程式所需的各種廣泛功能，搭配安全、隱私與負責任的 AI，提供來自領先 AI 公司的各種高效能基礎模型 (FM) 選擇，例如 AI21 Labs、Anthropic、Cohere、Meta、Stability AI 和 Amazon。使用 Amazon Bedrock 時，您可以輕鬆實驗並評估您的使用案例適用的頂級 FM、使用微調和擷取增強產生 (RAG) 等技術私下加以自訂，以及建置使用您的企業系統和資料來源執行任務的代理程式。由於 Amazon Bedrock 是無伺服器的，因此您不必管理任何基礎設施，而且可以使用已熟悉的 AWS 服務，將生成式 AI 功能安全整合並部署至應用程式中。

可參考AWS官網的介紹: https://aws.amazon.com/tw/bedrock/?refid=c0acda64-df2a-4080-9d0d-938d8963b57d

因為試用期間只有1天，所以只能做快速的初步測試，首先就是要觀看試用條款並同意

進入後可以看到有支援的基礎模型，但實際試用可用的主要就2種: Amazon和Anthropic， "可請求"的部分看說明是要付費啟用，就不在本次試用範圍內

在模型存取權那邊可以查看到可用的狀況，

在使用相應模型的部分，會很貼心的告知你無法使用，必須要請求存取權

而 遊樂場 的部分，就類似我之前分享的ollama+open webui那篇文章那樣，調用模型的WebUI操作，

遊樂場有 聊天、文字、影像 3種可用

測試 聊天遊樂場

1.先選取模型:

如同上述，免費試用能用的有限，很多都是不可選的

2.使用AWS提供的範本測試

3.會生成出相應的結果

4.但用中文會產生亂碼異常

5.此外如果前面是中文回答而產生亂碼，會影響到下一個的提問，至於圖中日期的BUG待會就要提到

5.如果問比較及時的問題，它也無法正常回答，例如問今年是哪一年? 今天的日期?

可能是採用離線的模型且並未跟線上整合，導致我問今年(2024)卻回答2023的錯誤答案，而日期也是錯誤的為2023年

換了另一個家模型，也是一樣無法正常識別今年的日期

6.期望未來AWS能夠與線上整合，因為不論ChatGPT或是Copilot都是正常的識別今天日期

文字遊樂場的測試:

1.也是先選模型

一樣兩家中選一家的，因為免費試用的限制

2.這個好處會直接跟你說不支援較為即時的資料如現在的日期

3.使用AWS自帶的範本

4.可以正常分析結果

影像遊樂場的測試:

1.選取模型:

影像產生免費試用就只有一家模型能使用

2.一般古典通用的可以正常生成:

3.如果是關於流行部分可能就無法正常識別

4.此外有些無法正常識別的就會隨機產生圖，以及有限受限AWS AI政策也不允許生圖

因為免費試用的限制較多，有不少功能無法使用，所以感覺使用上沒有太多驚豔的地方，不過未來空間進步很大，未來可期