Amazon Bedrockの導入効果をレビューでご紹介(kaacun)

一大トレンドである生成AI技術を活用して自社プロダクトを開発したいと考えており、OpenAI系の生成AIサービスを活用していましたが、ありきたりなチャットボット等はいくつか開発していたものの、ユニークな独自プロダクトの創出にはまだ漕ぎつけられていない状況でした。

また、エンタープライズ環境で求められる「プライベートなネットワークに閉じたセキュアな生成AIアプリケーション」の構築に対応するクラウドとしてMicrosoft Azureが検討に入っていましたが、社内ではAWSを用いた開発に慣れているエンジニアが多く、学習コストや環境準備などに少しハードルを感じておりました。

1. 比較した軸・比較する際に重要視していた点

トレンド性の高い生成AI技術をエンジニアがスピーディに活用しプロダクトへ組み込める点

2. 決め手となったポイント

AWSのクラウドサービスを使い慣れたエンジニアが多く、またスピーディな開発に便利なマネージドサービスのラインナップが豊富なことから、AWS上で利用できるAmazon Bedrockの採用に至りました。
下記2点がAmazon Bedrockの採用の決め手になりました。
　　・AWSのクラウドサービスを使い慣れたエンジニアが多かった点
　　・スピーディな開発に便利なマネージドサービスのラインナップが豊富だった点

Amazon Bedrockを導入後、既存エンジニアのAWSスキルセットをそのまま活かし、サービスデザインから開発まで、わずか1ヶ月の期間で生成AI技術を活用したセキュアなプロトタイプアプリケーションを完成させることができました。

AWSで生成AI機能が使えることで、AWS Amplifyといった素早くアプリケーションをデプロイするためのサービスと組み合わせることにより、トレンド性の高い生成AIアプリケーションをホットなうちに開発成功させ、プレスリリース等で対外PRにも役立てることができました。

事前のユーザーヒアリングで「OpenAIのGPTシリーズに比べて後発ということもあり、言語モデルの賢さで劣るのではないかという懸念がある」というコメントを複数もらい、なぜOpenAI（on Microsoft Azure）ではなくBedrock（on AWS）なのか？という点の説得に苦労しました。

■Amazon Bedrockを使用する中で失敗したエピソード

Webアプリケーションの処理にAmazon BedrockのClaudeモデル呼び出しを組み込んだところ、まとまった量のテキスト生成に30秒程度かかり、これがちょうどAWS AppSyncのタイムアウト時間（30秒）を超えてしまうことがあるという課題がありました。この対策として、前述したような「LLM呼び出し処理の非同期化」を工夫することで回避しました。

私も競合のAzure OpenAI Serviceを用いた生成AIアプリケーション開発を含め経験しましたが、やはりAmazon Bedrockの良さはAWSというプラットフォームが使えることそのものが大きなメリットだと感じます。BedrockのGA以降、数多くのユーザーによる登壇やブログ等のアウトプットが盛んに行われており調べ物もしやすいです。
またAgents for Bedrockのように大手クラウドサービスとして先発となるマネージドサービスのローンチも進んでおり、いよいよAWSの追い上げも本格的になって実用性が日に日に増しています。すでにAWSで開発しているプロダクトへトレンドの生成AI機能を組み込みたい方や、AWSエンジニアの豊富な組織では是非Amazon Bedrockの活用を検討してみてください。