Microsoft Ignite 2023 Day 2 – Microsoft Cloud in the era of AI

Scott Guthrie氏のセッション「Microsoft Cloud in the era of AI」です。

Microsoft Cloud in the era of AI

今日のトピックはこれ。

最初はDeveloper Tools。Developer ToolsのくくりでPower Platformも入ってるのが印象的ですね。Visual

Studioの話もそこそこにGitHub Copilotの紹介から。

Power Platform方面ではMicrosoft Copilot Studioの話を。デモではMicrosoft Teamsの会話プラグインを作ったり。トリガーされたら回答を生成するアクションを追加してSharePointなどから回答を得るのに加えてAzure OpenAIを使うのもできます。発行するとすぐ使える状態に。SAPとの連携も簡単。Power Virtual AgentsがMicrosoft Copilot Studioに統合されたみたいなのでそちらを触ってたらなじみ深いかも。

次はアプリケーションプラットフォームですね。LEGOがAKS使ってる感じの事例。AKSはFleet Managerがでたりいろいろアップデートが多かったですね。

Data Platform。扱うためのプロダクトなりが多すぎる。CIOはChief Integration Officerじゃないってね。Microsoft Intelligent Data Platformでそのあたりを解決したい。

AI時代のクラウドデータベース。Cosmos DBの話から。ChatGPTの裏側でも使われてます。

Microsoft Fabric。こちらはAI時代のデータ分析。OneLakeに集約・入口化していける。まだGAじゃなかったという感じですがMicrosoft FabricもGA。Copilot in Microsoft Fabricもアナウンスされました。ミラーリングもアナウンス。ミラーリングすることでSnowflakeやSQL Database、Cosmos DBのデータを直接触れる感じですね。データをレプリケーションしたりETLする必要がない。あとはFabric内で分析したり可視化したり。Copilotも使えます。

Microsoft Fabric内でMicrosoft Purview hubも。ガバナンスを効かせることができます。Databricksとの連携もCEO自らデモ。セマンティック検索もありますね。アシスタントも。チャットでクエリ作ってもらって実行みたいな。PDFアップロードしてチャンキングしてベクターストアに保存、検索も。RAGがさっとできてました。

最後はAIプラットフォーム。GPT-4 Turbo、DALL·E3、GPT-4Vもくるのがアナウンスされてました。モデルをサービスのようにデプロイする機能もきますね。

Groundingには大事な自分自身のデータとプライバシーの保護。CCC（顧客を著作権侵害訴訟から保護したりするコミットメント）もAzure OpenAI Serviceまで強化されました。

Azure AI StudioでAzure上のいろんなAI関連機能をまとめて管理。Cognitive SearchあらためAzure AI Searchのベクター検索もGAですね。Fine-tuningモデルでGPT-3.5 TurboやGPT-4もきます。

Seth氏も最近はめっきりAIな感じの人ですね。きれいなサイトだけど注意点とかわかりにくいところをチャットで聞いたり。ページ内リンクついてるのもよさそうですね。

Azure AI StudioからIndexを作ってChat部分もさっと作ってデプロイと。

GPT-4Vなデモですね。カメラで靴を見せて質問もしてチャットで回答もらうデモ。裏はPrompt Flowを使ってる。画像も返せます。デプロイするときのエンドポイントもトラフィック振り分けたりとかもOK。

Azure Content SafetyもGA。
Screenshot_2023_11_17-146

Azure AI Studio上のプレイグラウンドでプロンプトインジェクションとかから保護するデモ。コンテンツフィルターに追加でジャイルブレイクなども保護できるオプションが増えました。

メタプロンプトテンプレートがPreview。AIの挙動を評価したり正確性を評価するためのプロンプトのテンプレートですかね。デモではジャイルブレイクできてるかどうかを評価してる。

最後はインフラ。Microsoft Azure MaiaやCobaltといったカスタムチップも提供始めてますね。どこでもエンタープライズなワークロードを。Azure Arcもクラウドに適応させるアプローチでいろいろ機能追加を。VMware vSphereサポートやAzure IoT Operationsなど。