Day 2ですね。Day 2のKeynoteはもちろん赤シャツことScott Guthrie氏から。
まずは昨日のおさらい。Copilot Stackに沿ってAI関連主軸にいろいろありました。今日は開発者向けの話ですね。
3本の柱、Visual Studio、GitHub、Copilot Studio。GitHubはGitHub Copilot WorkspaceがPreviewです。GitHub Copilotと一緒にIssueをレビューしたりコードを修正したりPRの文章を生成したりとか。
次はアプリを動かすサービスについて。いろんな言語、いろんなプラットフォームでエンタープライズグレードを。
AKSもたくさんアップデートありました。
.NET AspireはGA。GitHub Copilot for AzureもPreviewです。GitHub CopilotがAzureについても助けてくれます。@azure コマンドで自身のAzureリソースを参照しながら問い合わせたり、CLIを実行してリソースをデプロイしたりとか。
次はCopilot Studio。デモではWebサイト上のチャット部分で顧客（Webサイトの利用者）が問い合わせたりするやつ。月額使用料が記載された文書をアップロードするとAIが理解してコスト削減を提案してくれたり。
そのチャット部分の裏側はCopilot Studioで作ってる。いろんなナレッジソースと接続したり、とても沢山のアクションを選択して処理したり。
ワークフローの中でも大事なTopicについて。Copilotがトリガーしたり。そうやってフローをWebサイトやTeamsといったチャンネルで使えるように構成したり。というのをCopilot Studioでできます。
MicrosoftはAzure AIで動く。事前学習済みモデルとかSaaS系はAzure AI services、学習させたりモデルをカスタマイズしたりはAzure Machine Learning、それから責任あるAIツール、それらをまとめてAzure AI Studioで。GPT-4oもGAしましたね。
Azure OpenAI Batch Serviceもアナウンス。24時間のジョブでまとめて50％ディスカウントとか。それからSLMなPhi-3。
OpenAIのモデル以外にもたくさんのモデルがサービスとして実行できるようになってます。Azure AI Searchも追加コストなしでパフォーマンス向上とか量子化とかいろいろ嬉しいアップデートが直近ありました。Azure AI StudioもGAですね。
デモはすっかりAIなSeth氏。Azure AI Studioのモデルカタログには1667のもモデルが今時点で登録されてたり。
チャットのプレイグラウンドで画像も対象にできる。
プロンプトをファイルとしてPythonスクリプトとして保存もできます。DBからデータをとってきて処理するとかもしやすいですね。テレメトリを出力させることでCI/CDでテストして結果がどれだけ実データに基づいてるか判断したりもしやすいし、テレメトリをAzure Monitorで見たりもできます。
次は責任あるAI Innovation。設計段階から各スタックを保護するようにしてる。アプリ内のモデルやデータ、システムをビルトインのセキュリティとセーフティで保護。インプットのプロンプトシールドやアウトプットのチェック、違反かどうかのテストなどもバッチで行えます。比較も容易ですね。Content Safetyを組み込んだアプリでは脱獄しようとしたプロンプトを弾けるし、ダッシュボードで状況を把握できます。
昨日カスタムカテゴリーもでました。データのガバナンスについてはMicrosoft Purviewとか、プラットフォーム的にはDefender for Cloudとかですね。というわけで全部の部分で保護できます。
次はデータ関連。データはAIを動かす燃料。Microsoft Intelligent Data Platformとしてデータストアなどもいろいろあります。Azure DatabasesにCopilot関連機能がたくさん。Cosmos DB for NoSQLでもDiskANNを使ったベクター検索がPreview。
Database for PostgreSQLはAI拡張がGAしたのと、In-databaseでのAI機能がPreview。Microsoft FabricはリアルタイムIntelligenceがアナウンスされました。
IoT Hubといったストリーミングデータに接続してFabricで処理するのもすぐできそう。
Fabric Workload Development KitもPreviewですね。
OneLakeはオープンなフォーマットのデータレイク。1コピーでマルチクラウド。FabricやDatabricksとの連携なども。Azure DatabricksではMosaic AI Vector SearchがGAしたりFabricといっしょにUnityカタログ統合できたり。Snowflakeとも連携が始まるようです。フォーマットとしてApache Icebergもサポートです。
デモ動画はSnowflakeとの連携ですね。
さてCopilot stackに戻ってきて。それらを支えるAzureインフラの話ですね。60以上のリージョンに来年にはゼロカーボン達成。各業界向けCloudもあるしCopilot stack全部を保護できる。
セキュリティ6本の柱のうち今日は2本について（他は昨日か）。セキュリティはチームスポーツ。去年も見たけど被害額がでかい。国家的アクターなMidnight Blizzardによる攻撃の話。これらの脅威からどうやって保護するのか。みんなコード上に秘密を保持しすぎ。（some secretsの内容によりそうだけど）
Expanding Microsoft’s Secure Future Initiative (SFI) | Microsoft Security Blog
国家的アクター Midnight Blizzard による攻撃後のマイクロソフトのアクションに関する最新情報 | MSRC Blog | Microsoft Security Response Center
エンジニアリングシステムを保護する。セキュリティファーストなマインドセットで取り組もう。
という感じで2日目キーノートでした。
ブチザッキ 