![•システム構築のプロセス評価、改善、策定、開発フレームワークの設計
、実装管理、プリセールスやプロジェクトの立ち上げなど
•ブログ ：http://blog.processtune.com
•プロフィール ：Tetsuro Takao on
Facebook, Twitter or http://mvp.microsoft.com
•コミュニティ ：.NETラボの運営スタッフ
https://dotnetlab.connpass.com/
•Microsoft MVP ：Developer Technologies
[July 2010 – June 2024]](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
Recommended
Recommended
More Related Content
What's hot
What's hot (20)
Similar to Implementation Approach of Artifical Intelligence
Similar to Implementation Approach of Artifical Intelligence (20)
More from Takao Tetsuro
More from Takao Tetsuro (20)
Implementation Approach of Artifical Intelligence
- 2. •システム構築のプロセス評価、改善、策定、開発フレームワークの設計 、実装管理、プリセールスやプロジェクトの立ち上げなど •ブログ ：http://blog.processtune.com •プロフィール ：Tetsuro Takao on Facebook, Twitter or http://mvp.microsoft.com •コミュニティ ：.NETラボの運営スタッフ https://dotnetlab.connpass.com/ •Microsoft MVP ：Developer Technologies [July 2010 – June 2024]
- 3. Phi-2：27億 基盤モデル Microsoft Prometheus（GPT-4）：1兆 for Bing AI ? Copilot：数十億 特化型モデル Bing Chat Copilot：17億 Microsoft & NVIDIA Megatron-Turing NLG：5,300億 Microsoft Turing NLG：170億 基盤モデル Microsoft Research Data&AI 「如何に広範な選択肢の中から解を生成できるか」 ≠「推論演算が速い」、「省電力で計算を行う」 計算に必要な電力が小さく、推論演算が速いものの 生成される解は限られた範囲の属性から生成する特化型AI。 AGI Artificial General Intelligence AIオーケストレーションにより人間の思考に近づくことが目的 AIの限界を超えることが目的（2023年時点でベビーAGIと言われている） MAI multimodal Artifical Intelligence サイバーエージェント：130億 広告クリエイティブ制作領域のサービス サイバーエージェント日本語LLM：68億 Llama 2：70億/130億/700億 基盤モデル GPT-4：1兆7,600億 基盤モデル GPT-5：17兆? (GPT3x100) 基盤モデル Google PaLM2：3,400億 内部文書リークなので不明 テクニカルレポートでは PaLM 2-L（Unicorn）：3,400億 PaLM 2-M（Bison）： 1470億 PaLM 2-S（Gecko）：300億程度 Google FLAN-UL5：500億 FLAN-UL2：200億 Google Pathways：5,400億 Claude 2：520億 基盤モデル BloombergGPT：500億 Finance AWS Titan Foundation Model：1,000億 Amazon「Olympus」：2兆 for Alexa ? Amazon Alexa model：200億 AWS Titan Foundation Model IBM日本語LLM：80億 IBM Granite：130億 基盤モデル IBM watsonx Code Assistant for Z：200億 115言語対応（段階的なCobol to Java可能） Oracle Text Embeddings：3億5,500万 Oracle Text Generation：520億 Oracle Text Summarization： 520億 大規模化 特化 Gemini Ultra：5,400億 Gemini Pro：600億 Gemini Nano-1：18億 Gemini Nano-2：32.5億
- 5. AppleはAIビデオ圧縮のスタートアップ企業WaveOneの買収をはじめ、 元GoogleのHead of searchのJohn Giannandreaの採用などAIに投資しています。 同じくGoogleはGoogle PhotosでスタートしたMagic EraserをMagic Editorに引き上げたことを23年のGoogle IOで発表し、G3チップはすでにPixel 8に搭載されています。 AI AI AI 会話のリアルタイム翻訳 メールの要約 カンファレンスのTranscript生成 写真の編集 撮影のアシスト IDが必要 インターネット通信が必要 コンピューティング能力に依存 https://blog.google/products/photos/google-photos-magic-editor-pixel-io-2023/ Magic Editor in Google Photos Apple unveils M3, M3 Pro, and M3 Max https://www.apple.com/newsroom/2023/10/apple-unveils-m3-m3-pro-and-m3- max-the-most-advanced-chips-for-a-personal-computer/ Google Tensor G3 https://blog.google/products/pixel/google-tensor-g3-pixel-8/
- 6. 出典：生成AIに“視覚”与える学習ライブラリ、自動運転EVベンチャー公開 最大700億パラメータの学習済みモデルも https://www.itmedia.co.jp/news/articles/2309/07/news175.html Prompt Llama 2-chat （Meta） ELYZA-Llama 2 （ELYZA） Japanese StableLM （Stability AI Japan） OpenLenda （Turing） RAG? 映像 信号機認識モデル タスク特化型モデル タスク特化型モデル タスク特化型モデル 道路状況を言語化 装置をオペレーション 装置をオペレーション 装置をオペレーション 言語による命令 自動運転 重要なポイント：企業における有用なMultimodal AIは、小型なタスク特化型 のモデルのコラボレーションによって組織のビジネス独自のAIを知財化していくこと。
- 7. 対話型ロボット、画像生成など、ひとりの人間が思いつかない事柄を提供し、視野 の拡張による生産性の向上が期待できる（≒人智を超える可能性に」警告） AIプロバイダーが膨大な電力を使って事前学習させたモデルを使って（必要に応じ て組み合わせて）組織独自のナレッジを管理する（企業戦略の補助） 本来AIで実装する意味が無い事柄 （インターネットで検索できる知識、 誰もができる作業の自動化）を迅 速に解決するので、人員削減に利 用される。つまり、最終的には淘汰 される人間が増えるだけで、その効 率化は果たして意味があるのかどう か？を議論中 その企業の“イズム”に合致した資料、 コンプライアンスなどと現代のパラダイ ムやバズワードから解を生成 （RAG：Retrieval-Augmented Generation） NASAや気象庁、アイビーリーグ、 TOYOTAなど時代をけん引する必 要があるような企業戦略を立案する 補助的な役割など 企業が長年かけて蓄積してきたナ レッジを体系化して、データから情報 や解を導き出すスキームを創出する など、データやそのスキームを利用する 人間が変わっても同じ（またはそれ 以上の）価値を出せるようにする 大規模化 特化 社外秘 社内外 出典※1 OpenAI CEO Sam Altman, US House Speaker Mike Johnson discuss AI's risk 米下院議長とオープンＡＩのＣＥＯ、ＡＩリスク巡り議論 *1：https://www.reuters.com/technology/openai-ceo-sam-altman-us-house- speaker-mike-johnson-discuss-ais-risk-2024-01-11/ 出典※2 医療業界向け特化した大規模言語モデル(LLM)を開発する"Hippocratic AI"が Seedで$50Mを調達 *2：https://www.atpartners.co.jp/ja/news/2023-05-18-hippocratic-ai-a- developer-of-large-scale-language-models-llms-specialized-for-the- medical-industry-raises-50m-in-seed 出典※4 独自の金融ビジネス特化型AI「BloombergGPT」をBloombergが発表、 金融アナリストの業務や金融ニュースの作成を手助け可能 *4：https://gigazine.net/news/20230404-bloomberggpt-llm-for- finance/ 出典※3 Small But Mighty: Small Language Models Breakthroughs in the Era of Dominant Large Language Models 小さくても強力: 支配的な大規模言語モデルの時代における小規模言語モ デルのブレークスルー *3：https://www.unite.ai/small-but-mighty-small-language-models- breakthroughs-in-the-era-of-dominant-large-language-models/
- 8. 出典：【Oracle Cloud ウェビナー】 LLM(大規模言語モデル)などの生成AIで圧倒的なコスト・パフォーマンスを提供するOracle AI インフラストラクチャ https://speakerdeck.com/oracle4engineer/ocwc_20231004_generativeai?slide=7
- 9. AIサービス UI モデル呼び出し Prompt Engineering Vector Embeddings, NLP※1 Vector スキーマ データ層 データ層 プログラム部 AIを導入する前に、使う人のアカウントがアクセスできるデータ層とVectorスキーマ、AIサービスを準備する必要があります 。 ※1：NLP（Natural Language Processing：自然言語処理） は、Vector Embeddings（行列埋込）によって文字や文章を数値化し、感情分析、機械翻訳、テキスト分類などを行う。学習によって、常識や言語理解、論理的推論が可能 ※2：Windows Copilot, GitHub Copilot, Security Copilot, Bing Chat Copilot, Power Platform Copilot, Dynamics 365 Copilot, Microsoft Syntex ※3：Jurassic-2, Stable Diffusion, Command
- 10. 準備する もの・こと アカウント ファイルの 種類 社内文書 の管理 Copilot / Syntex 自動振分機能 Microsoft 365 ファイル Entra IDアカウン ト Microsoft 365ラ イセンス権限設定 SharePoint / OneDrive 端末管理情報 MDM 管理者アカウント MDMソリューション ポリシー設計配布 デバイス 管理アカウント 経理・総務・人事 など社外秘情報 システムに登録さ れているアカウント ライセンス 運用者アカウント データフロー設計 ロール（権限） ETL / ELT実 装 準備する もの・こと アカウント データの 連携先 社内データ 利活用 ETL / ELT またはCopilot 商材 / 製品 カタログ データに紐づく社 内外のアカウント クラウドDB アイデンティティ プロバイダー 販売 / 顧客管 理データ 販売管理システム 登録アカウント 販売管理 Salesforce Dynamics 365 分析ソリューション Tableau / Looker Power BI IoTデータ セキュリティ・ログ システムアカウント 証明書認証局 （運用設計） SEIM / SOAR Security Copilot データストア アカウントとデータ層は特に業態・業界の特性と結びつきが強いため、その選択を誤ると費用対効果の悪いAI投資となります。 AI領域 連携 連携 連携
- 11. UI拡張 準備する サービス スキーマ ファイルの 種類 社内文 書の管理 Copilot / Syntex 自動振分機能 Microsoft 365 ファイル Vector Azure Open AI Service Semantic Kernel Mobile / Web / Desktop Apps Microsoft Syntex SharePoint ドキュメント Cosmos DB / MongoDB Phi-2 apps 調査研究プロト 端末管理情報 Vector / RDB / 標 準IO Open AI / Bedrock / Security Copilot OpenSearch API S3 / Azure Storage セキュリティ製品 経理・総務・人事な ど社外秘情報 Vector / RDB Salesforce / Dynamics 365 各種Copilot Sagemaker / Power Automate メール / Teams Zoom VectorスキーマとAIサービスは自社特化型AIの学習に影響します。社内のMicrosoft 365文書向けのAIのデータをS3に格納しなおすのは非効率です 。 Graph API 連携可能部分
- 16. Azure OpenAI Service Semantic Kernel Forms Analyzer Phi-2 （& SLMコンテナ） Cosmos DB MongoDB Azure OpenAI Studio Zero shotで制御 Open AI （GPT3.5, 4） Azure OpenAI JSONL file / Azure BLOB Bedrock or SageMaker Python （LangChain） bedrock- runtime Claude, Titan Embeddings, Titan Text Llama 2...※3 Aurora PostgreSQL Bedrock Chat / Text playground SageMaker Studio UI Zero shotで制御 Claude, Titan Embeddings, Titan Text OpenSearch Serverless collection Amazon S3 スキーマ （行列インデックスのクエリ） データ・ストア （行列インデックス） モデル （行列インデックス作成検索） データを空にして提供 組織のナレッジ お客様の環境によって選択 Fine tuningで拡張 個別のセキュリティを 実装して共有 または、データ利活用と して利用箇所を広げる
- 17. Model Gremlin Mongo Docker Windows Schima Web App Semantic Kernel Web API Kestrel Windows UI SharePoint Microsoft 365 Entra ID RAG
- 20. OpenAI Brand guidelines https://openai.com/brand Google Brand Resource Center: Logos list https://about.google/brand-resource-center/logos-list/ PaLM 2 Technical Report https://ai.google/static/documents/palm2techreport.pdf Microsoft Bing Image Creator https://gradientflow.com/gemini-cheat-sheet-googles-state-of-the-art-multimodal-assistant-explained/ Gemini Cheat Sheet: Google’s State-of-the-Art Multimodal Assistant Explained https://www.bing.com/images/create Microsoft Research Data&AI https://www.microsoft.com/en-us/research/group/dataai/ Microsoft Copilot Studio https://www.microsoft.com/ja-jp/microsoft-copilot/microsoft-copilot-studio Azure AI Studio https://azure.microsoft.com/ja-jp/products/ai-studio クイック スタート: 独自のデータを使用して Azure OpenAI モデルとチャットする https://learn.microsoft.com/ja-jp/azure/ai-services/openai/use-your-data-quickstart?tabs=command-line%2Cpython&pivots=programming-language-studio THE BALANCING ACT OF TRAINING GENERATIVE AI https://www.nextplatform.com/2023/07/17/the-balancing-act-of-training-generative-ai/ 【Oracle Cloud ウェビナー】 LLM(大規模言語モデル)などの生成AIで圧倒的なコスト・パフォーマンスを提供するOracle AI インフラストラクチャ https://speakerdeck.com/oracle4engineer/ocwc_20231004_generativeai?slide=7 Pretrained Foundational Models in Generative AI https://docs.oracle.com/en-us/iaas/Content/generative-ai/pretrained-models.htm
Editor's Notes
- 日本の企業におけるAI導入のアンチパターン、パターンアンドプラクティスをお話しします。 AI導入のアプローチを間違えると「チャットを作って終わり」とか「AIはうちにはまだ早い」、「AIってそんなに使えない」という結果になります。 今回のセッションでは、AIの導入プロセス全体の俯瞰、TeamsやSharePointでの情報利活用のリテラシー向上、情報へのアクセス時のセキュリティ確保の手法などをお話しできればと思います。
- 自己紹介をよむ 【クリック】
- まず、AIの種類と特長からお話しします。AIには大きさがあって目指すところが違います。LLMはAGIを目指していますしSLMはMultimodal AIやRAGは必須かと思います。ここで注目していただきたいのが、GAFA、GAFAMの中でAppleが入っていないことです。今回のお話しは企業におけるAI導入として、Edge AIの話ではなくクラウドAIのお話しが中心になります。【スライド説明2分】
- クラウドAIはEdge AIと目的が違います。Edge AIを企業に導入することは可能ですが、現段階ではクラウドAIがある前提でないとEdge AIを企業に導入することは難しいと考えます。これについては後述します。しかしながら、これまでクラウドAIが注目されてきましたが今年はEdge AIの時代に突入するかもしれません。
- クラウドAIはEdge AIと目的が違います。これまでクラウドAIが注目されてきましたが今年はEdge AIの時代に突入するかもしれません。人間の声や顔を認識するクラウドAIとの使い分けることのできる個人の声や顔の学習などはEdge AIの時代が到来するには十分な理由になります。ただし、このようなニーズは企業においては「BYODの社内システムのアイデンティティとの紐づけ」や「社給端末の個人に特化した学習と社内でのロール（や認可）」に対して、要件や調整にヒューリスティックな解決を必要とします。分散IDなどのインフラストラクチャーが成熟していない現段階では、Edge AIの企業導入にはハードルがあるといえます。
- Multimodal AIは、AIオーケストレーションのひとつの形態という理解が良いと思います。Multimodal AIという文脈では画像や音声と文字などのデータの種類でのオーケストレーションが例に挙げられることが多いのですが、テキストとテキスト、文書と文書などの組合せも複数のモダリティとして理解するとSmall Language ModelのAIオーケストレーションの設計の幅が広がります。
- 企業としては、おそらく右半分が戦略として有用かと思います。左については相当な規模の組織や莫大な資金を持つ組織だけが可能な領域だと思います。
- その意味で多くの企業にとっては、AIは組織のデータ利活用のツールとして有用ということです。
- データ利活用という視点からAI導入する場合、「AIを使う人のアカウントがアクセスできる範囲のデータから結果が生成されること」を強く意識する必要があります。ネット検索を効率的に行いたい場合はインターネットすべてのリソースが解の生成元のデータとなりますので、非常に大きな言語モデルでないと広範なバリエーションの結果を迅速に得ることができません。しかし、企業内のデータならば小規模なAIで十分な解が得られると考えます。
- 文書を効率的に検索・再利用する際、どれだけプロンプトを工夫してもAIが返す文書の検索結果、生成文書は「そのアカウントがアクセスできるデータ」から生成されます。
- S3にMicrosoft 365文書を格納しなおしたとしてもセキュリティを考慮すると、各文書にアクセスできるアカウントを細かく制御する必要があります。であるならば、そもそも適切にアクセス制御がなされているMicrosoft 365文書をそのまま動かさず、それをデータとするAI層を構築すべきです。それがCopilotであり、AWSを採用してS3にファイルをコピーするといった運用は非効率です。
- 一応参考までに、商用顧客向けの招待制の有料プレビュー プログラム。Microsoft 365 Copilotと同様の扱い（Microsoft 365 Copilotは300シートの制限が無くなった）。