Skip to main content
UploadLanguage (EN)Support
BusinessMobileSocial MediaMarketingTechnologyArt & PhotosCareerDesignEducationPresentations & Public SpeakingGovernment & NonprofitHealthcareInternetLawLeadership & ManagementAutomotiveEngineeringSoftwareRecruiting & HRRetailSalesServicesScienceSmall Business & EntrepreneurshipFoodEnvironmentEconomy & FinanceData & AnalyticsInvestor RelationsSportsSpiritualNews & PoliticsTravelSelf ImprovementReal EstateEntertainment & HumorHealth & MedicineDevices & HardwareLifestyle
TT
Uploaded byTakao Tetsuro
PPTX, PDF181 views

Implementation Approach of Artifical Intelligence

AIには大きさがあって目指すところが違います。LLMはAGIを目指していますしSLMはMultimodal AIやRAGは必須かと思います。今回のお話しは企業におけるAI導入として、Edge AIの話ではなくクラウドAIのお話しが中心になります。

Software◦
Download to read offline
•システム構築のプロセス評価、改善、策定、開発フレームワークの設計 、実装管理、プリセールスやプロジェクトの立ち上げなど •ブログ ：http://blog.processtune.com •プロフィール ：Tetsuro Takao on Facebook, Twitter or http://mvp.microsoft.com •コミュニティ ：.NETラボの運営スタッフ https://dotnetlab.connpass.com/ •Microsoft MVP ：Developer Technologies [July 2010 – June 2024]
Phi-2：27億 基盤モデル Microsoft Prometheus（GPT-4）：1兆 for Bing AI ? Copilot：数十億 特化型モデル Bing Chat Copilot：17億 Microsoft & NVIDIA Megatron-Turing NLG：5,300億 Microsoft Turing NLG：170億 基盤モデル Microsoft Research Data&AI 「如何に広範な選択肢の中から解を生成できるか」 ≠「推論演算が速い」、「省電力で計算を行う」 計算に必要な電力が小さく、推論演算が速いものの 生成される解は限られた範囲の属性から生成する特化型AI。 AGI Artificial General Intelligence AIオーケストレーションにより人間の思考に近づくことが目的 AIの限界を超えることが目的（2023年時点でベビーAGIと言われている） MAI multimodal Artifical Intelligence サイバーエージェント：130億 広告クリエイティブ制作領域のサービス サイバーエージェント日本語LLM：68億 Llama 2：70億/130億/700億 基盤モデル GPT-4：1兆7,600億 基盤モデル GPT-5：17兆? (GPT3x100) 基盤モデル Google PaLM2：3,400億 内部文書リークなので不明 テクニカルレポートでは PaLM 2-L（Unicorn）：3,400億 PaLM 2-M（Bison）： 1470億 PaLM 2-S（Gecko）：300億程度 Google FLAN-UL5：500億 FLAN-UL2：200億 Google Pathways：5,400億 Claude 2：520億 基盤モデル BloombergGPT：500億 Finance AWS Titan Foundation Model：1,000億 Amazon「Olympus」：2兆 for Alexa ? Amazon Alexa model：200億 AWS Titan Foundation Model IBM日本語LLM：80億 IBM Granite：130億 基盤モデル IBM watsonx Code Assistant for Z：200億 115言語対応（段階的なCobol to Java可能） Oracle Text Embeddings：3億5,500万 Oracle Text Generation：520億 Oracle Text Summarization： 520億 大規模化 特化 Gemini Ultra：5,400億 Gemini Pro：600億 Gemini Nano-1：18億 Gemini Nano-2：32.5億
超大型株（メガキャップ）の中で明暗を分けたのはAI部門への投資。Microsoft、 Google（Alphabet）、NVIDIA、Amazonなどが上昇傾向 https://jp.reuters.com/markets/world-indices/773HAFIY6VMPPNNYE6UBZL6DNU-2024-01-16/
AppleはAIビデオ圧縮のスタートアップ企業WaveOneの買収をはじめ、 元GoogleのHead of searchのJohn Giannandreaの採用などAIに投資しています。 同じくGoogleはGoogle PhotosでスタートしたMagic EraserをMagic Editorに引き上げたことを23年のGoogle IOで発表し、G3チップはすでにPixel 8に搭載されています。 AI AI AI 会話のリアルタイム翻訳 メールの要約 カンファレンスのTranscript生成 写真の編集 撮影のアシスト IDが必要 インターネット通信が必要 コンピューティング能力に依存 https://blog.google/products/photos/google-photos-magic-editor-pixel-io-2023/ Magic Editor in Google Photos Apple unveils M3, M3 Pro, and M3 Max https://www.apple.com/newsroom/2023/10/apple-unveils-m3-m3-pro-and-m3- max-the-most-advanced-chips-for-a-personal-computer/ Google Tensor G3 https://blog.google/products/pixel/google-tensor-g3-pixel-8/
出典：生成AIに“視覚”与える学習ライブラリ、自動運転EVベンチャー公開 最大700億パラメータの学習済みモデルも https://www.itmedia.co.jp/news/articles/2309/07/news175.html Prompt Llama 2-chat （Meta） ELYZA-Llama 2 （ELYZA） Japanese StableLM （Stability AI Japan） OpenLenda （Turing） RAG? 映像 信号機認識モデル タスク特化型モデル タスク特化型モデル タスク特化型モデル 道路状況を言語化 装置をオペレーション 装置をオペレーション 装置をオペレーション 言語による命令 自動運転 重要なポイント：企業における有用なMultimodal AIは、小型なタスク特化型 のモデルのコラボレーションによって組織のビジネス独自のAIを知財化していくこと。
対話型ロボット、画像生成など、ひとりの人間が思いつかない事柄を提供し、視野 の拡張による生産性の向上が期待できる（≒人智を超える可能性に」警告） AIプロバイダーが膨大な電力を使って事前学習させたモデルを使って（必要に応じ て組み合わせて）組織独自のナレッジを管理する（企業戦略の補助） 本来AIで実装する意味が無い事柄 （インターネットで検索できる知識、 誰もができる作業の自動化）を迅 速に解決するので、人員削減に利 用される。つまり、最終的には淘汰 される人間が増えるだけで、その効 率化は果たして意味があるのかどう か？を議論中 その企業の“イズム”に合致した資料、 コンプライアンスなどと現代のパラダイ ムやバズワードから解を生成 （RAG：Retrieval-Augmented Generation） NASAや気象庁、アイビーリーグ、 TOYOTAなど時代をけん引する必 要があるような企業戦略を立案する 補助的な役割など 企業が長年かけて蓄積してきたナ レッジを体系化して、データから情報 や解を導き出すスキームを創出する など、データやそのスキームを利用する 人間が変わっても同じ（またはそれ 以上の）価値を出せるようにする 大規模化 特化 社外秘 社内外 出典※1 OpenAI CEO Sam Altman, US House Speaker Mike Johnson discuss AI's risk 米下院議長とオープンＡＩのＣＥＯ、ＡＩリスク巡り議論 *1：https://www.reuters.com/technology/openai-ceo-sam-altman-us-house- speaker-mike-johnson-discuss-ais-risk-2024-01-11/ 出典※2 医療業界向け特化した大規模言語モデル(LLM)を開発する"Hippocratic AI"が Seedで$50Mを調達 *2：https://www.atpartners.co.jp/ja/news/2023-05-18-hippocratic-ai-a- developer-of-large-scale-language-models-llms-specialized-for-the- medical-industry-raises-50m-in-seed 出典※4 独自の金融ビジネス特化型AI「BloombergGPT」をBloombergが発表、 金融アナリストの業務や金融ニュースの作成を手助け可能 *4：https://gigazine.net/news/20230404-bloomberggpt-llm-for- finance/ 出典※3 Small But Mighty: Small Language Models Breakthroughs in the Era of Dominant Large Language Models 小さくても強力: 支配的な大規模言語モデルの時代における小規模言語モ デルのブレークスルー *3：https://www.unite.ai/small-but-mighty-small-language-models- breakthroughs-in-the-era-of-dominant-large-language-models/
出典：【Oracle Cloud ウェビナー】 LLM(大規模言語モデル)などの生成AIで圧倒的なコスト・パフォーマンスを提供するOracle AI インフラストラクチャ https://speakerdeck.com/oracle4engineer/ocwc_20231004_generativeai?slide=7
AIサービス UI モデル呼び出し Prompt Engineering Vector Embeddings, NLP※1 Vector スキーマ データ層 データ層 プログラム部 AIを導入する前に、使う人のアカウントがアクセスできるデータ層とVectorスキーマ、AIサービスを準備する必要があります 。 ※1：NLP（Natural Language Processing：自然言語処理） は、Vector Embeddings（行列埋込）によって文字や文章を数値化し、感情分析、機械翻訳、テキスト分類などを行う。学習によって、常識や言語理解、論理的推論が可能 ※2：Windows Copilot, GitHub Copilot, Security Copilot, Bing Chat Copilot, Power Platform Copilot, Dynamics 365 Copilot, Microsoft Syntex ※3：Jurassic-2, Stable Diffusion, Command
準備する もの・こと アカウント ファイルの 種類 社内文書 の管理 Copilot / Syntex 自動振分機能 Microsoft 365 ファイル Entra IDアカウン ト Microsoft 365ラ イセンス権限設定 SharePoint / OneDrive 端末管理情報 MDM 管理者アカウント MDMソリューション ポリシー設計配布 デバイス 管理アカウント 経理・総務・人事 など社外秘情報 システムに登録さ れているアカウント ライセンス 運用者アカウント データフロー設計 ロール（権限） ETL / ELT実 装 準備する もの・こと アカウント データの 連携先 社内データ 利活用 ETL / ELT またはCopilot 商材 / 製品 カタログ データに紐づく社 内外のアカウント クラウドDB アイデンティティ プロバイダー 販売 / 顧客管 理データ 販売管理システム 登録アカウント 販売管理 Salesforce Dynamics 365 分析ソリューション Tableau / Looker Power BI IoTデータ セキュリティ・ログ システムアカウント 証明書認証局 （運用設計） SEIM / SOAR Security Copilot データストア アカウントとデータ層は特に業態・業界の特性と結びつきが強いため、その選択を誤ると費用対効果の悪いAI投資となります。 AI領域 連携 連携 連携
UI拡張 準備する サービス スキーマ ファイルの 種類 社内文 書の管理 Copilot / Syntex 自動振分機能 Microsoft 365 ファイル Vector Azure Open AI Service Semantic Kernel Mobile / Web / Desktop Apps Microsoft Syntex SharePoint ドキュメント Cosmos DB / MongoDB Phi-2 apps 調査研究プロト 端末管理情報 Vector / RDB / 標 準IO Open AI / Bedrock / Security Copilot OpenSearch API S3 / Azure Storage セキュリティ製品 経理・総務・人事な ど社外秘情報 Vector / RDB Salesforce / Dynamics 365 各種Copilot Sagemaker / Power Automate メール / Teams Zoom VectorスキーマとAIサービスは自社特化型AIの学習に影響します。社内のMicrosoft 365文書向けのAIのデータをS3に格納しなおすのは非効率です 。 Graph API 連携可能部分
https://learn.microsoft.com/ja-jp/security-copilot/microsoft-security-copilot
Azure OpenAI Service Semantic Kernel Forms Analyzer Phi-2 （& SLMコンテナ） Cosmos DB MongoDB Azure OpenAI Studio Zero shotで制御 Open AI （GPT3.5, 4） Azure OpenAI JSONL file / Azure BLOB Bedrock or SageMaker Python （LangChain） bedrock- runtime Claude, Titan Embeddings, Titan Text Llama 2...※3 Aurora PostgreSQL Bedrock Chat / Text playground SageMaker Studio UI Zero shotで制御 Claude, Titan Embeddings, Titan Text OpenSearch Serverless collection Amazon S3 スキーマ （行列インデックスのクエリ） データ・ストア （行列インデックス） モデル （行列インデックス作成検索） データを空にして提供 組織のナレッジ お客様の環境によって選択 Fine tuningで拡張 個別のセキュリティを 実装して共有 または、データ利活用と して利用箇所を広げる
Model Gremlin Mongo Docker Windows Schima Web App Semantic Kernel Web API Kestrel Windows UI SharePoint Microsoft 365 Entra ID RAG
OpenAI Brand guidelines https://openai.com/brand Google Brand Resource Center: Logos list https://about.google/brand-resource-center/logos-list/ PaLM 2 Technical Report https://ai.google/static/documents/palm2techreport.pdf Microsoft Bing Image Creator https://gradientflow.com/gemini-cheat-sheet-googles-state-of-the-art-multimodal-assistant-explained/ Gemini Cheat Sheet: Google’s State-of-the-Art Multimodal Assistant Explained https://www.bing.com/images/create Microsoft Research Data&AI https://www.microsoft.com/en-us/research/group/dataai/ Microsoft Copilot Studio https://www.microsoft.com/ja-jp/microsoft-copilot/microsoft-copilot-studio Azure AI Studio https://azure.microsoft.com/ja-jp/products/ai-studio クイック スタート: 独自のデータを使用して Azure OpenAI モデルとチャットする https://learn.microsoft.com/ja-jp/azure/ai-services/openai/use-your-data-quickstart?tabs=command-line%2Cpython&pivots=programming-language-studio THE BALANCING ACT OF TRAINING GENERATIVE AI https://www.nextplatform.com/2023/07/17/the-balancing-act-of-training-generative-ai/ 【Oracle Cloud ウェビナー】 LLM(大規模言語モデル)などの生成AIで圧倒的なコスト・パフォーマンスを提供するOracle AI インフラストラクチャ https://speakerdeck.com/oracle4engineer/ocwc_20231004_generativeai?slide=7 Pretrained Foundational Models in Generative AI https://docs.oracle.com/en-us/iaas/Content/generative-ai/pretrained-models.htm