IncrediBuildでビルド時間を最大90%短縮! - インクレディビルドジャパン株式会社 - GTMF 2018 TOKYO

Editor's Notes

• #2 インクレディビルドジャパン株式会社と申します。 私、技術担当の菅沼と申します。 どうぞよろしくお願いいたします。
• #6 簡単に：インストールは10分以内、その他、コードの変更や、環境構築等一切必要無し なぜなら、プロセスレベルでの仮想化技術を使っているから。 8コアマシン10台の構成で、一台が80コアとして使用できる。
• #7 世界的に実績があります。16年分散高速化一筋。
• #8 VS2017インストーラーで商用で唯一組み込まれています。
• #9 Visual Studioに統合され、IncrediBuildメニューからビルドが実行でき、ビルドモニターが表示されるデモムービー
• #10 ゲーム開発 ビルドだけじゃないよ。
• #11 アンリアルエンジン(UE4)のシェーダーコンパイルの分散デモムービー(サンプル:シーケンサー)
• #12 IncrediBuildが高速化できる処理の話をさせていただきます。 こちらのスライドはゲーム開発、もっと大きな枠組みでいうとソフトウェア開発でCPUに負荷の掛かってくる処理をまとめたものです。 左側が一般のソフトウェア開発、更に右側の様々なタスクがあり、皆さん苦労されている所かと思います。 IncrediBuildがコンパイルの高速化にご利用いただけることはご存知の方、多くいらっしゃるかと存じます。 実はここに乗せている全ての処理をIncrediBuildが高速化できる可能性があります。 本日はIncrediBuildのユーザー様がどのような処理を高速化されていらっしゃるかという事例を、Unreal Engine 4の事例を中心として、Unreal Engine 4と一緒にご利用されるMayaやJenkinsの事例もお話しできればと存じます。
• #15 初めの会社はマイルストーンスタジオさんです。 Superbike, Ride, World Rally ChampionshipなどのAAAタイトルを開発している開発会社さんです。 Unreal Engine 4でPC, Xbox,PS4とマルチプラットフォームのゲームを作られていらっしゃいます。 レーシングゲームを主軸としているため、グラフィックスとモデルリングのディテールに非常にこだわりがありました。 4つの開発ブランチがUE4 Editorのリビルド、ゲーム向けのプロジェクトビルド、クックに多大な時間を奪われており、これらの処理の高速化が課題となっていました。 テクニカルアーティスト、デザイナーの方々もシェーダーコンパイルの高速化を使用しらっしゃいます。 レベルの設計者は、UE4スタート時にソースコントロールと同期し、全てのシェーダーがリコンパイルされる状態であるため、高速化の恩恵は大きかったようです。
• #16 IncrediBuildを導入いただいた結果がスライドのグラフとなります。 UE4エディタのビルドは56分から8分ほどに短縮、各プラットフォーム向けのプロジェクトビルドは1時間47分から14分まで短縮されました。9時間36分ゲームデータのクックを4時間28分まで短縮されています。
• #18 「継続的インテグレーション システムからの最新の実行ファイルを受け取り、定期的にレビューする必要がありました。」 「Unreal Engine 4に開発が移行したので、チームには迅速で信頼性の高いビルド システムが必要でした」
• #19 1日25件のビルド
• #21 株式会社日本一ソフトウェアは、主にPlayStation®向けのゲーム開発を行ってきました。ワールドワイドでトリプルミリオンの出荷を記録しているディスガイアシリーズを筆頭に、数多くの魅力的なタイトルを発売しております。 今回はNintendo Switch™のローンチタイトルとして、最新のナンバリングタイトルである　ディスガイア５の移植版を発売することになりました。 Nintendo Switch™への移植にあたり、開発実機の不足により、Windows上でエミュレートして開発する必要がありました。 主要なスタッフには 高性能なPCを購入致しましたが、それでも一度のフルビルドで２２分強かかる状況でした。 シリーズを重ねるにつれ、ソースコードの依存関係も複雑化しております。依存関係を解消することによるビルド時間の短縮も期待できますが、多大なコストと時間がかかるため、移植タイトルであることやローンチに向けての短い開発期間の中では、現実的ではありませんでした。 22分のビルドが4分50秒に短縮されました。 これにより、ローンチの発売に向けて順調に開発を進めることがきたと聞いております。 ・複数プラットフォーム、複数地域（言語）の対応などで、一度に作るROMの数が増えている ・デバッグ時など問題が起きてROMの作り直し ・テストプレイ時の頻繁なROM更新 ・ROM作成の一連の流れをbatにまとめて実行可能に、ビルド～ROM作成～所定の場所に配置、を自動化でき、テストプレイやデバッグの際にとても役立った。
• #22 6台
• #24 Undead Labs: MicrosoftとパートナーでゾンビサバイバルシミュレーションゲームのState of Decayシリーズを開発されています。 “シリーズもののため、続編ではユーザーの期待に応えるため、開発者やデザイナーの才能、情熱、最大限の努力が必要となります。 そして、最高の友人であり最悪の敵なのが、時間です。我々はほとんどの開発者と同様にイテレーションの時間を非常に重要視しています。” シェーダーコンパイルおよびライティングの時間が非常に掛かっていた。 更に、CIシステムに組み込まれた1日100回以上のマルチプラットフォーム(Xbox OneとPC)向けビルド、コンテンツビルド、シーンのライティングタスク。 IBの使用法： それぞれのマシンが仮想216コアマシンとなり、ぶっとぶ高速化。 Dev-toolsのソリューションを使い、シェーダーコンパイルの高速化、ライティングのミドルウェアのプレ計算タスクの高速化に寄与。これは自社でカスタムして分散させたいプロセスを指定する方法を取られました。 CIツールと連携
• #27 Turn 10 はMicrosoft Studio の一部門であり、レースゲームの開発チームとして2001年に設立されました。 Turn 10スタジオはゲーム開発者として、市場に出来るだけ早くゲームを投入するという大きな課題があります。 ゲーム開発のライフサイクル プロセスには、コードビルド、動画やグラフィックのレンダリング、プラットフォームの変換、物理演算エンジン、ライティング エンジンの管理などがあり、CPU への負担は大きい物になります。 IncrediBuild によって、コードビルドだけではなく、テストコードの解析、QAスクリプト、レンダリング、物理演算、ライティング エンジン、またカスタムツールを10−30倍も高速化することに成功しました。 特に3DS Maxのコンバートに6時間掛かっていたが20分へ削減。 これらの、計算集約型プロセスを大幅に高速化することで経費が80％近くも削減。
• #30 Electronic Arts Inc.（EA）は、インタラクティブなエンターテイメントソフトウェアの世界的リーダーです。 EAゲームプレイに使用されるアニメーション、モデル、テクスチャなど、ほとんどゲームデータをAutodesk Mayaで作成されていらっしゃいました。 アセットファイルをゲーム対応フォーマットに変換するためにMayaを使用されていらしゃったのですが、EAのゲームには何万ものアセットファイルがあり、膨大な量のデータファイルを構築する必要があります。 具体的に申し上げますとPythonスクリプトがmayabatch.exeを実行しアセットファイルを出力するのですが、1台16CPUコアのマシンで全てのmayabatchを呼び出すのに4時間もかかっていました。 EA社は既にIncrediBuildをビルドの高速化に利用されていましたので、高速化をMayabatchにも適用できないかということで検証が開始しました。 結果、7台のマシン合計108cpuコアの環境で4時間から僅か40分に大幅に短縮し、結果として6倍の処理速度を実現しました。 1. 処理にかかる時間を大幅に短縮、生産性を最大化し、製品開発に注力できたのでローンチの期限を守ることができました。 2. 既存のインフラにそのまま導入できるので、マシンの追加購入などが必要ない
• #33 戦場シミュレーションゲーム、ArmAシリーズ開発元 とても緻密な地形表現かつ、大規模なオープンワールドを表現ために、衛星画像を使っていました。 車両や戦闘機などが自由に移動できるオープンワールドを作るのに、20km x 20 kmサイズの地形データが必要でした。 画像処理にかかる総時間は８時間ほどで、殆どは、テクスチャ圧縮処理でした。 ゲーム内の地形の設計において、この膨大な処理時間は、大問題でした。 特に開発後半で、チューニングしたり、バグフィックスする段階で致命的でした。 IncrediBuildを使うために多少ツール側の設定変更が必要でしたが、IncrediBuildを使うことによって、８時間が40分へと短縮されました。 コアを足せば足すほど高速化される事がわかたので、今後さらに大きな地形の設計において、コア数を足して作業する予定です。
• #36 Obsidianスタジオのクロスプラットフォームはスター・ウォーズやサウスパーク、フォールアウトのような有名なブランドを扱っていらっしゃる開発会社様です。 IncrediBuildをご活用いただいたのは大規模なオンラインゲームであるアーマードウォーフェアという戦車で戦う対戦型ゲームの開発をされた時でした。 アーマードウォーフェアは数百万行にも及ぶ大規模で複雑なコードからできており、そのことが決定的にビルドやコンパイル時間を圧迫していました。 Obsidian のサーバサイドのコードはWindows 上で開発・実行されますが、製品ターゲットはLinux です。 更にQAプロセスを効率的に行いたいというニーズもありました。 毎日数十万にも及ぶユーザが訪れるゲーミング プラットフォームを運営し改善していくためにはQAプロセスをよりよくする必要があったということです。 “IncrediBuild によって我々のイテレーション時間と毎日のビルド時間は大幅にスピードアップしました。” とOlivares は語っています。 一日あたり20-30人/時ものQA時間を節約
• #37 ”プロジェクトの中にはコンパイル時間が40分から5-10分になったものもあります。多くのプログラマーは一日何度もコンパイルを行うので、これは非常に決定的な時間の節約になりました。”
• #39 ロジボールは高品質なナビゲーションシステムおよび、地形データを基にしたビジネスユーザ向けのアプリケーションを開発しています。 Android NDKのツールセットを利用したビルドは各開発者マシンで15分程、ビルドサーバー上では7分程掛かっていました。 更に、Jenkinsとの連携やテストツールの高速化も課題となっていました。 IncrediBuildを導入することによって、開発者はアンドロイドビルドを1日20回実行できるようになりました。 LOGIBALLはIncrediBuildをさまざまなポイントで導入しました。Visual Studio、ジェンキンスおよび、開発者マシンおよびサーバマシンのAndroid NDK環境。テストツールとも連携しています。 IncrediBuildのソリューションを実装すると、LOGIBALLのビルドプロセスは大幅に変更されました。 Android NDKのビルドは開発者様のマシンで15分から2分に短縮、ビルドサーバーマシンで7分から48秒へ短縮しました。 LOGIBALLのビルドプロセスの一環として、開発者はAndroidビルドを1日20回実行することができました。 これは、日々の終わりの失敗ビルドを減らし、タイトルローンチまでの時間を短縮し競争力を増やすことになりました 整理
• #40 ロジボールは高品質なナビゲーションシステムおよび、地形データを基にしたビジネスユーザ向けのアプリケーションを開発しています。 Android NDKのツールセットを利用したビルドは各開発者マシンで15分程、ビルドサーバー上では7分程掛かっていました。 更に、Jenkinsとの連携やテストツールの高速化も課題となっていました。 IncrediBuildを導入することによって、開発者はアンドロイドビルドを1日20回実行できるようになりました。 LOGIBALLはIncrediBuildをさまざまなポイントで導入しました。Visual Studio、ジェンキンスおよび、開発者マシンおよびサーバマシンのAndroid NDK環境。テストツールとも連携しています。 IncrediBuildのソリューションを実装すると、LOGIBALLのビルドプロセスは大幅に変更されました。 Android NDKのビルドは開発者様のマシンで15分から2分に短縮、ビルドサーバーマシンで7分から48秒へ短縮しました。 LOGIBALLのビルドプロセスの一環として、開発者はAndroidビルドを1日20回実行することができました。 これは、日々の終わりの失敗ビルドを減らし、タイトルローンチまでの時間を短縮し競争力を増やすことになりました 整理
• #42 Obsidianスタジオのクロスプラットフォームはスター・ウォーズやサウスパーク、フォールアウトのような有名なブランドを扱っていらっしゃる開発会社様です。 IncrediBuildをご活用いただいたのは大規模なオンラインゲームであるアーマードウォーフェアという戦車で戦う対戦型ゲームの開発をされた時でした。 アーマードウォーフェアは数百万行にも及ぶ大規模で複雑なコードからできており、そのことが決定的にビルドやコンパイル時間を圧迫していました。 Obsidian のサーバサイドのコードはWindows 上で開発・実行されますが、製品ターゲットはLinux です。 更にQAプロセスを効率的に行いたいというニーズもありました。 毎日数十万にも及ぶユーザが訪れるゲーミング プラットフォームを運営し改善していくためにはQAプロセスをよりよくする必要があったということです。 “IncrediBuild によって我々のイテレーション時間と毎日のビルド時間は大幅にスピードアップしました。” とOlivares は語っています。 一日あたり20-30人/時ものQA時間を節約
• #43 ピュアクラウドVM(Azure)に700コアの開発環境を構築した 2. 上記の環境をパートナー(外注)のグラフィックデザイナーに開放し、3rd partyもIBの恩恵を受けて、高速に作業が出来る体制を取った 3. 結果的に、AAAタイトルを年に2本出す事に成功した ケーススタディの話
• #44 事例紹介で、Dev-toolsという言葉を使いましたが、dev-toolsというのはIncrediBuildを汎用的に使うインターフェースです。 実は、UE4等、ゲームエンジンにインテグレートされる際は、dev-toolsのインターフェースが使われています。 こちらのDev-toolsの使用方法について、簡単に説明いたします。
• #45 大きく分けて、3つの使用方法(インターフェース)があります。
• #46 Submittionインターフェースは、直接コマンド(exe)に対し、並列分散処理させるかさせないかを簡単に記述できるインターフェースです。 左側は、通常のバッチファイルです。ご存知の通り、コマンドラインから、Scriptilfe.batを実行すると、バッチファイルに書かれているコマンドが上から順番に逐次実行されます。 右は、並列分散対象とするexeを指定したバッチファイルです。(並列分散対象にするコマンドの前にxgSubmitを記述するだけです) 並列分散実行時は、ibconsoleコマンドを使って、このバッチファイルを指定します。これだけで分散対象に指定したコマンドが自動的に並列分散実行されます。 (上記例でいうと、task1-4.exeは分散実行されますが、LocalTask.exeは分散されず、コマンド実行マシンで実行されます)
• #47 Automatic Interceptインターフェースは、分散させたい対象をプロセス名で指定する方式です。 事前に、どのプロセスを監視対象とするか、どのプロセスを分散可能なプロセスとするかをあらかじめxml内にルールとして表記しておきます。 上記の例では、Simulation_Applitaionsというプロセスを監視対象(IBによるインターセプトが可能なプロセス)として設定し、本プロセスから、Simulation_Processという子プロセスが起動されると、IBが自動的にキャプチャし、並列分散実行させるという定義をしています。 このルールを定義したxmlファイル(上記では、description.xml)を、ibconsoleコマンドの /profile=で指定すると、実行するコマンドがxmlファイルにて定義した通りに、並列分散実行されます。 実行させたい処理にて、同じプロセスが多数、ランダムに発生するような処理体系で、非常に有用なインターフェースです。 先ほどのSubmissionインターフェースと、こちらのAutomatic Interceptionインターフェースは併用できます。
• #48  (さらっと)オプションとしては、このようなオプションを指定する事もできます。(ぐらいかな)
• #50 詳しくはブースまで
• #52 Now let’s take a look at the technology behind process virtualization – how does it work? Explain here how the technology works  process level virtualization, create virtual supercomputer, use idle resources on the network,
• #53 Now let’s take a look at the technology behind process virtualization – how does it work? Explain here how the technology works  process level virtualization, create virtual supercomputer, use idle resources on the network,
• #54 Now let’s take a look at the technology behind process virtualization – how does it work? Explain here how the technology works  process level virtualization, create virtual supercomputer, use idle resources on the network,
• #55 Now let’s take a look at the technology behind process virtualization – how does it work? Explain here how the technology works  process level virtualization, create virtual supercomputer, use idle resources on the network,
• #56 Now let’s take a look at the technology behind process virtualization – how does it work? Explain here how the technology works  process level virtualization, create virtual supercomputer, use idle resources on the network,
• #57 Now let’s take a look at the technology behind process virtualization – how does it work? Explain here how the technology works  process level virtualization, create virtual supercomputer, use idle resources on the network,
• #58 Now let’s take a look at the technology behind process virtualization – how does it work? Explain here how the technology works  process level virtualization, create virtual supercomputer, use idle resources on the network,
• #59 Now let’s take a look at the technology behind process virtualization – how does it work? Explain here how the technology works  process level virtualization, create virtual supercomputer, use idle resources on the network,
• #60 Now let’s take a look at the technology behind process virtualization – how does it work? Explain here how the technology works  process level virtualization, create virtual supercomputer, use idle resources on the network,
• #61 Now let’s take a look at the technology behind process virtualization – how does it work? Explain here how the technology works  process level virtualization, create virtual supercomputer, use idle resources on the network,
• #62 Now let’s take a look at the technology behind process virtualization – how does it work? Explain here how the technology works  process level virtualization, create virtual supercomputer, use idle resources on the network,
• #63 Now let’s take a look at the technology behind process virtualization – how does it work? Explain here how the technology works  process level virtualization, create virtual supercomputer, use idle resources on the network,
• #64 Now let’s take a look at the technology behind process virtualization – how does it work? Explain here how the technology works  process level virtualization, create virtual supercomputer, use idle resources on the network,
• #65 Now let’s take a look at the technology behind process virtualization – how does it work? Explain here how the technology works  process level virtualization, create virtual supercomputer, use idle resources on the network,
• #66 Now let’s take a look at the technology behind process virtualization – how does it work? Explain here how the technology works  process level virtualization, create virtual supercomputer, use idle resources on the network,
• #67 Now let’s take a look at the technology behind process virtualization – how does it work? Explain here how the technology works  process level virtualization, create virtual supercomputer, use idle resources on the network,
• #68 Now let’s take a look at the technology behind process virtualization – how does it work? Explain here how the technology works  process level virtualization, create virtual supercomputer, use idle resources on the network,