TDSE株式会社

MLOps支援サービス

機械学習における開発・運⽤サイクルを効率化し、ビジネス変化に柔軟・迅速に対応できるシステム環境を提供します。

機械学習システムにおける課題

何が課題︖

従来のITシステムの多くは情報の記録「SoR(Systems of Records)」という位置付けでした。ですが、機械学習システムは、記録された情報から洞察を⾏い⽇常の業務に指針を与える「SoI(System of Insight)」「SoE(System of Engagement )」という位置付けになります。すなわち、システムと⽇常のビジネス活動がより密接な関係にあり、外部環境変化やそれに対するビジネス戦略の変化の影響を受けやすいと⾔えます。そのため、機械学習システムは⼀度作ったら終わりではなく、ビジネス変化に応じて柔軟に変化し続ける事が求められます。

例えば、機械学習で需要予測するケースでも、トレンドの経時的変化、突発的事象による変化、代替品の登場や技術⾰新による変化、などの外部環境変化によって需要変動が起こる事が考えられます。これにより、開発当初は⾼い予測精度だった機械学習モデルも、精度が低下しビジネスへの効果が薄れる可能性が出てきます。それを放置したままにすると、正しく予測できないシステムと⾒なされ利⽤されなくなる、という状況も起こりえます。

その対策として、機械学習モデルを再作成すればよいのですが、そのための作業プロセスが確⽴されていなかったり必要な環境が備わっていない状況が⾒られることがあります。必要なデータの抽出、機械学習で使⽤したアルゴリズムのスクリプトやデータのバージョン管理、以前の学習時のパラメータや精度の確認、出来上がったモデルのバージョン管理、検証環境/本番環境への展開、等々が場当たり的対応、属⼈的な⼿動対応になっている状態です。そのため、システム更新や運⽤に時間とコストが掛り、他のビジネステーマに展開したくても現状の対応で⼿が回らない状態が⽣じます。

したがって、機械学習システムを運⽤する上では、品質、スピード、コストの観点で解決すべき課題があると考えています。

MLOpsとは

ソフトウェア開発で活⽤されているDevOpsという概念を機械学習プロジェクトでも活⽤しようとする取り組みです。ソフトウェア開発の現場ではアジャイルの普及に伴い、設計/開発/テストのサイクルを効率よく回すことが必須となり「バージョン管理」「継続的インテグレーション」「継続的デリバリ」といった技術を利⽤して効率よく⾃動運⽤しています。

機械学習プロジェクトでも、「バージョン管理」「継続的なモデル検証」「継続的なデプロイ」といった運⽤が必要で、DevOpsを応⽤したプロセス改善が必要です。これらの取り組みをMLOpsと呼びます。(MLOps「Machine Learning」と「Operations」の造語)

我々はこのMLOpsの概念を機械学習システムに取り込むことで、上記の課題解決をご⽀援します。

MLOpsの全体感

3つの機械学習フェーズ

Design(ビジネス企画/要件定義)
ビジネス⽬標を定義し、そのビジネス⽬標をデータ活⽤テーマに変換し、⽬標を定めます。また、現状のデータを収集・検証してデータ活⽤テーマの実現性を確認します。
Development(Dev: 機械学習モデル開発)
データ活⽤テーマに対して適切な分析⼿法/アルゴリズムの選択や特徴量エンジニアリングを⾏い、機械学習プログラムを開発します。開発したプログラムを ⽤いて様々なパターンの実験(データ前処理〜学習〜評価)を繰返し⾏い、最適な機械学習モデルを作成します。
Operations(Ops: 運⽤)
機械学習モデルを本番環境に展開し、実際のビジネスシーンで活⽤できるようにサービス提供します。また適宜モニタリングを⾏い、必要に応じてモデルの再学習/再開発を促し、その結果がスムーズに再展開されるように整備します。

TDSEが提供するMLOps⽀援サービスは、このなかの主にDevelopmentとOperationsのフェーズにフォーカスしたサービスになります。

なお弊社では、DesignフェーズにフォーカスしたDXコンサルティングサービスや、Developmentフェーズにおける機械学習開発にフォーカスしたデータ分析・データ利活⽤サービスも別途提供しています。

システム要素とプロセス

こちらはMLOpsの概念からシステム構成を考えた場合の環境とその流れを⽰しています。

開発/実験環境
Devフェーズにおける機械学習モデル開発の作業を⾏うための環境です。元となるデータに対して探索的データ分析を⾏い、機械学習モデルの設計・開発そして学習を⾏います。 この作業のサイクルを効率的に回すこと、そこでの成果物や処理結果を管理することが求められます。
学習環境
ここでの学習環境は運⽤に必要となる環境の1つになります。処理内容は開発/実験環境での実験と同様ですが、現時点でのrawデータを使って学習してモデルの精度を確認する、またモデルの再学習を⾏うことを⽬的とした環境です。ここで学習されたモデルはモデルリポジトリでバージョン管理します。
検証/本番環境
検証環境は学習済のモデルを組み込んだ推論サービスが外部システムとの連携も含めて正常動作することをテストするための環境です。そのテストが完了したら本番環境に展開し、実際のビジネスシーンでの活⽤をします。本番環境での処理結果は逐次保存します。
モニタリング環境
学習環境での学習時データと本番環境での処理結果を使⽤して、モデル精度変化やデータドリフト(データの傾向変化)の有無をモニタリングします。変化が⾒られた場合に、モデルの再学習や再開発を促します。
CI/CD
開発・⽣成したプログラムや学習済モデルを別の環境に展開する処理を⾏います。単なるファイルの転送だけでなく、必要に応じて各種のプログラムを取り纏める処理やテストを実⾏します。

TDSEのMLOps⽀援サービス

特徴

TDSEは、これまでの経験・ノウハウをもとに、最適なMLOpsの構築・運用をご支援します。

  1. ベンダ依存していない中⽴的な⽴場で最適なデータ分析の環境を選定を行います。
  2. データ活⽤に関する収集から利⽤までの計画策定します。
  3. ⽬的・データ量・性能等様々な要求から適切な基盤を設計します。
  4. 構築から運⽤までのエンジニアリングサービスを提供します。
  5. お客様の状況に合わせたスモールスタートやフェーズ分けのご提案をします。

プロジェクトロードマップに合わせた伴⾛⽀援

機械学習では Design → Dev → Ops のフェーズがあるとしましたが、これはプロジェクトのフェーズとは少し異なります。

⼀般的には、まず「PoC(Proof Of Concept)」を実施して機械学習の実現性を検証します。実現性の⾒通しが付いたら機械学習モデルの「本格開発」に進み⽬標とする精度を得られるまで実験(前処理〜学習〜精度確認)を繰り返します。その後、検証環境でのテストを経て、本番環境での「本稼働」がスタートします。そこで実際にビジネス効果が得られてくれば、他のビジネス領域へ機械学習を「適⽤拡⼤」していきます。このプロジェクトロードマップのそれぞれの段階にて、必要となるDesign、Dev、Opsが実施され、そのサイクルが繰返し回るのです。

いわば、機械学習プロジェクトは段階的に「成⻑」するので、その成⻑に合わせて必要なシステム・機能を拡充させていくのがよいと我々は考えています。ただし、むやみに機能を継ぎ⾜していくのは運⽤の負担増や⾮効率性が⾼くなる恐れがあります。そこで我々はプロジェクトの初期段階から将来を⾒据えた計画を考えてプロジェクトの成⻑に合わせて伴⾛⽀援をいたします。

サービスメニュー

TDSEは、MLOpsの企画/設計・開発から運用・教育まで一貫したサービスをご提供します。

Designフェーズサービス

◆ MLOpsアセスメントサービス

お客様の業務内容・特性を把握し、機械学習導⼊によって求められるハイレベルの成果を確認します。その上で、MLOpsの観点から開発・運⽤に必要となる要素を⾒極め、⽬指すべきゴール(分析業務プロセスや分析システムの理想的な在り⽅)を定義し、現在の機械学習環境と⽬指すべきゴールとのギャップを抽出します。

◆ MLOps計画策定サービス

MLOps導入のゴールに向けて、業務/機械学習プロセス定義、管理すべき資材(データ/プログラム/パラメータ等)とその管理⽅法、システム構成といった要件を取り纏めます。お客様の業務や環境に応じて、オープンソースをベースとした環境やクラウドサービスをベースとした環境など検討可能です。
また、ゴールまでのロードマップも合わせて検討・策定します。

Developmentフェーズサービス

◆ MLOps導入・開発サービス

ロードマップに従って、具体的な基盤設計と技術要素の導入・開発を行います。

  • 分析環境、モデルサービング環境の設計
  • 実験結果管理、コード/データ/モデルのバージョン管理、パイプライン基盤などの基盤設計・開発
  • パイプラインの設計・開発
  • モニタリング機構の設計・構築

Operationsフェーズサービス

◆ MLOps保守・運用サービス

MLOpsに関わるシステムの保守・運用を行います。

  • システムの監視・モニタリング
  • 機械学習モデルのパフォーマンス、データドリフトのモニタリング
  • データパイプラインの保守
◆ MLOps高度化サービス

モニタリングからのアラート等を通じて、現行モデルやデータの調査・分析を行います。そこからモデルの再学習の判断や、特徴量エンジニアリングからのモデル再開発などをご提案します。

Knowledge Transferサービス

◆ MLOps 教育・研修 / OJT

MLOpsの考え方や、各種技術要素の具体的な操作方法などについて、お客様のご担当者様にKnowledge Transferいたします。導入するMLOpsの要素やご担当者様の役割に応じて、適宜研修内容をアレンジして実施いたします。

各種サービスの提供範囲・内容についてはお客様に合わせてアレンジいたします。詳しくはお問合せください。

CONTACTお問合せ

お電話でも承ります。お気軽にご連絡ください。
TEL. 03-6383-3261 平日9:00 〜 18:00

上へ戻る