データ分析基盤を構築したものの、運用面でつまづいている。
期待したほどの成果が出ていない。

データ分析基盤の効果を最大化するためには、設計やツール選びはもちろん、適切な運用が不可欠です。システム構築後も、現場で実際にどのように運用されているかを継続的に把握し、課題があれば解消していかなければなりません。

本記事では、データ分析の運用について以下の要素から解説します。

  • 企業が陥りやすいデータ分析基盤運用課題
  • データ分析基盤の基本概念
  • データ分析基盤の効果的な運用方法
  • 運用課題解決のヒントとなる事例

データ分析基盤の運用について、お悩みの方はぜひ参考にしてください。

 

西潤史郎(監修)/データ分析基盤.com編集部

uruos.net/Submarine LLC

データエンジニア/Editor Team

企業のDX化を妨げるデータ分析基盤の運用課題

企業のDX化を推進する過程で、データ分析基盤の活用は重要な要素です。しかし、データ分析基盤は構築したものの運用がうまくいかず、効果を十分に発揮できていないというケースもあります。ここでは、運用面で多くの企業が陥りがちな課題をいくつか紹介します。

1. データのサイロ化

データのサイロ化とは、データが各部署や部門などに分散して保管されることで、一元管理や統合が困難になる状態のことです。

データ分析基盤を導入したものの、各部門が自分たちのデータを「所有物」と考え、共有に消極的な文化があると、サイロ化の原因になります。さらに、データ管理や利用に関するポリシーやプロセスが不十分だと、データの整合性や品質が確保されず、部門ごとに異なる基準でデータが管理されてしまいます。その結果、全社的なデータ活用が難しくなってしまうのです。

2. 非効率なデータフロー

導入初期段階ではシステムやツールの使い方に慣れていないため、データの収集や処理に時間がかかることがあります。また、既存の業務プロセスが新しい基盤に適応できていない場合、手作業や重複作業が発生しやすくなります。
さらに、ツールやシステム間の連携がうまくいっていなかったり、必要な処理能力が不足している場合、データ処理が遅くなりがちです。
データ分析に関わる人材のスキル不足やトレーニングの不足も、効率的なデータ処理を妨げる要因となります。これらの要因が組み合わさることで、データ分析基盤が十分に活用されず、非効率なフローが生じるのです。

非効率なデータフローではデータの一貫性が損なわれ、分析結果の正確性が低下することがあります。

3. 技術的な障壁

データ分析基盤を適切に運用するためには、専門的な知識を持つ人材が不可欠です。特に古い技術で構築されたレガシーシステムの場合、新規技術をそのまま適用できないため、大きな問題となります。

特にネットを利用しないオンプレミス環境では知識がないと、データをうまく収集できません。

4. 可視化の課題

データは収集することが目的ではなく、目的に合わせてデータをグラフなどに可視化することが求められます。しかし、目的があいまいなままの場合、うまくビジュアル化できず、収集したデータをうまく活用できません。

目的を明確にし、目的に沿って、BIツールの選定からカスタマイズにまで、細かな要件定義が求められます。

データ分析基盤の基本概念

データ分析基盤は、大量のデータを効率的に扱うため、収集、加工、蓄積、そして可視化の4つの構成要素の集合体です。データを効率的かつ正確に分析するためにはこれら要素を踏まえることが必要不可欠になっています。

1. 収集

収集とはさまざまな散在したデータソース(IoTデバイス、オンプレミスのシステム、クラウドベースのプラットフォーム、Webサイトのアクセスログなど)から膨大な量の生データを収集する工程です。

多種多様な情報源から収集された生データは未加工の状態で、データレイク(data lake)と呼ばれる層に一元管理されます。生データはそのままの状態では分析には活用できませんが、拡張性が高く目的に応じて加工しやすいことが特徴です。

データの加工は不可逆的なものもありますが、データレイクに保存されていることで、データを目的に合わせて何度でも使用できます。

また、収集したデータの質を高めるため、データアセスメントに取り組むことも大切です。

2. 加工

収集された生データは、そのままではただの情報の羅列にすぎません。表記揺れや矛盾を修正するクレンジングや統一的な形式への変換など加工プロセスを経て、分析しやすい状態に整えられます。

3. 蓄積

加工前のデータはデータレイクに、加工後のデータは、データウェアハウス(DWH)に格納されます。

データを有効活用するため、データを細分化して抽出したものは用途ごとにデータマートに移すことで、保存されます。

これによりデータは構造化された状態で、安全に保管することが可能です。構造化されたデータは必要に応じてすぐに取り出すことができます。

4. 可視化

データウェアハウスや、データマートで収集されたデータは、レポートやグラフ・チャートなどの形式で可視化され、ビジネスインテリジェンス(BI)ツールを通じて集計・分析が行われます。

これらのプロセスは、データを効果的に活用し、組織全体で一気通貫した意思決定を行う役割を果たします。

データ分析基盤活用のメリット

具体的な運用効率改善方法を考える前に、そもそも何のためにデータ分析基盤があるのか、本来の目的を振り返ることも大切です。データ分析基盤の活用メリットを、改めて確認してみましょう。

1. 意思決定の迅速化

データ分析基盤を活用するメリットは、意思決定の迅速化です。データ分析基盤により、データ収集から可視化までのステップを高速で処理でき、データドリブンな現状把握を可能にします。客観的かつリアルタイムな事実認知を担保でき、課題発見ができることがメリットです。

また、課題への改善施策の効果もスピーディーにモニタリングし、測定できる材料を集められることもメリットです。リスクの早期発見・早期対処につながり、リスク管理体制を整えられます。

2. 業務の効率化

データの自動収集から加工まで一連の流れを自動化することで、業務の効率化が実現できます。

これまでExcelのような表計算ソフトで、手作業でしていた業務の多くが必要なくなり、日々のデータ処理作業を削減することが可能です。

自動化されたレポート作成や、リアルタイムで更新されるダッシュボードによる可視化まで自動化されることで、エンジニアやアナリストの時間をより重要な分析業務に割り当てられるようになります。

データの一元管理と統合ができることで、情報のサイロ化を防ぎ、部門間で同じ情報を共有でき、コミュニケーションの最適化を実現できます。

また、データ分析の時間が短くなるため、膨大な量のデータ分析を定期的に行い、分析することで、よりデータ分析の効果は高まるでしょう。

3 ビジネス競争力の向上

データ分析基盤を活用することで、ビジネスの競争力の向上が可能です。具体的には、顧客分析や市場分析、需要予測を通じて新たなビジネスチャンスを発見し、製品やサービスの開発を加速させることが可能です。

データドリブンなアプローチにより、企業は蓄積されたデータから重要な洞察を引き出し、市場のニーズや顧客の行動を正確に理解できます。

ユーザーニーズにあった製品、サービスを、よりタイムリーなタイミングで市場に投入でき、顧客満足度を向上させることが可能です。既存の市場にはない製品をいち早く登場させることで、競合他社との優位性を確保しやすくなります。

データ分析基盤の効果的な運用を実現するためのポイント

運用のポイントは以下の5つにまとめることができます。

1. 目的を明確にする

データ分析基盤の効果的な運用を実現するためには、まず目的を明確にすることが重要です。具体的なビジネスゴールを定義し、それに基づいて必要なデータを特定し、何を検証したいのか明確にすることで、分析の方向性が決まります。

例えば、顧客満足度の向上を目的とする場合、CDP(顧客データ基盤)に代表されるような、顧客の行動データが必須です。具体的には、Web上でのアクセス履歴や購入した商品の特性、顧客の性別や嗜好などの属性を収集する必要があります。

目的を明確にすることで、導入する分析手段やツールも決まります。Google Cloud Platform(GCP)で提供されるBigQueryやCloud Dataflow・Cloud Dataprep、Amazonが提供するAmazon Web Services(AWS)など目的に合わせたツール選びが大切です。

データ分析の目的を明確に設定し、それに応じた基盤を構築・運用することが、全社的なデータ活用とビジネス成果の最大化への鍵となります。

2. ガバナンス体制を整備する

データ分析基盤の運用において、ガバナンス体制の整備が重要です。

ガバナンスとは企業の管理体制のことで、データ分析基盤を扱う際には、データの品質、セキュリティ、利用ルールなどを管理する体制を整える必要があります。

体制の整備を進めるためには、以下のような点について明確にすることが必要です。

  • 誰がどのデータにアクセスできるかを明確に定めること
  • データの更新・削除ルールを定めること
  • データの収集や保存時の品質管理基準を定めること
  • データの保存や転送についてルールを定めること
  • 法律や社内規則に則った利用規約を設定し、遵守を徹底させること

これらの体制が整っていない場合、データの信用性が確保できず、データ管理に問題が生じ、うまく運用できなくなる可能性があります。

データ分析基盤を的確に運用できるようチームを結成することで、データ分析基盤はその潜在的な価値を最大限に発揮し、データドリブンな意思決定を支援します。

3. 運用体制を構築する

データ分析基盤の効率的な運用を継続的に保証するためには、専任の運用担当者を設け、明確な運用ルールを定めることが不可欠です。

運用担当者はデータ分析基盤の日常的な監視、メンテナンス、およびトラブルシューティングを担います。

運用担当者は、具体的には以下のような運用ルールを策定します。。

  • データをどのくらいの頻度で更新するか
  • いつ、どのタイミングでバックアップを取るか
  • 障害発生時にはどのように対応するか
  • データの保管や転送についてルールを定めること
  • 誰がデータにアクセスする権限を持っているか

データのセキュリティを保ち、適切なアクセス管理を行うために、ユーザーごとのアクセス権限を厳格に管理します。

可能であればヘルプデスクやサポートシステムを設置することで、日常的な疑問や問題への迅速に察知することができます。デスクやシステムが設置できなくても、最近はこれらをになうデータスチュワードという役割が注目されています。

運用体制を整備し、エンジニアと非エンジニア間の効果的な連携を促進することで、データ分析基盤の最大限の効果を実現します。

4. 利用促進施策を実行する

データ分析基盤の全社的な利用を促進するためには、具体的な利用促進施策が必要です。データ分析基盤をトップダウンで整えても、分析や改善に活用されなければ、費用が無駄になってしまいます。具体的には以下のような施策があります。

  • 部署間でのデータ共有させ、改善を促す
  • データ分析や活用方法について研修を実施する
  • 利用事例を紹介し、魅力を伝える
  • データ分析に関連するコミュニティを設ける
  • データ分析や活用した社員にインセンティブを導入する

これらの施策により、社員はデータ分析基盤の価値を理解し、日々の業務に活用しやすくなります。データ分析やデータを業務に役立てることが組織全体に根付くことで、ビジネスの効率化と競争力の向上が期待できます。

5. 継続的な改善を行う

データ分析基盤の運用においては、継続的な改善が必要です。特に、外部の専門家に相談し、改善を進める必要があります。その具体的なメリットは以下の通りです。

  • データ分析、ビッグデータの取り扱い、データベース管理などの専門領域を生かした支援が受けられる
  • 最新ツールや分析方法を共有してもらえる
  • 業務効率化が進み、人件費などの固定費削減につながる

外部リソースを活用することで、自社でのデータ基盤構築が困難な場合でも、迅速かつ効率的にデータ分析基盤の運用を最適化することができます。

データ分析基盤運用改善のヒントにつながる好事例

ここでは、DX推進で成果をあげた企業の事例を、経産省の資料からピックアップして紹介します。データ分析基盤に限った事例ではありませんが、それぞれのアプローチから学びが得られるはずです。

株式会社ヒバラコーポレーション(工業塗装)

株式会社ヒバラコーポレーションは、1967年に創業された老舗の工業塗装会社です。塗装会社の中でもいち早くIT化に取り組み「技術のデータ化」と「生産管理」に取り組んだ結果、職人の技術を本人以外が再現できるようになりました。

導入当初は社内からかなりの抵抗もありましたが、協力してくれる社員を含め、現場の担当者に社長自ら丁寧に説明を行い、社内の理解を深めていくことで業務変革を成し遂げたとのことです。
IT導入により、塗装に関わる全工程を見える化することで、コスト削減や管理時間の削減に成功しています。

IT導入や業務効率化についてのノウハウを生かし、塗装業界のコンサルにも取り組み、競合他社との差別化も実現しました。

成功のポイント

  • DXの目的を社員全員が共有できる環境を整備した
  • まずは作業の単純化・効率化、次に他部門との連携、というステップを踏んだ
  • 一度に完璧を求めず、仕組みを作り直すこともいとわなかった
  • 経営層がリーダーシップをもって自ら推進した

参考:経済産業省|中堅・中小企業向けデジタルガバナンス・コード実践の手引きp31-32

株式会社北國銀行(銀行業)

株式会社北國銀行は、石川県金沢市に本社を構える地方銀行です。外部のコンサルタントやお客様との話を通して、DXの重要性を感じ、移行をはじめました。

主に注力したこととしては、現場から問題点があればすぐにフィードバックをもらい、迅速に対応すること、デジタル人材育成に取り組み、部署横断的にチームを編成したこと、データサイエンティストやセキュリティ担当者などを必要な際に中途採用で確保することです。

これらの取り組みが功を奏し、2021年には地方銀行で初めて「DX 認定事業者」に認定されました。

成功のポイント

  • DX推進チームを部署横断的な編成にしたことで、各部署が個別最適に陥るのを防いだ
  • DXチームだけでなく、行員全体のデジタルリテラシー教育に注力した
  • 希望者が社内副業としてデータ分析業務にも従事できる制度を導入した

参考:経済産業省|中堅・中小企業向けデジタルガバナンス・コード実践の手引きp33-36

まとめ

データ分析基盤を適切に運用できれば、迅速かつ一貫した経営判断を促し、競争力を高めることにつながります。

しかし、データ分析基盤の導入が目的化し改善がおろそかになれば、運用体制に問題が起こり成果につながりません。

そのためには、どのようなデータが必要で、何を改善するのか、目的を定めたうえで運用体制を整えることが大切です。また、データ分析基盤をうまく活用するためには、専門家と相談しながら話を進めることも求められます。

まずはデータ分析基盤を使って何をしたいか、目的や必要なデータについて、専門家に相談してみることから始めましょう。

この記事を書いた人

西潤史郎(監修)/データ分析基盤.com編集部

uruos.net/Submarine LLC

データエンジニア/Editor Team