トップ > プラットフォーム > 新卒数年目メンバーが贈るGoogle Cloud Next '23 参加レポート

新卒数年目メンバーが贈るGoogle Cloud Next '23 参加レポート

プラットフォーム 配信基盤

サムネイル

Profile Image
矢野 完人（やの まさひと）
デジタルコンテンツ開発本部 動画配信開発部 配信基盤グループ マネージャー

新卒で2016年にDMM.comに入社。CTO室に配属され、新規事業立案やR&Dに従事。2017年に動画配信事業部に異動し、配信基盤グループにて設計・開発・運用・マネジメントなどさまざまな業務を行う。配信基盤グループでは、国内有数のトラフィック量とコンテンツ数を有しているDMM TVなどの動画配信基盤の開発運用を行なっている。
@yanoshi

Profile Image
工藤 純
プラットフォーム事業本部 第3開発部 マイクロサービスアーキテクトグループ SREチーム

2021年にDMM.comに新卒入社。現在はプラットフォーム事業本部内のSREとして、Kubernetesをベースにしたマイクロサービス基盤の構築・運用といったプラットフォームエンジニアリング、同部内へのSLI/SLO文化の推進などを行っている。
@j_nk71

Profile Image
小林 辰彰
デジタルコンテンツ開発本部 動画配信開発部 配信インフラグループ SREチーム

新卒で2019年にDMM.comに入社。インフラ部の配信基盤グループへ配属される。 動画配信で利用するエンコーダーやストレージサーバーなどオンプレ環境の保守運用業務に従事。 現在は、Google Cloudを利用したDMM TVのインフラ設計から保守運用まで開発業務全般に携わっている。

はじめに

はじめましての人ははじめまして。知っている人はこんにちは。動画配信開発部 配信基盤グループでマネージャーをやっている矢野(@yanoshi)と申します。

突然寒くなりましたね。
まだ夏本番のとっても暑かった頃に、ありがたいことにちょっと涼しいところへ行く機会を得ました。そうです、Google Cloud Nextに参戦してきました。

そんなイベント参加レポートを、一緒に行った工藤さん、小林さんと書いていきたいと思います。
もう1カ月以上経ってしまい、ちょっとネタとして旬を過ぎてしまった気もしていますので、あまり日本のインターネットでは話題になっていないような内容を伝えられればと思っています。お時間のない方はぜひ興味ある目次タイトルをポチしていただければと思います。
また、最近何かしら話題のサンフランシスコの雰囲気を最新事情みたいなのも含めて少しでも伝えられたら幸いです。

GCP謹製CDNの今とCrunchyrollでの活用事例

まずは前振りを担当した矢野からのレポートです。
わたくしごとですが、動画を配信する基盤を作っておりまして、昨年末リリースされたDMM TVの動画配信基盤も私たちのチームで開発しております。
DMM史に残る！「DMM TV」＆「DMMプレミアム」開発秘話〜世界トップクラスの動画配信技術編〜

そんな私たちなので、「大きなトラフィックをどのように捌くか」については常に興味関心を持っています。
特にコロナ禍以降、ライブ配信などの、大量のユーザーに安定して映像データを継続的に送り届ける必要があるユースケースも増えてきました。私たちの基盤ではオンプレをメインに利用していますが、大量のユーザーに多くのデータを届ける必要のあるライブ配信等では、CDNも多用しています。

CDNといえば群雄割拠が熾烈な競争を繰り広げる市場という感じですが、Googleも例に漏れずその競争に参加しており、CDNを開発しています。特に私たちが注目しているのは動画配信等に特化していると謳っているMedia CDNです。YouTubeの配信技術が用いられているという触れ込みでスタートしたCDNで、YouTubeと同じ場所にエッジサーバーがあるという話です。大規模配信が得意そうな雰囲気です。
このMediaCDNに関する発表をいろいろと聞けるかな？と期待していたのですが、世は大生成系AI時代…思ったよりもMedia CDNの発表はありませんでした。

そんな貴重なMedia CDNに関するセッションである「Elevate end user experience with planet scale Google Cloud CDN（地球規模の Google Cloud CDN でエンドユーザー エクスペリエンスを向上）」から得られた面白話をこちらに記載しておこうと思います。
Google Cloud Next のネットワーキングとセキュリティ: 見逃せないセッションのガイド
余談ですがなかなか力強いタイトルですよね。

Media CDNは地球規模のCDN

「知ってた」という感じですが、まぁそういう話です。世界はもちろんの事、日本の多くの地域にもエッジサーバーがあることが分かります。YouTubeの普及具合を考えると当然という感じはします。


後からGCPの方とお話したのですが、この地図はアジアパシフィック圏については結構適当らしく、何なら日本にはもっとエッジサーバーがあるらしいです。とても素敵な話ですね。

これらのエッジサーバーを活かし安定した通信が実現されているそうです。米国においては市場トップCDNベンダー3社に対して、レスポンスタイムが95パーセンタイルで20～40%高速であるというデータもあるとのことでした。DMM TVはグローバル展開していないサービスなので米国での状況は正直そこまで興味はないのですが、さすがYouTubeと同じインフラ構成上に乗っかっているだけはあるパフォーマンスですよね。

Media CDNによるビジネスへの影響 (Mojの例)

インドのShareChat社が開発するショートビデオプラットフォームMojでもMedia CDNを利用しているらしく、導入によって再生開始までの時間が10～15%ほど改善したそうです。
またそれによりユーザーの再生時間が1.5%改善(おそらく増えたという意味)したそうです。ショート動画の再生開始時間が減ると、相対的に再生中の時間が増えるでしょうから、それはそうだろうという感じですが、いい話ですね。

CrunchrollでのMedia CDN活用事例

海外のアニメ動画配信サービスとして存在感を増しているCrunchrollですが、Media CDNを結構使っているようです。
活用開始の流れがなかなかスピード感があっていい話でした。

  • 2022年4月18日: Media CDNの紹介を受ける
  • 2022年5月26日: ステージング環境で使えるように準備を開始
  • 2022年6月9日: ステージング環境でのテスト準備が完了
  • 2022年6月10日: 本番環境でのテスト準備が完了
  • 2022年6月22日: ステージング環境でのマルチCDNリストにMedia CDNを追加
  • 2022年7月13日: 北米の1%のトラフィックをMedia CDNに流す設定に
  • 2022年8月22日: 北米及びヨーロッパ・中東・アフリカ地域の25%のトラフィックをMedia CDNに流す設定に
  • 2022年8月22日: 北米及びヨーロッパ・中東・アフリカ地域の最大50%のトラフィックをMedia CDNに流す設定に

「他のCDNと変わりなく簡単に使えるよ」ということのようです。これは我々のようなマルチCDNで構成を組んでいる事業者にはありがたい点ですね。

そんな形で導入されたMedia CDNによってどんな効果を得られたのかが紹介されていました。

  • 再生開始までの平均時間が2.6秒から2.2秒になった
  • 平均通信速度は30%上昇し、より高画質でより安定した配信を実現
  • ユーザー体験の向上により、カスタマーサポートへのサポートチケットや電話が前年比で20%減少

ということで、ユーザー体験が向上しました。タイトル伏線回収です。これは興味深い効果ですね。
特に「問い合わせが減る」というのは非常に面白いと感じました。CDNの変更により、それがうまくいけばユーザー体験が向上することは簡単に想像がつきます。ただ、それらを定量的に評価しようにもユーザー環境による乱数が多く、体験の向上は定性的な評価になりがちな印象を持っていました。
問い合わせ数という定量的指標に対して明らかな変化があるというのはとてもいい話ですし、Media CDNに限らずCDNベンダーを変更した際の有用な評価指標の一つになりそうだと感じました。大変良い知見が得られました。

ただここで示されている成果は、非常にグローバルワイドな情報で、インターネットインフラが充実している日本のような国においては、ここまでうまくはいかなさそうだなぁ…と個人的所感を持っています。
しかしながら、Media CDN(≒YouTube)のインフラの充実っぷりを感じられる良いエピソードで、「さすがGoogle」と言いたくなるような成果だと感じました。

余談ですが、Crunchrollさんはアニメ配信サービスということもあり、私は最近勝手にシンパシーを感じているサービスでした。その事例紹介ということでテンションが少しあがっており、面白いお話が聞けて満足しています。また彼らのインフラ構成が割とわたしたちの基盤に似ていて、その点でも更にシンパシーを感じましたね。あとHimeちゃんというマスコットキャラクターも大変可愛らしく、とても好感を持っています。

GCPの最新LLM: PaLM2の新機能とデモ

プラットフォーム事業本部マイクロサービスアーキテクトグループでSREをしている工藤です。2021年度入社の新卒です。
海外カンファレンスへの参加は今回が初めてでした。

普段はGKEやEKS、開発効率向上のためのエコシステム開発などを行っています。
GKE関連についての話を聞きにいく気満々でGoogle Cloud Next’23に臨んだのですが、実際カンファレンス全体を通して、「生成AI頑張っていくぞ！！」という雰囲気を感じました。
（GKE関連の話としては、GKE Enterpriseの情報が少々出ていたぐらいで、がっつりGKEに革新的な機能やアップデートが入る！！という話はカンファレンス中は聞かなかったです。）

せっかくなので今回はカンファレンスで推されている生成AI関連のセッションとして“What's new with PaLM 2: Reimagine what's possible with Vertex AI”が印象に残っているので紹介させていただきます。

PaLM2での新機能

PaLM2はGoogleの開発した中で現時点で最新のLLMです。
正確にはCloud Nextよりも前に発表されているものもありましたが、セッションではPaLM2での新機能について、紹介されていました。


一部抜粋すると

  • 38ヶ国語に対応（この中に日本語も含まれている）
  • 90+の言語がPrivate Preview
  • 32kのcontext windowに対応
  • 新たにモデルを4つ追加
  • Batch Predicitonに対応

Bach Predictionはtext-bisonでGAのようで、発表時点だと一つのリクエストで最大10万のプロンプトを与えられ、将来的には100万プロンプトまで拡張しようとしていると仰っていました。
Batch Predictionは料金も安めなので、リアルタイム性が不要で日次的に何かしらの書類をまとめて処理する、などのユースケースにフィットしていそうですね。

コンテキストウィンドウの長さについてはGPT4と同じ水準まできました。
そして何より日本語対応はかなりうれしいところです。
全体的な印象としては、セッション中でも語られてはいますがエンタープライズでの利用を強く意識しており、エンタープライズの開発側がうれしくなりそうな機能が含まれていると感じました。

Demo : Grounding with Enterprise Search

以降でDemoの紹介をしていきます。
Groundingは今回のカンファレンスでGoogleがかなりアピールしていた技術で、Responsive AIという課題の一部を解決するアプローチと言えます。Groundingがどこまでしっかりワークしてハルシネーションを軽減できるかはまだ未知ですが、個人的にはかなり注目している仕組みです。

このデモはエンタープライズ検索を利用したGroudingに関するデモでした。
なんと数分でグラウンディングを利用したエンタープライズ検索をするアプリケーションが作れるという内容です。

シンボルバンクという架空企業のオンボーディング資料が大量にある状況下で、それがGCSにPDF形式でアップロードされています。Google CloudのGen App Builderを利用してこれらのPDFの内容について質問できる仕組みを作る、というデモになっています。

下記がデータソースの選択部分で、今回のDemoではPDFを利用していましたが、BigQueryのデータやWebsiteのURL、APIからデータをインポートするといったこともできるようになっています。

バケットを選択したら各PDFがデータソースとして登録されます。
セッションの説明では、取り込みに数分かかるようです。
（セッション時は時間の都合上、完成品はこちらです、という案内で実際の挙動の説明に進みました。）

これだけで作業としてやることはほぼ終わっている状態になっています。
たとえばCEOは誰？という情報を聞くと、生成AIが回答をして、そのソースとしてPDFファイルを示してくれています。とてもすごいですね。


デモとしては簡単なGUI操作を少しするといったものでしたが、それだけで済むぐらいに仕組みが作り込まれている、ということが表れていると思います。
やはり、Groundingを含めたエンタープライズ検索がこんなにも簡単に、独自のベクターのデータストアをセットアップすることもなくGUIポチポチで実現できる、というのがとても熱いと思いました。

このセッションを聞いてみて

自身は生成AIそのものに関して業務で直接触れているわけではないものの、実際こうしたカンファレンスで自分が普段業務で直接触らない分野のセッションを聴講してみるのは、とても学びがあって良いな、と思いました。今後もカンファレンスは変に専門分野のみを選びすぎず、色々なセッションを聞いていきたいところです。

自身の業務に直接関連しているところも重要ですが、例えば今回のセッションでは、社内で何かしらのBotとして動作させる仕組みを用意することで業務効率やオンボーディング体験をよくできる可能性を感じました。
しかも自分が生成AIのスペシャリストでなくともエンタープライズ検索を実現できそうである、というプロダクトなので、そういった点でもかなり実現可能性の高い話だなと思っています。

DMMでは社内制度で月100ドルまで自由にクラウドを使える福利厚生制度があるので、それを利用して生成AI関連のプロダクトを触って、実験してみようかと思います！

Cloud Spanner の最新情報と活用事例

こんにちは。デジタルコンテンツ開発本部の小林です。
2019年に新卒入社し、現在は SRE として DMM TV の開発に携わっております。

昨年リリースした DMM TV では Google Cloud を採用しており、多くのシステムが Google Cloud の基盤上で動いています。リリースから1年ほど経過した現在でも会員数は増加を続けており、特に負荷が高まるライブ配信にも耐えられるようシステムの最適化に取り組んでおります。そのため、Google Cloud の最新情報や他社の活用事例のキャッチアップを目的としてイベントへ参加してきました。

弊チームでは主に Google Kubernetes Engine（GKE）や Cloud Spanner、BigQuery 等のプロダクトを利用しているため、コンピュートやデータベース関連のセッションを拝聴してきました。
Cloud Spanner を中心にデータベース関連のセッションをいくつか紹介します。

Cloud Spanner の最新情報

What's next for Google Cloud databases のセッションでは、AlloyDB AI や Cloud Spannerの新機能、Cloud SQL Enterprise Plus Editionをはじめとしたデータベース全体のアップデートに関する発表がありました。Cloud Spanner を利用していることもあり、特に Cloud Spanner の Duet AI 対応と Data Boost の機能追加に関心を持ちました。

Duet AI in Cloud Spanner のデモでは、Spanner Studio 上でクエリの内容を自然言語でコメントとして追加すると、Duet AI が迅速にクエリを生成していました。仮に利用するユーザーがSQLに不慣れであったとしても、自然言語から SQL を生成することができます。

また、新たに発表された Data Boost は、分析やデータエクスポートといった用途において通常のコンピューティングノードと分離されたオンデマンドノード上で処理を実行できる機能です。Data Boost を利用することにより、トランザクションワークロードにほとんど影響を与えることなく、分離された環境でリアルタイムデータ分析が可能となります。

デモでは BigQuery の連携クエリを用いて Cloud Spanner 内のデータベースを参照するシナリオにおいて、Data Boost を有効化していない場合と有効化した場合で分析クエリがコンピューティングノードに与える負荷影響を比較していました。Data Boost を有効化していない場合ではスパイクが発生したのに対し、有効化した場合にはスパイクが発生しないという結果となっていました。

特にデータ量が多くリアルタイム分析を必要とされるユースケースにおいて、分析系クエリの負荷を考慮したノードのオーバプロビジョニングの必要が無くなるので、用途次第では低コストで運用することができます。DMM TV でも BigQuery の連携クエリで Cloud Spanner を参照しています。その集計クエリにより定期的な負荷のスパイクが実際に発生しているので、現在弊チームでもData Boost の利用を検討しています。

Cloud Spanner の活用事例

Building next-generation databases at Google: Cloud Spanner under the hood のセッションでは、Cloud Spanner の概要や活用事例が紹介されていました。活用事例としては、Gmailや Google Ads、YouTube を始めとしたGoogleの多くのサービスで Cloud Spanner を利用していると紹介されていました。

セッションの後半では Google Photos の活用事例がピックアップして紹介されていました。規模感としては月間アクティブユーザー数は10億人以上、4兆枚以上の写真とビデオが保存されているそうです。弊社でもデジタルコンテンツ販売プラットフォーマーとして多くの画像やビデオデータを保有していますが、異次元の数字に驚愕しました。

アーキテクチャとしては、画像やビデオデータは Cloud Storage（GCS）へ保存され、ファイル名等のメタデータは Cloud Spanner へ保存しているそうです。また、マイクロサービスから GCS および Cloud Spanner を参照しており、ML で各種ラベル付与などの処理をしているとのことでした。

基調講演でも Gmail を Cloud Spanner へ移行した事例が紹介されており、Google の多くのサービスで Cloud Spanner が利用されていました。Cloud Spanner は 10 月にパフォーマンス改善が発表され、Data Boostなど新機能の追加が発表され利便性が向上しています。今後のアップデートにも期待しています。

サンフランシスコはどうだった？(治安とか)

近頃のインターネットでは「サンフランシスコの治安が悪化している」というようなニュースを見かける事が多いように感じています。
「ぶっちゃけた話、どうだったの？」というようなことをちらっとご紹介できればと思います。 (参加メンバー全員が初サンフランシスコだったため、過去との比較は行っていません)

基本的にはあまり治安の良さは感じませんでした。昔サンフランシスコに旅行したことのある人から聞いていたイメージとちょっと違っていたので、悪くなっているのかもしれません。

Cloud Next前日に少し時間があったので、メンバーみんなでゴールデンゲートブリッジへ行ってきました。まさに有名なあの光景が広がっていて「フルハ◯スじゃん！」「Z◯◯Mの背景じゃん！」とみんなでテンションが上がっていました。

そこで端的に治安状況を表す良い風景があったので掲載します。

小さくて見えにくいかもしれませんが、右上にある看板では車上荒らしに対する注意喚起が行われています。その眼の前で真新しい車上荒らしの痕跡が広がっているのは、なかなかの社会風刺でした。

この場所以外でも車上荒らしの痕跡を数多くみました。(流石に犯行真っ最中には出会いませんでしたが…)

サンフランシスコでは、被害総額が950ドル以下の窃盗は軽犯罪となり、逮捕されなくなった（？）みたいなので、チープな車は襲われてしまうのかもしれません。

街中にはホームレスが多く、その中には明らかに挙動がおかしい、いわゆるジャンキーっぽい方もいました。ホテルはヒルトン・サンフランシスコ・ユニオンスクエアだったのですが、サンフランシスコの中でも3本の指に入る治安の悪い地域「テンダーロイン」の端に建ったホテルだったので、ワンブロック向こうの雰囲気はなかなか異質でした。3人でそちら側に買い物に行きましたが、そこでも少しホームレスと店員さんがトラブルになっており治安の悪さを感じましたね。

ただ一方で、UberやLyftでは怖い経験をすることはなく、空港からホテルの最寄りまでは地下鉄(BART)を利用しましたが、そちらも問題ありませんでした。観光地エリアでも同じ感じだったので、不用意な場所を歩かなければ大丈夫という感じはします。

いろいろと記載しましたが、総じて海外出張は楽しいものでした！

最後に

示し合わせたわけではないのですが、蓋を開けてみると今回の弊社からのGoogle Cloud Nextの参加者は全員新卒で弊社に入社したメンバーでした。
新卒メンバーがこういった海外のテックイベントに参加できることはシンプルに良い経験だと感じています。

今回私たちはカンファレンス参加支援制度と呼ばれる福利厚生制度を用いて参加しました。カンファレンス参加費用をまるっと会社が負担してくれる素晴らしい制度です。DMMには他にも素敵なエンジニア支援福利厚生制度があるので、興味のある方はご覧ください。
DMM Tech Empowerment -エンジニア・デザイナーのためのサポート制度パッケージを公開！

新卒入社後すぐからこういったイベントに参加するチャンスがあったりするので、「海外のテックカンファレンスに参加してみたい！」といったモチベーションのある学生さんにはぜひ伝えたい弊社の魅力だなと思っています。年中絶賛新卒募集中なので、エンジニア志望のつよつよ学生な皆さん、ご応募お待ちしています。 (25卒の募集もすでに開始しています)
DMMグループ 新卒採用

矢野のチーム (動画配信開発部 配信基盤グループ)
配信基盤開発エンジニアの求人｜採用情報｜DMM Group
動画配信基盤VR Video Player開発エンジニアの求人｜採用情報｜DMM Group

工藤のチーム（PF事業本部 マイクロサービスアーキテクトグループ SREチーム)
マイクロサービスアーキテクトグループ/SREチームの求人｜採用情報｜DMM Group

小林のチーム（動画配信開発部 配信インフラグループ SREチーム）
SREの求人｜採用情報｜DMM Group