出版社内容情報
Apache Sparkの仕組みとビッグデータ向けの大規模処理とML開発を徹底解説
本書は、ビッグデータを主な対象としたデータ分析フレームワークであるApache Spark、MLflow、Delta Lakeの中級入門書です。「動かしてみる」だけではなく、どのような仕組みになっているのか、どうすれば効率的な実装が行えるかまで踏み込みつつ、データAIの実装者がApache Spark、MLflow およびDelta Lakeを使いこなすための解説を行います。
本書では、単純なデータ分析と複雑なデータ分析を実行し、どのように機械学習アルゴリズムを採用していくか、解説していきます。Apache Sparkの導入から解説をはじめ、Spark SQLとデータフレーム、データセットを紹介していきます。そこから、Apache Sparkを利用した実践的な機械学習の方法を解説していきます。本書での学習を通じて、次のことが学習できます。
・Python、SQL、Scala、またはJavaの高レベルの構造化APIの学習
・Spark の操作とSQLエンジンの理解
・Spark 構成とSpark UIを使用したSpark操作の検査、調整、デバッグ
・JSON、Parquet、CSV、Avro、ORC、Hive、S3、またはKafkaといったデータソースへの接続
・構造化ストリーミングを使用してバッチ データとストリーミング データの分析を実行
・オープンソースのDelta LakeとSparkを使用して信頼性の高いデータ パイプラインを構築
・MLlibを使用する機械学習パイプラインの開発、MLflowを使用するモデルの管理、本番化
・［日本語版オリジナルコンテンツ］pandas DataFrame、SparkDataFrameに関する各種データフレームの使い分け
・［日本語版オリジナルコンテンツ］LLMやEnglish SDK for SparkなどAIを活用した新たなコーディングスタイル、LLMの利用方法の実践
※本書は『Learning Spark: Lightning-Fast Data Analytics 2nd Edition』の邦訳です。
内容説明
統合型アナリティクスエンジンの仕組みとビッグデータの大規模処理を徹底解説。基本操作からＤｅｌｔａ ＬａｋｅやＭＬｌｉｂを利用したパイプラインの構築まで紹介。
目次
１ Ａｐａｃｈｅ Ｓｐａｒｋ入門
２ Ａｐａｃｈｅ Ｓｐａｒｋのダウンロードと入門
３ Ａｐａｃｈｅ Ｓｐａｒｋの構造化ＡＰＩ
４ Ｓｐａｒｋ ＳＱＬとＤａｔａＦｒａｍｅ：組み込みデータソースの紹介
５ Ｓｐａｒｋ ＳＱＬとＤａｔａＦｒａｍｅ：外部データソースとのインタラクション
６ Ｓｐａｒｋ ＳＱＬとＤａｔａｓｅｔ：７ Ｓｐａｒｋアプリケーションの最適化およびチューニング
８ 構造化Ｓｔｒｅａｍｉｎｇ
９ Ａｐａｃｈｅ Ｓｐａｒｋを用いた信頼性の高いデータレイクの構築
１０ ＭＬｌｉｂによる機械学習
１１ Ａｐａｃｈｅ Ｓｐａｒｋによる機械学習パイプラインの管理、デプロイおよびスケール
１２ エピローグ：Ａｐａｃｈｅ Ｓｐａｒｋ ３．ｘ
