まずは堅実に定番RDBから
NoSQLブームで勉強会界隈では影が薄れた感があるRDBMSですが、当たり前の存在になっただけで健在です。当サイトが使っているCMS『WordPress』にはMySQLが組み込まれていますし、当サイトを置いているAWSでもPostgreSQLがRedShiftやAuroraなど基幹サービスで使われています。
統計モデリングを知らないのにディープラーニングでイキる人が信用出来ないのと同様、RDBMSを知らないのにNoSQLを語るのもイタい人です。私も昨年はElasticsearchなどのNoSQLやApache Igniteなどの分散データベースにハマっていましたが、自分のイタさに気づいたためPostgreSQLを学び直しています。
NoSQLや分散データベースを業務で使いこなしている方々の講演は勉強会で聞くことが出来ますが、彼らは「RDBMSを経験した上でNoSQLに進んでいる」のです。未経験者が講演を聞いていきなりNoSQLに行くのは『悪手』です。
初心者がNoSQLや分散RDBでやりたいことはPostgreSQLでも出来ている
NoSQLが主に扱うJSONはPosgreSQLでも『JSON型』として扱えます。IMDBで話題となったインメモリ処理はPostgreSQLでも駆使されています。分散データベースの特徴であるクエリの並列処理はPostgreSQLでもパラレルクエリとして実装されている上、特別の設定無しで自動的に使ってくれます。
昨年、実際にApage IgniteでPCサーバ5台のクラスタを構築しましたが、数10GB程度のデータではクエリに要する時間がシングルノードのPostgreSQLの方が速かったです。2.5GbEでもLANの遅延で並列処理のメリットが相殺されてしまいます。この規模のデータでクエリを高速化するなら、32コア64スレッドのパソコンでも買えば良いと思います。
こういう事実は、基本的すぎて勉強会ではなかなか教えてもらえないですね。エンジニアの方にとっては常識なのでしょうが……💦
PythonでPostgreSQLを扱うパッケージ『psycopg2』
PythonでPostgreSQLを扱う際は『psycopg2』というパッケージを使うのが一般的なようです。視覚化のためのパッケージ『Plotly』と併せてインストールします。
(base) masaru@ASUS-TUF-Gaming:~$ conda install psycopg2
(base) masaru@ASUS-TUF-Gaming:~$ conda install plotlyJupyter Notebookでの実装
必要なパッケージの読み込みなどの初期設定を行います。
# -*- coding: utf-8 -*-
import psycopg2
import pandas as pd
import plotly as py
import plotly.graph_objs as go
from plotly.offline import iplot, init_notebook_mode
init_notebook_mode()psychopg2でデータベース接続を定義します。
def connect():
con = psycopg2.connect("host=" + "localhost" +
" port=" + "5432" +
" dbname=" + "google_mobility" +
" user=" + "masaru" +
" password=" + "xxxxxxxxxxxx")
return con続いて、クエリを定義します。
def select_execute(con, sql):
with con.cursor() as cur:
cur.execute(sql)
rows = cur.fetchall()
return rows定義したクエリを実行します。
con = connect()
sql = "select * from google_mobility where SUB_REGION_1 = 'Tokyo'"
result = select_execute(con, sql)クエリの結果をPandasデータフレームに代入します。
df = pd.DataFrame(result)
df.head()
とりあえず全部カラム名をつけてあげます。
columns = ["id","country_region_code","country_region","sub_region_1","sub_region_2","metro_area","iso_3166_2_code","census_fips_code","date","retail","grocery","parks","transit","workplaces","residental","place_id"]
df.columns = columns
df.head()
Plotlyで表示するデータを設定します。
trace1 = go.Scatter(
x = list(df.date),
y = list(df.retail),
mode = 'lines+markers',
name = 'retail',
marker = dict(
color = 'blue'
)
)
trace2 = go.Scatter(
x = list(df.date),
y = list(df.grocery),
mode = 'lines+markers',
name = 'grocery',
marker = dict(
color = 'orange'
)
)
data = [trace1, trace2]続いて、Plotlyの特長であるスライダーを設定します。
layout = dict(
title='Time series with range slider and selectors',
xaxis=dict(
rangeselector=dict(
buttons=list([
dict(count=1,
label='1m',
step='month',
stepmode='backward'),
dict(count=6,
label='6m',
step='month',
stepmode='backward'),
dict(count=1,
label='YTD',
step='year',
stepmode='todate'),
dict(count=1,
label='1y',
step='year',
stepmode='backward'),
dict(step='all')
])
),
rangeslider=dict(
visible = True
),
type='date'
)
)グラフを描画します。
fig = dict(data=data, layout=layout)
iplot(fig)
スライダーを動かせるグラフの出来上がりです。
