M.Hiroi's Home Page

Linux Programming

お気楽 SQLite 超入門

[ Home | Linux | SQLite ]

Python DE SQLite

SQLite は Perl, Python, Ruby などのスクリプト言語からでも簡単に利用することができます。本稿では Python (ver 2.7) から SQLite にアクセスする基本的な方法について簡単に説明します。

●インストール

Python は ver 2.5 から sqlite3 用のライブラリが標準で添付されています。別途インストールする必要はありません。

●接続と切断

Python で SQLite を使用する場合、最初に import sqlite3 でモジュール sqlite3 をインポートしてください。データベースの接続はメソッド connect を、切断は close を使います。次の例を見てください。

リスト : 接続と切断 (test01.py)

# coding: utf-8
import sqlite3

# 接続 
con = sqlite3.connect("sample_python.sqlite")

# 切断
con.close()
print "OK"

connect の引数にはデータベース名を指定します。データベース名と一致するファイルが見つからない場合、新しいファイルが生成されます。同名のファイルがある場合はそれをデータベースとして使用します。connect の返り値 (Connection オブジェクト) はデータベースの操作に必要なので、変数 con に格納しておきます。切断はメソッド close を呼び出すだけです。

●テーブルの作成

Python で SQL 文を実行する場合、最初に Connection オブジェクトのメソッド cursor を呼び出して Cursor オブジェクトを生成します。SQL 文の実行は、Cursor オブジェクトのメソッド execute で行います。execute は引数に渡された文字列を SQL 文として実行します。

execute は SQL 文にパラメータ情報を含めることができます。パラメータを表す方法は二種類あって、ひとつはパラメータを ? で表す方法です。これを qmark スタイルといいます。パラメータに対応する値は「タプル (tuple)」に格納して、execute の第 2 引数に渡します。

もう一つの方法は名前を使う方法です。これを named スタイルといいます。named スタイルの場合、SQL 文の中では名前の前にコロン ( : ) をつけて表します。そして、execute の第 2 引数には名前と値を格納した「辞書 (dictionary)」を渡します。

それでは簡単な例題として、次に示すテーブルを作成してみましょう。

テーブル名 : person
idnameagesexemail
1Foo50malefoo@yahoo.co.jp
2Bar35femalebar@yahoo.co.jp
3Baz40malebaz@yahoo.co.jp
4Oops30femaleoops@yahoo.co.jp
リスト : テーブルの作成 (test02.py)

# coding: utf-8
import sqlite3

# 接続 
con = sqlite3.connect("sample_python.sqlite")
cur = con.cursor()

# データベースの作成
cur.execute("create table person (id integer, name text, age integer, sex text, email text)")
for xs in [(1, 'Foo', 50, 'male', 'foo@yahoo.co.jp'),
           (2, 'Bar', 35, 'female', 'bar@yahoo.co.jp'),
           (3, 'Baz', 40, 'male', 'baz@yahoo.co.jp'),
           (4, 'Oops', 30, 'female', 'oops@yahoo.co.jp')]:
    cur.execute("insert into person (id, name, age, sex, email) values (?,?,?,?,?)", xs)

# コミット
con.commit()

# 切断
con.close()
print "OK"

SQL では関連した複数の処理を一つの処理にまとめたものを「トランザクション (transaction)」といいます。トランザクションは SQL 文の BEGIN で開始します。この場合、データベースの変更を伴う行う作業 (insert, update など) では、そのつどデータベースに変更が反映されるのではありません。トランザクションを終了して実際にデータベースの変更を行う SQL 文が COMMIT (コミット) です。

SQLite の場合、insert や update などの SQL 文を実行するとき、SQLite は暗黙のうちにトランザクションを開始します。Perl で SQLite を使用する場合、オートコミット (AutoCommit) モードがオンに設定されているので、明示的にコミットする必要はないのですが、Python の sqlite3 ではオートコミットモードがオフ [*1] になっているので、データベースに変更を反映するため、メソッド commit を必ず呼び出してください。

なお、メソッド executemany を使用すると、複数の SQL 文を一括して実行することができます。

リスト : メソッド executemany の使用例

cur.executemany("insert into person (id, name, age, sex, email) values (?,?,?,?,?)",
                [(1, 'Foo', 50, 'male', 'foo@yahoo.co.jp'),
                 (2, 'Bar', 35, 'female', 'bar@yahoo.co.jp'),
                 (3, 'Baz', 40, 'male', 'baz@yahoo.co.jp'),
                 (4, 'Oops', 30, 'female', 'oops@yahoo.co.jp')])
-- note --------
[*1] Python でオートコミットモードをオンにするには、isolation_level に None を指定します。
リスト : オートコミットモードの設定

con = sqlite3.connect("sample_python.sqlite", isolation_level = None)

●データの抽出

select 文の実行結果を取得する場合、Python では 3 つの方法があります。最初はカーソルオブジェクトをイテレータ (iterator) として使う方法、二番目はカーソルオブジェクトのメソッド fetchone を呼び出して 1 行ずつデータを取得する方法、最後はメソッド fetchall を呼び出して全てのデータを受け取る方法です。

それでは実際に試してみましょう。

リスト : データの抽出 (test03.py)

# coding: utf-8
import sqlite3

# 接続 
con = sqlite3.connect("sample_python.sqlite")
cur = con.cursor()

# イテレータ
cur.execute("select * from person")
for xs in cur:
    print xs

# メソッドで 1 行ずつ取り出す
cur.execute("select * from person")
while True:
    xs = cur.fetchone()  # データがない場合は None を返す
    if not xs: break
    print xs

# 全部のデータを取り出す
cur.execute("select * from person")
print cur.fetchall()

# 切断
con.close()
print "OK"
mhiroi@mhiroi-VirtualBox:~/sqlite$ python test03.py
(1, u'Foo', 50, u'male', u'foo@yahoo.co.jp')
(2, u'Bar', 35, u'female', u'bar@yahoo.co.jp')
(3, u'Baz', 40, u'male', u'baz@yahoo.co.jp')
(4, u'Oops', 30, u'female', u'oops@yahoo.co.jp')
(1, u'Foo', 50, u'male', u'foo@yahoo.co.jp')
(2, u'Bar', 35, u'female', u'bar@yahoo.co.jp')
(3, u'Baz', 40, u'male', u'baz@yahoo.co.jp')
(4, u'Oops', 30, u'female', u'oops@yahoo.co.jp')
[(1, u'Foo', 50, u'male', u'foo@yahoo.co.jp'), (2, u'Bar', 35, u'female', u'bar@yahoo.co.jp'), 
(3, u'Baz', 40, u'male', u'baz@yahoo.co.jp'), (4, u'Oops', 30, u'female', u'oops@yahoo.co.jp')]
OK

カラム名でアクセスしたい場合は、Connection オブジェクトの変数 row_factory に sqlite3.Row をセットしてください。

リスト : データの抽出 (test04.py)

# coding: utf-8
import sqlite3

# 接続 
con = sqlite3.connect("sample_python.sqlite")
con.row_factory = sqlite3.Row
cur = con.cursor()

# メソッドで 1 行ずつ取り出す
cur.execute("select * from person")
while True:
    xs = cur.fetchone()  # データがない場合は None を返す
    if not xs: break
    print xs["name"], xs["email"]

# 切断
con.close()
print "OK"
mhiroi@mhiroi-VirtualBox:~/sqlite$ python test04.py
Foo foo@yahoo.co.jp
Bar bar@yahoo.co.jp
Baz baz@yahoo.co.jp
Oops oops@yahoo.co.jp
OK

●メモリ上にデータベースを作成する

SQLite はデータベース名に :memory: を指定すると、メモリ上にデータベースを作成することができます。簡単な例として、拙作のページ Algorithms with Python 幅優先探索と反復進化 の 8 パズルのプログラムで、Python の「辞書」のかわりに SQLite を使ってみましょう。プログラムは次のようになります。

リスト : 8 パズルの解法 (SQLite 版)

# 幅優先探索
def bf_search(start):
    q = Queue(181440)
    q.enqueue(State(start, start.index(0), None))
    con = sqlite3.connect(':memory:')
    cur = con.cursor()
    cur.execute('create table state (val text)')
    cur.execute('create index state_idx on state(val)')
    set_state = 'insert into state (val) values (?)'
    get_state = 'select val from state where val = ?'
    cur.execute(set_state, (str(start),))
    con.commit()
    while not q.isEmpty():
        a = q.dequeue()
        for x in adjacent[a.space]:
            b = a.board[:]
            b[a.space] = b[x]
            b[x] = 0
            key = str(b)
            cur.execute(get_state, (key,))
            if cur.fetchone(): continue
            c = State(b, x, a)
            if b == GOAL:
                print_answer(c)
                return
            q.enqueue(c)
            cur.execute(set_state, (key,))
            con.commit()

変数 set_state にデータの挿入を行う SQL 文を、変数 get_state にデータを取り出す SQL 文をセットします。あとは、辞書のかわりに cur.execute(set_state, (key,)) と cur.execute(get_state, (key,)) を呼び出すだけです。実行結果は次のようになりました。

mhiroi@mhiroi-VirtualBox:~/sqlite$ time python eight.py
[8, 6, 7, 2, 5, 4, 3, 0, 1]
[8, 6, 7, 2, 0, 4, 3, 5, 1]
[8, 0, 7, 2, 6, 4, 3, 5, 1]
[0, 8, 7, 2, 6, 4, 3, 5, 1]
[2, 8, 7, 0, 6, 4, 3, 5, 1]
[2, 8, 7, 3, 6, 4, 0, 5, 1]
[2, 8, 7, 3, 6, 4, 5, 0, 1]
[2, 8, 7, 3, 6, 4, 5, 1, 0]
[2, 8, 7, 3, 6, 0, 5, 1, 4]
[2, 8, 0, 3, 6, 7, 5, 1, 4]
[2, 0, 8, 3, 6, 7, 5, 1, 4]
[2, 6, 8, 3, 0, 7, 5, 1, 4]
[2, 6, 8, 0, 3, 7, 5, 1, 4]
[2, 6, 8, 5, 3, 7, 0, 1, 4]
[2, 6, 8, 5, 3, 7, 1, 0, 4]
[2, 6, 8, 5, 3, 7, 1, 4, 0]
[2, 6, 8, 5, 3, 0, 1, 4, 7]
[2, 6, 0, 5, 3, 8, 1, 4, 7]
[2, 0, 6, 5, 3, 8, 1, 4, 7]
[2, 3, 6, 5, 0, 8, 1, 4, 7]
[2, 3, 6, 0, 5, 8, 1, 4, 7]
[2, 3, 6, 1, 5, 8, 0, 4, 7]
[2, 3, 6, 1, 5, 8, 4, 0, 7]
[2, 3, 6, 1, 5, 8, 4, 7, 0]
[2, 3, 6, 1, 5, 0, 4, 7, 8]
[2, 3, 0, 1, 5, 6, 4, 7, 8]
[2, 0, 3, 1, 5, 6, 4, 7, 8]
[0, 2, 3, 1, 5, 6, 4, 7, 8]
[1, 2, 3, 0, 5, 6, 4, 7, 8]
[1, 2, 3, 4, 5, 6, 0, 7, 8]
[1, 2, 3, 4, 5, 6, 7, 0, 8]
[1, 2, 3, 4, 5, 6, 7, 8, 0]

real	0m13.039s
user	0m12.860s
sys	0m0.048s

実行環境 : Lubuntu 16.04 on VirtualBox, Core i7-2670QM 2.20GHz

辞書を使ったバージョンでは約 1.9 秒でした。時間がかかるのは当然なのですが、10 倍以上遅くなるのかなと思っていたので、この結果にはちょっと驚きました。ところで、このプログラムはコミットしていますが、辞書のかわりに使うのであればコミットしなくても動作します。実行結果は次のようになりました。

mhiroi@mhiroi-VirtualBox:~/sqlite$ time python eight.py
[8, 6, 7, 2, 5, 4, 3, 0, 1]
[8, 6, 7, 2, 0, 4, 3, 5, 1]
[8, 0, 7, 2, 6, 4, 3, 5, 1]

   ・・・ 省略 ・・・

[1, 2, 3, 4, 5, 6, 0, 7, 8]
[1, 2, 3, 4, 5, 6, 7, 0, 8]
[1, 2, 3, 4, 5, 6, 7, 8, 0]

real	0m7.749s
user	0m7.644s
sys	0m0.068s

実行環境 : Lubuntu 16.04 on VirtualBox, Core i7-2670QM 2.20GHz

約 1.7 倍速くなりました。コミットがちょっと時間のかかる処理であることがよくわかりました。

●参考 URL

  1. 11.13. sqlite3 — SQLite データベースに対する DB-API 2.0 インタフェース, (Python 2.7.x ドキュメント)
  2. SQLite3を使用する, (山本隆さん)

●プログラムリスト

# coding: utf-8
#
# eight.py : 8 Puzzle (SQLite 版)
#
#            Copyright (C) 2016 Makoto Hiroi
#
import sqlite3

class Queue:
    def __init__(self, size):
        self.size = size
        self.buff = [None] * size
        self.front = 0
        self.rear = 0
        self.count = 0

    def enqueue(self, x):
        if self.count >= self.size: raise 'Queue is full'
        self.buff[self.rear] = x
        self.rear += 1
        self.count += 1
        if self.rear == self.size: self.rear = 0

    def dequeue(self):
        if self.count <= 0: raise 'Queue is empty'
        x = self.buff[self.front]
        self.front += 1
        self.count -= 1
        if self.front == self.size: self.front = 0
        return x

    def isEmpty(self):
        return self.count == 0

# 隣接リスト
adjacent = (
    (1, 3),       # 0
    (0, 2, 4),    # 1
    (1, 5),       # 2
    (0, 4, 6),    # 3
    (1, 3, 5, 7), # 4
    (2, 4, 8),    # 5
    (3, 7),       # 6
    (4, 6, 8),    # 7
    (5, 7)        # 8
)

# ゴールの局面
GOAL = [1, 2, 3, 4, 5, 6, 7, 8, 0]

##### 幅優先探索 #####

# 局面の定義
class State:
    def __init__(self, board, space, prev):
        self.board = board
        self.space = space
        self.prev = prev


def bf_search(start):
    q = Queue(181440)
    q.enqueue(State(start, start.index(0), None))
    con = sqlite3.connect(':memory:')
    cur = con.cursor()
    cur.execute('create table state (val text)')
    cur.execute('create index state_idx on state(val)')
    set_state = 'insert into state (val) values (?)'
    get_state = 'select val from state where val = ?'
    cur.execute(set_state, (str(start),))
    # con.commit()
    while not q.isEmpty():
        a = q.dequeue()
        for x in adjacent[a.space]:
            b = a.board[:]
            b[a.space] = b[x]
            b[x] = 0
            key = str(b)
            cur.execute(get_state, (key,))
            if cur.fetchone(): continue
            c = State(b, x, a)
            if b == GOAL:
                print_answer(c)
                return
            q.enqueue(c)
            cur.execute(set_state, (key,))
            # con.commit()

# 表示
def print_answer(x):
    if x is not None:
        print_answer(x.prev)
        print x.board

# 実行
bf_search([8, 6, 7, 2, 5, 4, 3, 0, 1])

Copyright (C) 2016 Makoto Hiroi
All rights reserved.

[ Home | Linux | SQLite ]