collections模块
在内置数据类型（dict、list、set、tuple）的基础上，collections模块还提供了几个额外的数据类型：Counter、deque、defaultdict、namedtuple、OrderedDict等。
namedtuple: 生成可以使用名字来访问元素内容的tuple
# tuple可以用来表示一个坐标
from collections import namedtuple
point = namedtuple('poi',['x','y','z'])
p = point(1,2,3)
print(p.x) #
print(p.y) #
print(p.z) #
print(p) # poi(x=1, y=2, z=3) #类似的，如果要用坐标和半径表示一个圆，也可以用namedtuple定义
from collections import namedtuple
Circle = namedtuple('circle',['x','y','r'])
c = Circle(5,5,10)
print(c) # circle(x=5, y=5, r=10)
namedtuple
deque: 双端队列，可以迅速的从另外一侧追加和推出对象
from collections import deque
q = deque(['a','b','c'])
q.append('z') # deque(['a', 'b', 'c', 'z']) 从后面放数据
print(q)
q.appendleft(5)
print(q) # deque([5, 'a', 'b', 'c', 'z']) 从前面放数据
q.pop() # 从后面删除数据
print(q) # deque([5, 'a', 'b', 'c'])
q.popleft() # 从前面删除数据
print(q) # deque(['a', 'b', 'c'])
deque
queue：队列 （放到这里是为了和collections中的双端队列deque做个对比）
import queue
q = queue.Queue()
q.put([1,2,3])
q.put(5)
q.put(6)
print(q) # <queue.Queue object at 0x000001660CEAEBE0>
print(q.qsize()) # 3 qsize是获取总的元素个数
print(q.get()) # [1, 2, 3] get方法取值，队列遵循的原则是先进先出
print(q.get()) #
print(q.get()) #
print(q.get()) # 阻塞
queue
OrderedDict :有序字典
from collections import OrderedDict
od = OrderedDict([('a', 1), ('b', 2), ('c', 3)])
print(od) # OrderedDict([('a', 1), ('b', 2), ('c', 3)]) OrderedDict的Key是有序的
print(od['a']) #
for k in od:
print(k) # a b c
OrderedDict
注意：OrderedDict的key是按照插入的顺序排列，不是key本身排序
from collections import OrderedDict
od = OrderedDict()
od['z'] = 1
od['y'] = 2
od['x'] = 3
print(od.keys()) # odict_keys(['z', 'y', 'x'])
OrdereedDict键排序问题
defaultdict : 带有默认值的字典
有如下集合[11, 22, 33,44,55,68,77,88,99,90]，将所有大于66的值保存至字典的第一个key中，将小于66的值保存至第二个key的值中。
即：{‘k1’:大于66,'k2':小于等于66}
li = [11, 22, 33,44,55,68,77,88,99,90]
dic = {}
for i in li:
if i > 66:
if 'k1' in dic:
dic['k1'].append(i)
else:
dic['k1'] = [i]
else:
if 'k2' in dic:
dic['k2'].append(i)
else:
dic['k2'] = [i]
print(dic)
不使用defaultdict
from collections import defaultdict
li = [11, 22, 33,44,55,68,77,88,99,90]
dic = defaultdict(list)
for i in li:
if i > 66:
dic['k1'].append(i)
else:
dic['k2'].append(i)
print(dic)
使用defaultdict
# 使用dict时，如果引用的Key不存在，就会抛出KeyError。如果希望key不存在时，返回一个默认值，就可以用defaultdict：
from collections import defaultdict
dic = defaultdict(lambda : 'haha')
dic['k1'] = 'a'
print(dic['k1']) # k1存在，返回'a'
print(dic['k']) # k 不存在，返回默认值
defaultdict解决键不存在抛出异常的问题
Counter : 计数器，主要用来计数
# Counter类的目的是用来跟踪值出现的次数。它是一个无序的容器类型，以字典的键值对形式存储，其中元素作为key，其计数作为value。
# 计数值可以是任意的Interger（包括0和负数）。Counter类和其他语言的bags或multisets很相似。
from collections import Counter
c = Counter('sajhjagdhgs')
print(c) # Counter({'h': 2, 'g': 2, 'j': 2, 'a': 2, 's': 2, 'd': 1})
Counter
时间模块
import time # 导入时间模块
#常用方法
time.sleep(0.8) # 推迟指定的时间运行，单位为秒
print(time.time() ) # 获取当前时间戳
常用方法
python中，通常有三种方式来表示时间：时间戳 、元组（struct_time）、格式化的时间字符串
时间戳：从1970年1月1日00:00:00开始按秒计算的偏移量，返回的是float类型
# %y 两位数的年份表示（00-99）
# %Y 四位数的年份表示（000-9999）
# %m 月份（01-12）
# %d 月内中的一天（0-31）
# %H 24小时制小时数（0-23）
# %I 12小时制小时数（01-12）
# %M 分钟数（00=59）
# %S 秒（00-59）
# %a 本地简化星期名称
# %A 本地完整星期名称
# %b 本地简化的月份名称
# %B 本地完整的月份名称
# %c 本地相应的日期表示和时间表示
# %j 年内的一天（001-366）
# %p 本地A.M.或P.M.的等价符
# %U 一年中的星期数（00-53）星期天为星期的开始
# %w 星期（0-6），星期天为星期的开始
# %W 一年中的星期数（00-53）星期一为星期的开始
# %x 本地相应的日期表示
# %X 本地相应的时间表示
# %Z 当前时区的名称
# %% %号本身
import time
# 格式化时间 —— 字符串： 给人看的
print(time.strftime("%Y-%m-%d %a %H:%M:%S")) # 2018-01-10 Wed 16:48:07
print(time.strftime("%Y/%m/%d %H:%M:%S")) # 2018/01/10 16:48:07
print(time.strftime("%m-%d %H:%M:%S")) # 01-10 16:48:07
print(time.strftime("%H:%M:%S")) # 16:48:07
print(time.strftime("%H:%M")) # 16:48
格式化时间strftime
元组（struct_time）:struct_time元组共有9个元素（年，月，日，时，分，秒，一年中第几周，一年中第几天等）
#时间元组:localtime将一个时间戳转换为当前时区的struct_time
import time
print(time.localtime())
# time.struct_time(tm_year=2018, tm_mon=1, tm_mday=10, tm_hour=17, tm_min=0, tm_sec=17, tm_wday=2, tm_yday=10, tm_isdst=0)
struct_time
小结：时间戳是计算机能够识别的时间；时间字符串是人能够看懂的时间；元组则是用来操作时间的
#结构化时间-->时间戳
#time.mktime(结构化时间)
import time
time_tuple = time.localtime(1500000000)
print(time_tuple) # time.struct_time(tm_year=2017, tm_mon=7, tm_mday=14, tm_hour=10, tm_min=40, tm_sec=0, tm_wday=4, tm_yday=195, tm_isdst=0)
print(time.mktime(time_tuple)) # 1500000000.0
结构化时间-->时间戳
#结构化时间-->字符串时间
#time.strftime("格式定义","结构化时间") 结构化时间参数若不传，则现实当前时间
import time
print(time.strftime("%Y-%m-%d %X")) # 2018-01-10 17:12:19
print(time.strftime("%Y-%m-%d",time.localtime(1500000000))) # 2017-07-14
结构化时间-->字符串时间
#字符串时间-->结构化时间
#time.strptime(时间字符串,字符串对应格式)
import time
print(time.strptime("2017-03-16","%Y-%m-%d"))
# time.struct_time(tm_year=2017, tm_mon=3, tm_mday=16, tm_hour=0, tm_min=0, tm_sec=0, tm_wday=3, tm_yday=75, tm_isdst=-1)
print(time.strptime("07/24/2017","%m/%d/%Y"))
# time.struct_time(tm_year=2017, tm_mon=7, tm_mday=24, tm_hour=0, tm_min=0, tm_sec=0, tm_wday=0, tm_yday=205, tm_isdst=-1)
字符串时间-->结构化时间
#结构化时间 --> %a %b %d %H:%M:%S %Y串
#time.asctime(结构化时间) 如果不传参数，直接返回当前时间的格式化串
import time
print(time.asctime(time.localtime(1500000000))) # Fri Jul 14 10:40:00 2017
print(time.asctime()) # Wed Jan 10 17:18:01 2018
结构化时间 --> %a %b %d %H:%M:%S %Y串
#%a %d %d %H:%M:%S %Y串 --> 结构化时间
#time.ctime(时间戳) 如果不传参数，直接返回当前时间的格式化串
import time
print(time.ctime()) # Wed Jan 10 17:20:26 2018
print(time.ctime(1500000000)) # Fri Jul 14 10:40:00 2017
%a %d %d %H:%M:%S %Y串 --> 结构化时间
random模块
import random
#随机小数
print(random.random()) # 0.840154873354048 大于0且小于1之间的小数
print(random.uniform(3,8)) # 6.606350796951702 大于3小于8的小数 #随机整数
print(random.randint(1,5)) # 大于等于1且小于等于5之间的整数
print(random.randrange(1,10,2)) # 大于等于1且小于10之间的奇数 #随机选择一个返回
print(random.choice(['a',[1,3],'',9])) # a或者[1,3]或者66或者9
# 随机选择多个返回，返回的个数为函数的第二个参数
print(random.sample(['a',[1,3],'',9],2)) # ['66', 9] 列表元素任意2个组合 # 打乱列表顺序
li = [1,3,5,7,9]
random.shuffle(li) # 打乱次序
print(li) # [7, 5, 3, 1, 9]
random.shuffle(li)
print(li) # [9, 5, 3, 7, 1]
random
os模块
os模块是与操作系统交互的一个接口
os.getcwd() 获取当前工作目录，即当前python脚本工作的目录路径
os.chdir("dirname") 改变当前脚本工作目录；相当于shell下cd
os.curdir 返回当前目录: ('.')
os.pardir 获取当前目录的父目录字符串名：('..')
os.makedirs('dirname1/dirname2') 可生成多层递归目录
os.removedirs('dirname1') 若目录为空，则删除，并递归到上一级目录，如若也为空，则删除，依此类推
os.mkdir('dirname') 生成单级目录；相当于shell中mkdir dirname
os.rmdir('dirname') 删除单级空目录，若目录不为空则无法删除，报错；相当于shell中rmdir dirname
os.listdir('dirname') 列出指定目录下的所有文件和子目录，包括隐藏文件，并以列表方式打印
os.remove() 删除一个文件
os.rename("oldname","newname") 重命名文件/目录
os.stat('path/filename') 获取文件/目录信息
os.sep 输出操作系统特定的路径分隔符，win下为"\\",Linux下为"/"
os.linesep 输出当前平台使用的行终止符，win下为"\t\n",Linux下为"\n"
os.pathsep 输出用于分割文件路径的字符串 win下为;,Linux下为:
os.name 输出字符串指示当前使用平台。win->'nt'; Linux->'posix'
os.system("bash command") 运行shell命令，直接显示
os.popen("bash command).read() 运行shell命令，获取执行结果
os.environ 获取系统环境变量 os.path
os.path.abspath(path) 返回path规范化的绝对路径 os.path.split(path) 将path分割成目录和文件名二元组返回 os.path.dirname(path) 返回path的目录。其实就是os.path.split(path)的第一个元素 os.path.basename(path) 返回path最后的文件名。如何path以／或\结尾，那么就会返回空值。
即os.path.split(path)的第二个元素
os.path.exists(path) 如果path存在，返回True；如果path不存在，返回False
os.path.isabs(path) 如果path是绝对路径，返回True
os.path.isfile(path) 如果path是一个存在的文件，返回True。否则返回False
os.path.isdir(path) 如果path是一个存在的目录，则返回True。否则返回False
os.path.join(path1[, path2[, ...]]) 将多个路径组合后返回，第一个绝对路径之前的参数将被忽略
os.path.getatime(path) 返回path所指向的文件或者目录的最后访问时间
os.path.getmtime(path) 返回path所指向的文件或者目录的最后修改时间
os.path.getsize(path) 返回path的大小
os模块
os.stat('path/filename') 获取文件/目录信息 的结构说明
stat 结构:
st_mode: inode 保护模式
st_ino: inode 节点号。
st_dev: inode 驻留的设备。
st_nlink: inode 的链接数。
st_uid: 所有者的用户ID。
st_gid: 所有者的组ID。
st_size: 普通文件以字节为单位的大小；包含等待某些特殊文件的数据。
st_atime: 上次访问的时间。
st_mtime: 最后一次修改的时间。
st_ctime: 由操作系统报告的"ctime"。在某些系统上（如Unix）是最新的元数据更改的时间，在其它系统上（如Windows）是创建时间（详细信息参见平台的文档）。
os.stat
sys模块
sys模块是与python解释器交互的一个接口
sys.argv 命令行参数List，第一个元素是程序本身路径
sys.exit(n) 退出程序，正常退出时exit(0),错误退出sys.exit(1)
sys.version 获取Python解释程序的版本信息
sys.path 返回模块的搜索路径，初始化时使用PYTHONPATH环境变量的值
sys.platform 返回操作系统平台名称
sys
import sys
try:
sys.exit(1)
except SystemExit as e:
print(e)
异常处理和status
序列化模块
序列化：将原本的字典、列表等内容转换成一个字符串的过程
序列化的目的：
1、以某种存储形式使自定义对象持久化；
2、将对象从一个地方传递到另一个地方；
3、使程序更具维护性。
json、pickle、shelve三种序列化的比较：
# json # 数字 字符串 列表 字典 元组
# 通用的序列化格式
# 只有很少的一部分数据类型能够通过json转化成字符串
# pickle
# 所有的python中的数据类型都可以转化成字符串形式
# pickle序列化的内容只有python能理解
# 且部分反序列化依赖python代码
# shelve
# 序列化句柄
# 使用句柄直接操作，非常方便 json
import json
dic = {'k1':'a','k2':'b','k3':'c'}
str_dic = json.dumps(dic) #序列化：将一个字典转换成一个字符串
print(type(str_dic),str_dic) # <class 'str'> {"k2": "b", "k3": "c", "k1": "a"}
#注意，json转换完的字符串类型的字典中的字符串是由""表示的 dic2 = json.loads(str_dic) #反序列化：将一个字符串格式的字典转换成一个字典
#注意，要用json的loads功能处理的字符串类型的字典中的字符串必须由""表示
print(type(dic2),dic2) # <class 'dict'> {'k2': 'b', 'k3': 'c', 'k1': 'a'} list_dic = [1,['a','b','c'],3,{'k1':'v1','k2':'v2'}]
str_dic = json.dumps(list_dic) #也可以处理嵌套的数据类型
print(type(str_dic),str_dic) #<class 'str'> [1, ["a", "b", "c"], 3, {"k1": "v1", "k2": "v2"}]
list_dic2 = json.loads(str_dic)
print(type(list_dic2),list_dic2) #<class 'list'> [1, ['a', 'b', 'c'], 3, {'k1': 'v1', 'k2': 'v2'}]
dumps和loads
import json
f = open('json_file','w')
dic = {'k1':'a','k2':'b','k3':'c'}
json.dump(dic,f) #dump方法接收一个文件句柄，直接将字典转换成json字符串写入文件
f.close() f = open('json_file')
dic2 = json.load(f) #load方法接收一个文件句柄，直接将文件中的json字符串转换成数据结构返回
f.close()
print(type(dic2),dic2) # <class 'dict'> {'k3': 'c', 'k2': 'b', 'k1': 'a'}
dump和load
import json
f = open('ff','w')
json.dump({'国籍':'中国'},f)
ret = json.dumps({'国籍':'中国'})
f.write(ret+'\n')
json.dump({'国籍':'美国'},f,ensure_ascii=False)
ret = json.dumps({'国籍':'美国'},ensure_ascii=False)
f.write(ret+'\n')
f.close()
ensure_ascii关键字参数
pickle
import pickle
dic = {'k1':'v1','k2':'v2','k3':'v3'}
str_dic = pickle.dumps(dic)
print(str_dic) #一串二进制内容
# b'\x80\x03}q\x00(X\x02\x00\x00\x00k1q\x01X\x02\x00\x00\x00v1q\x02X\x02\x00\x00\x00k3q\x03X\x02\x00\x00\x00v3q\x04X\x02\x00\x00\x00k2q\x05X\x02\x00\x00\x00v2q\x06u.'
dic2 = pickle.loads(str_dic)
print(dic2) # {'k1': 'v1', 'k3': 'v3', 'k2': 'v2'} 字典
dumps和loads
import time
struct_time = time.localtime(1000000000)
print(struct_time)
# time.struct_time(tm_year=2001, tm_mon=9, tm_mday=9, tm_hour=9, tm_min=46, tm_sec=40, tm_wday=6, tm_yday=252, tm_isdst=0)
f = open('pickle_fi','wb')
pickle.dump(struct_time,f)
f.close() f = open('pickle_fi','rb')
struct_time2 = pickle.load(f)
print(struct_time2.tm_year)
dump和load
shelve
# shelve也是python提供给我们的序列化工具，比pickle用起来更简单一些。
# shelve只提供给我们一个open方法，是用key来访问的，使用起来和字典类似。
import shelve
f = shelve.open('shelve_file')
f['key'] = {'int':10, 'float':9.5, 'string':'Sample data'} #直接对文件句柄操作，就可以存入数据
f.close() import shelve
f1 = shelve.open('shelve_file')
existing = f1['key'] #取出数据的时候也只需要直接用key获取即可，但是如果key不存在会报错
f1.close()
print(existing) # {'string': 'Sample data', 'int': 10, 'float': 9.5}
shelve
# 这个模块有个限制，它不支持多个应用同一时间往同一个DB进行写操作。所以当我们知道我们的应用如果只进行读操作，我们可以让shelve通过只读方式打开DB
import shelve
f = shelve.open('shelve_file', flag='r')
existing = f['key']
f.close()
print(existing)
shelve只读
import shelve
f1 = shelve.open('shelve_file')
print(f1['key'])
f1['key']['new_value'] = 'this was not here before'
f1.close() f2 = shelve.open('shelve_file', writeback=True)
print(f2['key'])
f2['key']['new_value'] = 'this was not here before'
f2.close()
# writeback方式有优点也有缺点。优点是减少了我们出错的概率，并且让对象的持久化对用户更加的透明了；
# 但这种方式并不是所有的情况下都需要，首先，使用writeback以后，shelf在open()的时候会增加额外的内存消耗，
# 并且当DB在close()的时候会将缓存中的每一个对象都写入到DB，这也会带来额外的等待时间。
# 因为shelve没有办法知道缓存中哪些对象修改了，哪些对象没有修改，因此所有的对象都会被写入。
shelve的优缺点