读取和写入文件#
本页讨论常见应用程序;有关 I/O 例程的完整集合,请参阅输入和输出。
读取文本和CSV文件#
没有缺失值#
有缺失值#
返回一个屏蔽数组, 屏蔽掉缺失值(如果
usemask=True
),或者使用指定的值 填充缺失值
filling_values
(默认值为np.nan
float,-1 为 int)。
使用非空白分隔符#
>>> with open("csv.txt", "r") as f:
... print(f.read())
1, 2, 3
4,, 6
7, 8, 9
屏蔽数组输出#
>>> np.genfromtxt("csv.txt", delimiter=",", usemask=True)
masked_array(
data=[[1.0, 2.0, 3.0],
[4.0, --, 6.0],
[7.0, 8.0, 9.0]],
mask=[[False, False, False],
[False, True, False],
[False, False, False]],
fill_value=1e+20)
数组输出#
>>> np.genfromtxt("csv.txt", delimiter=",")
array([[ 1., 2., 3.],
[ 4., nan, 6.],
[ 7., 8., 9.]])
数组输出,指定填充值#
>>> np.genfromtxt("csv.txt", delimiter=",", dtype=np.int8, filling_values=99)
array([[ 1, 2, 3],
[ 4, 99, 6],
[ 7, 8, 9]], dtype=int8)
空格分隔#
numpy.genfromtxt
还可以解析具有缺失值的空格分隔的数据文件,如果
每个字段都有固定宽度:使用宽度作为分隔符参数。
# 宽度=4的文件。数据不必对齐(例如,# 第 1 行中的 2),最后一列可以小于宽度(例如,第 2 行中的 6 #),并且不需要分隔字符(例如 8888和第 3 行中的 9#)
>>> with open("fixedwidth.txt", "r") as f: ... data = (f.read()) >>> print(data) 1 2 3 44 6 7 88889
# 将空格显示为 ^ >>> print(data.replace(” “,”^”)) 1^^^2^^^^^^^3 44^^^^^^^6 7^^^88889
>>> np.genfromtxt("fixedwidth.txt", delimiter=4) array([[1.000e+00, 2.000e+00, 3.000e+00], [4.400e+01, nan, 6.000e+00], [7.000e+00, 8.888e+03, 9.000e+00]])
特殊值(例如“x”)表示缺少字段:将其用作 missing_values参数。
>>> with open("nan.txt", "r") as f: ... print(f.read()) 1 2 3 44 x 6 7 8888 9
>>> np.genfromtxt("nan.txt", missing_values="x") array([[1.000e+00, 2.000e+00, 3.000e+00], [4.400e+01, nan, 6.000e+00], [7.000e+00, 8.888e+03, 9.000e+00]])
您想跳过缺少值的行:设置 invalid_raise=False。
>>> with open("skip.txt", "r") as f: ... print(f.read()) 1 2 3 44 6 7 888 9
>>> np.genfromtxt("skip.txt", invalid_raise=False) __main__:1: ConversionWarning: Some errors were detected ! Line #2 (got 2 columns instead of 3) array([[ 1., 2., 3.], [ 7., 888., 9.]])
分隔符空白字符与指示缺失数据的空白不同。例如,如果列由 分隔
\t
,则如果数据包含一个或多个空格,则将识别缺失数据。>>> with open("tabs.txt", "r") as f: ... data = (f.read()) >>> print(data) 1 2 3 44 6 7 888 9
# 制表符与空格 >>> print(data.replace(”t”,”^”)) 1^2^3 44^ ^6 7^888^9
>>> np.genfromtxt("tabs.txt", delimiter="\t", missing_values=" +") array([[ 1., 2., 3.], [ 44., nan, 6.], [ 7., 888., 9.]])
读取 .npy 或 .npz 格式的文件#
选择:
使用
numpy.load
。它可以读取由numpy.save
、numpy.savez
或中的任何一个生成的文件numpy.savez_compressed
。使用内存映射。看
numpy.lib.format.open_memmap
。
写入由 NumPy 读回的文件#
二进制#
使用
numpy.save
, 或 来存储多个数组numpy.savez
或numpy.savez_compressed
。
为了安全性和可移植性,
allow_pickle=False
除非数据类型包含Python对象,否则需要进行设置。
屏蔽数组,其他任意数组子类也不能。can't currently be saved
人类可读#
numpy.save
并numpy.savez
创建二进制文件。要编写人类可读的文件,请使用numpy.savetxt
.该数组只能是一维或二维,并且没有用于多个文件的“savetxtz”。
大数组#
请参阅写入或读取大型数组。
读取任意格式的二进制文件(“二进制 blob”)#
使用结构化数组。
例子:
文件头是实际声音数据字节.wav
之前的 44 字节块:data_size
chunk_id "RIFF"
chunk_size 4-byte unsigned little-endian integer
format "WAVE"
fmt_id "fmt "
fmt_size 4-byte unsigned little-endian integer
audio_fmt 2-byte unsigned little-endian integer
num_channels 2-byte unsigned little-endian integer
sample_rate 4-byte unsigned little-endian integer
byte_rate 4-byte unsigned little-endian integer
block_align 2-byte unsigned little-endian integer
bits_per_sample 2-byte unsigned little-endian integer
data_id "data"
data_size 4-byte unsigned little-endian integer
.wav
作为 NumPy 结构化数据类型的文件头:
wav_header_dtype = np.dtype([
("chunk_id", (bytes, 4)), # flexible-sized scalar type, item size 4
("chunk_size", "<u4"), # little-endian unsigned 32-bit integer
("format", "S4"), # 4-byte string, alternate spelling of (bytes, 4)
("fmt_id", "S4"),
("fmt_size", "<u4"),
("audio_fmt", "<u2"), #
("num_channels", "<u2"), # .. more of the same ...
("sample_rate", "<u4"), #
("byte_rate", "<u4"),
("block_align", "<u2"),
("bits_per_sample", "<u2"),
("data_id", "S4"),
("data_size", "<u4"),
#
# the sound data itself cannot be represented here:
# it does not have a fixed size
])
header = np.fromfile(f, dtype=wave_header_dtype, count=1)[0]
此.wav
示例用于说明;要在现实生活中读取.wav
文件,请使用Python的内置模块wave
。
(改编自 Pauli Virtanen、Advanced NumPy ,已获得CC BY 4.0许可。)
写入或读取大型数组#
太大而无法放入内存的数组可以像使用内存映射的普通内存数组一样处理。
原始数组数据可通过以下方式写入
numpy.ndarray.tofile
或numpy.ndarray.tobytes
读取numpy.memmap
:array = numpy.memmap("mydata/myarray.arr", mode="r", dtype=np.int16, shape=(1024, 1024))
可以使用关键字参数
numpy.save
读取(即使用 numpy 格式)输出的文件:numpy.load
mmap_mode
large_array[some_slice] = np.load("path/to/small_array", mmap_mode="r")
内存映射缺乏数据分块和压缩等功能;可与 NumPy 一起使用的更全功能的格式和库包括:
扎尔:这里。
网络
scipy.io.netcdf_file
CDF :.
有关 memmap、Zarr 和 HDF5 之间的权衡,请参阅 pythonspeed.com。
写入文件以供其他(非 NumPy)工具读取#
与其他工具交换数据的格式包括 HDF5、Zarr 和 NetCDF(请参阅写入或读取大型数组)。
写入或读取 JSON 文件#
NumPy 数组不能直接JSON 序列化。
使用 pickle 文件保存/恢复#
尽可能避免;pickles不能防止错误或恶意构建的数据。
使用numpy.save
和numpy.load
.设置allow_pickle=False
,除非数组数据类型包含 Python 对象,在这种情况下需要进行酸洗。
从 pandas DataFrame 转换为 NumPy 数组#
tofile
使用和#保存/恢复fromfile
一般来说,更喜欢numpy.save
和numpy.load
。
numpy.ndarray.tofile
并numpy.fromfile
丢失有关字节序和精度的信息,因此除了临时存储之外不适合任何其他存储。