如何识别熊猫木地板的后端

塞德里克·H:

据我了解,熊猫可以读取和写入,并使用不同的后端平面文件:pyarrowfastparquet

我有一个Conda发行版和一个Intel发行版,并且“有效”:我可以使用pandas.DataFrame.to_parquet但是我还没有pyarrow安装,所以我猜想fastparquet已经用了(我也找不到)。

有没有办法确定使用哪个后端?

EdChum:

一种方法是调用show_versions(),它将列出依赖关系(以及其他环境内容):

pd.show_versions()

INSTALLED VERSIONS
------------------
commit: None
python: 3.6.0.final.0
python-bits: 64
OS: Windows
OS-release: 7
machine: AMD64
processor: Intel64 Family 6 Model 42 Stepping 7, GenuineIntel
byteorder: little
LC_ALL: None
LANG: None
LOCALE: None.None

pandas: 0.23.0
pytest: 3.0.5
pip: 9.0.3
setuptools: 27.2.0
Cython: 0.25.2
numpy: 1.14.3
scipy: 1.1.0
pyarrow: None
xarray: None
IPython: 5.1.0
sphinx: 1.5.1
patsy: 0.4.1
dateutil: 2.6.0
pytz: 2016.10
blosc: None
bottleneck: 1.2.1
tables: 3.4.3
numexpr: 2.6.5
feather: None
matplotlib: 2.2.2
openpyxl: 2.4.1
xlrd: 1.0.0
xlwt: 1.2.0
xlsxwriter: 0.9.6
lxml: 3.7.2
bs4: 4.5.3
html5lib: 0.9999999
sqlalchemy: 1.1.5
pymysql: None
psycopg2: None
jinja2: 2.9.4
s3fs: None
fastparquet: None
pandas_gbq: None
pandas_datareader: None

这里顺便说一句,我没有任何pyarrowfastparquet安装

实际上,您可以致电pd.io.parquet.get_engine('auto')

In[193]:
pd.io.parquet.get_engine('auto')

---------------------------------------------------------------------------
ImportError                               Traceback (most recent call last)
<ipython-input-193-929185e5aca8> in <module>()
----> 1 pd.io.parquet.get_engine('auto')

C:\ProgramData\Anaconda3\lib\site-packages\pandas\io\parquet.py in get_engine(engine)
     27             pass
     28 
---> 29         raise ImportError("Unable to find a usable engine; "
     30                           "tried using: 'pyarrow', 'fastparquet'.\n"
     31                           "pyarrow or fastparquet is required for parquet "

ImportError: Unable to find a usable engine; tried using: 'pyarrow', 'fastparquet'.
pyarrow or fastparquet is required for parquet support

由于我都没有安装,因此会引发ImportError,大概是在您的环境中,这实际上会返回已安装的引擎

安装后,fastparquet我得到:

In[194]:
pd.io.parquet.get_engine('auto')

Out[194]: <pandas.io.parquet.FastParquetImpl at 0xf5582b0>

如果我们看一下class

In[202]:
impl = pd.io.parquet.get_engine('auto')
impl.__class__

Out[202]: pandas.io.parquet.FastParquetImpl

它告诉我们这是什么暗示。

如果pyarrow安装,将得到:

>>> pd.io.parquet.get_engine('auto')
<pandas.io.parquet.PyArrowImpl object at 0xa13fb1ef0>
>>> pd.io.parquet.get_engine('auto').__class__
<class 'pandas.io.parquet.PyArrowImpl'>

本文收集自互联网,转载请注明来源。

如有侵权,请联系 [email protected] 删除。

编辑于
0

我来说两句

0 条评论
登录 后参与评论

相关文章

如何创建从Postgres的管道镶木地板?

从镶木地板加载数据框后比较熊猫日期

如何将记录从镶木地板写入另一个镶木地板?

如何阅读箭头镶木地板键值元数据?

Sparklyr-如何更改镶木地板数据类型

如何连接两个镶木地板数据集?

如何使用Spark(pyspark)编写镶木地板文件?

如何处理大量的镶木地板文件

如何使用 Pyspark 并行处理多个镶木地板文件?

我如何阅读 java 中的镶木地板词典

如何使用Pyarrow更改镶木地板文件中的列名?

如何从Amazon Athena查询镶木地板数据?

如何使用 pyarrow 流式处理镶木地板?

如何将小的镶木地板文件合并为一个大的镶木地板文件?

忽略在大熊猫中的镶木地板中不存在的列

将镶木地板文件转换为熊猫然后查询会出错

按州和日期分组,按月分组日期与熊猫和镶木地板文件

镶木地板火花错误

如何附加到镶木地板文件以及它如何影响分区?

从Spark写入镶木地板时如何处理空值

如何从命令行或Spark Shell显示镶木地板文件的方案(包括类型)?

如何使用镶木地板文件源重命名AWS Athena列?

使用pyarrow如何将其附加到镶木地板文件中?

在 Java 中写入镶木地板之前如何为 DataSet 列设置别名

如何在Apache Spark中处理更改镶木地板架构

如何正确整理由Spark Streaming生成的分区镶木地板文件

使用pyarrow读取镶木地板文件时如何解码字典列?

保存pd.DataFrame时如何强制镶木地板dtypes?

如何将镶木地板文件复制并转换为CSV