描述:

  • 最开始在测试环境装了mysql8,用来作为airflow后端的metadata存储;
  • 在装了mysql8之后,通过pip3安装了mysqlclient=1.3.14;但是安装过程是在单独的venv环境中安装的。系统的python3环境中并没有安装该库。
  • 为了进行其他功能测试,将mysql8卸载,安装了mysql5.7.28。之后airflow运行不起来了,报错:
libmysqlclient.so.21: cannot open shared object file: no such file or direct
  • 删除venv环境,重建venv环境,重新在venv环境中安装mysqlclient=1.3.14,但是依然报错。
  • 在venv的lib库根目录下查看mysqlclient的so文件,确实找不到libmysqlclient.so.21
ldd /home/airflow/venv/lib64/python3.6/site-packages/_mysql.cpython-36m-x86_64-linux-gnu.so
linux-vdso.so.1 => (0x00007ffdb6db5000)
libmysqlclient.so.21 => not found
libpthread.so.0 => /lib64/libpthread.so.0 (0x00007f245a087000)
libm.so.6 => /lib64/libm.so.6 (0x00007f2459e03000)
librt.so.1 => /lib64/librt.so.1 (0x00007f2459bfb000)
libssl.so.10 => /usr/lib64/libssl.so.10 (0x00007f245998e000)
libcrypto.so.10 => /usr/lib64/libcrypto.so.10 (0x00007f24595a9000)
libdl.so.2 => /lib64/libdl.so.2 (0x00007f24593a5000)
libc.so.6 => /lib64/libc.so.6 (0x00007f2459010000)
/lib64/ld-linux-x86-64.so.2 (0x0000557c6a8b7000)
libgssapi_krb5.so.2 => /lib64/libgssapi_krb5.so.2 (0x00007f2458dcc000)
libkrb5.so.3 => /lib64/libkrb5.so.3 (0x00007f2458ae5000)
libcom_err.so.2 => /lib64/libcom_err.so.2 (0x00007f24588e0000)
libk5crypto.so.3 => /lib64/libk5crypto.so.3 (0x00007f24586b4000)
libz.so.1 => /lib64/libz.so.1 (0x00007f245849e000)
libkrb5support.so.0 => /lib64/libkrb5support.so.0 (0x00007f2458292000)
libkeyutils.so.1 => /lib64/libkeyutils.so.1 (0x00007f245808f000)
libresolv.so.2 => /lib64/libresolv.so.2 (0x00007f2457e75000)
libselinux.so.1 => /lib64/libselinux.so.1 (0x00007f2457c55000)
  • 在网上搜so.21,发现该so文件是属于mysql-community-libs-8.xxx这个rpm包中包含的so文件。因此怀疑是我的mysql8没有卸载干净,比如一些头文件没有删掉,在安装mysqlclient的时候,还是编译了mysql8的so文件。

  • 于是卸载所有mysql的rpm包,找到所有mysql目录遗留文件删除,再通过yum自动安装mysql-community-server

    • 先安装mysql的yum源

      rpm -ivh https://dev.mysql.com/get/mysql80-community-release-el6-3.noarch.rpm
    • 检查yum源的repo,确保mysql5版本的源启用,其他版本的处于禁用状态,如果不对的话,使用yum-config-manager --disable xxx或者yum-config-manager --enable xxx处理
    yum repolist enabled | grep "mysql.*-community.*"
    yum repolist all | grep mysql
nohup yum install mysql-community-server &> ~/mysql-yum-install.log &

# tail ~/mysql-yum-install.log
已安装:
mysql-community-server.x86_64 0:5.7.28-1.el6 作为依赖被安装:
mysql-community-client.x86_64 0:5.7.28-1.el6
mysql-community-common.x86_64 0:5.7.28-1.el6
mysql-community-libs.x86_64 0:5.7.28-1.el6

没有安装mysql-community-devel-5.7.28-1.el6.x86_64,要手动安装下。

  • 再重新删除venv环境,重建venv环境,重新在venv环境中安装mysqlclient=1.3.14,但是依然报错。
  • 但是在pip安装mysqlclient的时候看到这样的日志:
# pip install mysqlclient==1.3.14
Looking in indexes: http://pypi.douban.com/simple/
Processing /root/.cache/pip/wheels/e6/8e/61/fa14585dc24636befc6090deea404474d3c18acfa0e8685278/mysqlclient-1.3.14-cp36-cp36m-linux_x86_64.whl
Installing collected packages: mysqlclient
Successfully installed mysqlclient-1.3.14

这个whl居然是从cache中读取的。。。

  • 找到cache中的文件,copy出来解压,发现一个so
# find /root/.cache/ -name 'mysqlclient*'
/root/.cache/pip/wheels/e6/8e/61/fa14585dc24636befc6090deea404474d3c18acfa0e8685278/mysqlclient-1.3.14-cp36-cp36m-linux_x86_64.whl cp /root/.cache/pip/wheels/e6/8e/61/fa14585dc24636befc6090deea404474d3c18acfa0e8685278/mysqlclient-1.3.14-cp36-cp36m-linux_x86_64.whl ~ cd ~; tar zxvf mysqlclient-1.3.14-cp36-cp36m-linux_x86_64.whl
Archive: mysqlclient-1.3.14-cp36-cp36m-linux_x86_64.whl
inflating: _mysql.cpython-36m-x86_64-linux-gnu.so
inflating: _mysql_exceptions.py
inflating: MySQLdb/__init__.py
inflating: MySQLdb/compat.py
inflating: MySQLdb/connections.py
inflating: MySQLdb/converters.py
inflating: MySQLdb/cursors.py
inflating: MySQLdb/release.py
inflating: MySQLdb/times.py
inflating: MySQLdb/constants/CLIENT.py
inflating: MySQLdb/constants/CR.py
inflating: MySQLdb/constants/ER.py
inflating: MySQLdb/constants/FIELD_TYPE.py
inflating: MySQLdb/constants/FLAG.py
inflating: MySQLdb/constants/REFRESH.py
inflating: MySQLdb/constants/__init__.py
inflating: mysqlclient-1.3.14.dist-info/LICENSE
inflating: mysqlclient-1.3.14.dist-info/METADATA
inflating: mysqlclient-1.3.14.dist-info/WHEEL
inflating: mysqlclient-1.3.14.dist-info/top_level.txt
inflating: mysqlclient-1.3.14.dist-info/RECORD # ldd _mysql.cpython-36m-x86_64-linux-gnu.so
linux-vdso.so.1 => (0x00007ffdb572d000)
libmysqlclient.so.21 => not found
libpthread.so.0 => /lib64/libpthread.so.0 (0x00007f5e71a4e000)
libm.so.6 => /lib64/libm.so.6 (0x00007f5e717ca000)
librt.so.1 => /lib64/librt.so.1 (0x00007f5e715c2000)
libssl.so.10 => /usr/lib64/libssl.so.10 (0x00007f5e71355000)
libcrypto.so.10 => /usr/lib64/libcrypto.so.10 (0x00007f5e70f70000)
libdl.so.2 => /lib64/libdl.so.2 (0x00007f5e70d6c000)
libc.so.6 => /lib64/libc.so.6 (0x00007f5e709d7000)
/lib64/ld-linux-x86-64.so.2 (0x000055d1e0f27000)
libgssapi_krb5.so.2 => /lib64/libgssapi_krb5.so.2 (0x00007f5e70793000)
libkrb5.so.3 => /lib64/libkrb5.so.3 (0x00007f5e704ac000)
libcom_err.so.2 => /lib64/libcom_err.so.2 (0x00007f5e702a7000)
libk5crypto.so.3 => /lib64/libk5crypto.so.3 (0x00007f5e7007b000)
libz.so.1 => /lib64/libz.so.1 (0x00007f5e6fe65000)
libkrb5support.so.0 => /lib64/libkrb5support.so.0 (0x00007f5e6fc59000)
libkeyutils.so.1 => /lib64/libkeyutils.so.1 (0x00007f5e6fa56000)
libresolv.so.2 => /lib64/libresolv.so.2 (0x00007f5e6f83c000)
libselinux.so.1 => /lib64/libselinux.so.1 (0x00007f5e6f61c000)
  • 确凿无疑,是因为pip缓存了mysql8时候的库文件导致的,删除pip的cache,再重新安装。
# find /root/.cache/ -name 'mysqlclient*' -print -delete
/root/.cache/pip/wheels/e6/8e/61/fa14585dc24636befc6090deea404474d3c18acfa0e8685278/mysqlclient-1.3.14-cp36-cp36m-linux_x86_64.whl
# pip uninstall mysqlclient==1.3.14
Uninstalling mysqlclient-1.3.14:
Would remove:
/home/airflow/venv/lib/python3.6/site-packages/MySQLdb/*
/home/airflow/venv/lib/python3.6/site-packages/_mysql.cpython-36m-x86_64-linux-gnu.so
/home/airflow/venv/lib/python3.6/site-packages/_mysql_exceptions.py
/home/airflow/venv/lib/python3.6/site-packages/mysqlclient-1.3.14.dist-info/*
Proceed (y/n)? y
Successfully uninstalled mysqlclient-1.3.14 # pip install mysqlclient==1.3.14
Looking in indexes: http://pypi.douban.com/simple/
Collecting mysqlclient==1.3.14
Downloading http://pypi.doubanio.com/packages/f7/a2/1230ebbb4b91f42ad6b646e59eb8855559817ad5505d81c1ca2b5a216040/mysqlclient-1.3.14.tar.gz (91kB)
|████████████████████████████████| 92kB 4.6MB/s
Installing collected packages: mysqlclient
Running setup.py install for mysqlclient ... done
Successfully installed mysqlclient-1.3.14
  • 再重新检查venv下的库文件,果然依赖问题已经解决。
# ldd /home/airflow/venv/lib64/python3.6/site-packages/_mysql.cpython-36m-x86_64-linux-gnu.so
linux-vdso.so.1 => (0x00007ffc6efff000)
libmysqlclient.so.20 => /usr/lib64/mysql/libmysqlclient.so.20 (0x00007f7dc8f0d000)
libpthread.so.0 => /lib64/libpthread.so.0 (0x00007f7dc8cf0000)
libm.so.6 => /lib64/libm.so.6 (0x00007f7dc8a6b000)
librt.so.1 => /lib64/librt.so.1 (0x00007f7dc8863000)
libdl.so.2 => /lib64/libdl.so.2 (0x00007f7dc865f000)
libc.so.6 => /lib64/libc.so.6 (0x00007f7dc82ca000)
libstdc++.so.6 => /usr/lib64/libstdc++.so.6 (0x00007f7dc7fc4000)
libgcc_s.so.1 => /lib64/libgcc_s.so.1 (0x00007f7dc7dae000)
/lib64/ld-linux-x86-64.so.2 (0x00005557f93df000)
  • 注意 操作过程请先source到venv下

记录一次python的mysqlclient依赖库报错问题的更多相关文章

  1. Python virtualenv安装库报错SSL: CERTIFICATE_VERIFY_FAILED

    Python virtualenv安装库报错SSL: CERTIFICATE_VERIFY_FAILED 问题描述 使用pip按照virtualenv报错,如下: pip install virtua ...

  2. Python djangorestframework安装库报错SSL: CERTIFICATE_VERIFY_FAILED

    Python djangorestframework 安装库报错SSL: CERTIFICATE_VERIFY_FAILED 问题描述 使用pip按照virtualenv报错,如下: pip inst ...

  3. 安装mysql驱动之 mysqlclient 出现的报错处理(ubuntu16.04)

    首先 更新软件! sudo apt-get update 然后尝试安装mysqlclient,报错 后执行下面的步骤 安装mysql驱动之 mysqlclient 出现的报错信息处理 报错1: OSE ...

  4. SpringBoot导入jsp依赖始终报错

    先粘出我自己的pom代码: <?xml version="1.0" encoding="UTF-8"?> <project xmlns=&qu ...

  5. 目标平台、活动平台 配置,出现未能加载文件或程序集“xxx”或它的某一个依赖项报错

    今天在做动态加载程序集的时候,发现明明程序集存在的情况下,还是依然报“未能加载文件或程序集“xxx”或它的某一个依赖项报错”的错误,排除了程序和配置的错误后,怀疑是否是环境的问题,于是百度加msdn后 ...

  6. 【java-console】如何双击运行可执行jar包及遇到依赖dll报错问题的解决办法

    如何配置双击运行可执行jar包的步骤,请移步到   这里   查看具体的操作,此处不再介绍. 本文主要解决如何处理依赖dll报错的问题解决办法. 我有一个jar包可执行文件运行需要依赖第三方的dll文 ...

  7. Android导入依赖appcompat-v7报错

    Android导入依赖appcompat-v7报错   导入appcompat-v7时报错了 导入的是implementation 'com.android.support:appcompat-v7: ...

  8. python安装包的时候报错

    python安装包的时候报错 今天兴致勃勃的安装了一个paramiko包,过程很顺利,但是到结尾的时候报错,这就让人不爽了. 所以呢,需要安装一个名为python-dev的软件包. 该软件包包括头文件 ...

  9. 【故障处理】 DBCA建库报错CRS-2566

    [故障处理] DBCA建库报错CRS-2566 PRCR-1071 PRCR-1006 一.1  BLOG文档结构图       一.2  前言部分   一.2.1  导读和注意事项 各位技术爱好者, ...

随机推荐

  1. 输入列号得到excel对应的字母列

    zexcel_cell_column 类型是INT4 FUNCTION ZGET_EXCEL_COL. *"----------------------------------------- ...

  2. Nginx作为静态资源web服务之防盗链

    Nginx作为静态资源web服务之防盗链 首先,为什么需要防盗链,因为有些资源存在竞争对手的关系,比如淘宝的商品图片,不会轻易的让工具来爬虫爬走收集.但是如果使用防盗链,需要知道上一个访问的资源,然后 ...

  3. 7.Hibernate查询

    一:Hibernate可以使用的查询语言 1.NativeSQL:本地语言(数据库自己的SQL语句) 2.HQL:hibernate自带的查询语句,可以使用HQL语言,转换成具体的方言 3.EJBQL ...

  4. 修改Vue中的 v-html 内的元素无效问题

    其原因就是在 style 样式中没有去处scoped 因为 v-html 会把内容当成子组件,而scoped 会在本身的组件中起作用

  5. hadoop 中ALL Applications 中Tracking 下History查找不到MapReduce Job 日志

    运行一个Map Reduce job 想查看日志: 点击History ,找不到网页 解决办法如下: 1.其中有一个进程是需要启动的: Hadoop自带了一个历史服务器,可以通过历史服务器查看已经运行 ...

  6. greenlet、gevent:历史悠久的用于处理并发的模块

    greenlet介绍 greenlet是用C语言编写的一个模块,然后让python调用,目的就是为了让python支持协程. A "greenlet" is a small ind ...

  7. php生成word并下载

    1.前端代码:   index.html <!DOCTYPE html> <html> <head> <title>PHP生成Word文档</ti ...

  8. (五) 结构化查询语言SQL——3

    4. 数据更新 1)增 对应INSERT语句.格式为INSERT INTO T[(A1,…,Ak)]  VALUES (C1,…,Ck),其中A代表表T的属性,C代表常量,A可以缺省,此时C必须严格按 ...

  9. [angular2/4/8]用ng new创建项目卡住的解决办法

    官方文档 英文版:https://angular.io/guide/quickstart 中文版:https://angular.cn/guide/quickstart Installing pack ...

  10. .NET Core 3时代!如何使用DevExpress WPF创建应用

    DevExpress广泛应用于ECM企业内容管理. 成本管控.进程监督.生产调度,在企业/政务信息化管理中占据一席重要之地.通过DevExpress WPF Controls,您能创建有着强大互动功能 ...