Artificial Intelligence / Reverse Engineering / Internet of Things / Full Stack Developer
在群辉下通过pyinstaller编译py文件会出现各种问题。首先是没有binutils，如果要安装这个工具包，需要安装包管理器ipkg。在确定系统处理器架构之后即可安装对应的包管理下，命令如下：
wget http://ipkg.nslu2-linux.org/feeds/optware/syno-i686/cross/stable/syno-i686-bootstrap_1.2-7_i686.xsh chmod +x syno-i686-bootstrap_1.2-7_i686.xsh sh syno-i686-bootstrap_1.2-7_i686.xsh
安装完成之后即可通过ipkg进行包管理了，
ipkg install binutils
C:\Users\obaby>F:\Pycharm_Projects\sexy_girl_spider\dist\ikmn\ikmn.exe
****************************************************************************************************
USAGE:
spider -h <help> -a <all> -q <search> -e <early stop>
Arguments:
-a <download all site images>
-q <query the image with keywords>
-h <display help text, just this>
Option Arguments:
-p <image download path>
-r <random index category list>
-c <single category url>
-e <early stop, work in site crawl mode only>
-s <site url eg: https://www.ikmn.vip (no last backslash "/")>
****************************************************************************************************
更新日志： 调整超时时间为30秒，解决由于服务器解析导致的下载失败。如果效果不好，请下载旧版本。
F:\Pycharm_Projects\meitulu-spider\venv\Scripts\python.exe F:\Pycharm_Projects\meitulu-spider\xrmnw.py
****************************************************************************************************
秀人美女网爬虫
Verson: 22.12.03
Blog: http://www.h4ck.org.cn
****************************************************************************************************
USAGE:
spider -h <help> -a <all> -q <search>
Arguments:
-a <download all site images>
-q <query the image with keywords>
-h <display help text, just this>
Option Arguments:
-p <image download path>
-r <random index category list>
-c <single category url>
-e <early stop, work in site crawl mode only>
-s <site url eg: http://www.xiurenji.vip (no last backslash "/")>
****************************************************************************************************
更新日志： 22.9.4 1.调整超时时间为10秒 2.换了个进度条 3.下载异常处理可能不生效的问题 22.4.12 增加-e early stop参数，配合整站爬取使用，单独无效.如果没有完成整站爬取不要使用该参数，终止逻辑过于简单粗暴。首次爬取尽量使用批处理死循环，开多进程处理。 22.1.18 1.兼容更新后的秀人集网站，支持搜索以及全站爬取。 2.修改默认域名为https://www.xiurenji.net（暂时可以不使用-s 参数）。 22.1.20 1.修复页面异常可能导致的异常终止 22.1.24 1.增加-r参数，支持分类重拍，可以开启多个进程进行爬取。说实话就是姐姐太懒了，不想写多线程。 2.增加-c参数，支持爬取特定分类，请直接-c 分类地址。具体参数见下方使用说明。
更新记录： 1. 修复了地址中由于/引起的404问题。
页面地址：http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhfdm/2021/11/01/01/110101001.html 最近需要使用最新的行政区划信息，虽然统计局公开了相关的数据，但是并没有提供数据文件。于是，就写了个爬虫把所有的数据爬取了一遍。生成的默认数据格式为json，另外提供了一个工具来把json转成csv。
更新记录： 1.修复部分页面链接失效导致创建目录之后不能下载的问题； 2.修复登录模式下超出浏览次数导致下载失败的问题，提前结束进程；