• k8凯发

    来源:诚心诚意,作者: ,:

    你问我网站的爬虫技术,我爬虫技术还不如你爬菜花呢

    我这人老了,脑子也软了,但网站这事儿我还真懂点。不过你问我爬虫技术,我得说你问得太高级了。算了不扯这个了说远了,我这脑子里还记着十几年前的事儿——那时候还没网站,还得去人家摊上买个电脑,花了四十万(好像三十来万也记混了)买个三星笔记本,里头装了个Windows XP,还得自己装个IE6,连个防火墙都不装,直接暴露在网上,让黑客来找茬。嗐不聊这个了,说远了,我这身体今天又不中了——先说正事儿,网站爬虫技术,你问我还真懂点,但也没你想象的那么高大上。比如,我记得有一个老板,他要爬个淘宝的商品数据,我跟他说:“你别爬,直接用API就行了,得有好些个API,你用错了就得被封IP。”他听了,好家伙,还真懂得,说:“那我就用API吧,得嘞。”

    不过,现在的网站越来越复杂了,有的还用了反爬虫的技术,比如随机的请求头,或者用了CAPTCHA,让爬虫都爬不进去。我记得有一个同行,他花了大把钱买了个高级的爬虫框架,结果还是被封了IP,他就哭鼻子了,说:“这爬虫技术真没用,得嘞。”我听了,好家伙,还真有点同情心,但也没什么好说的,你问我爬虫技术,我就告诉你,现在的网站太复杂了,你要爬,得学点新技术,比如用Python去写,或者用JavaScript去爬。不过,我这人脑子不太行,你问我爬虫技术,我就告诉你,你还是去学个正经的爬虫框架吧,比如Scrapy,或者Selenium,得嘞。

    不过,我还记得有一个老板,他要爬个百度的搜索结果,我跟他说:“你别爬,直接用百度的API就行了,得有好些个API,你用错了就得被封IP。”他听了,好家伙,还真懂得,说:“那我就用API吧,得嘞。”我记得他还花了大把钱买了个高级的API,结果还是被封了IP,他就哭鼻子了,说:“这API真没用,得嘞。”我听了,好家伙,还真有点同情心,但也没什么好说的,你问我爬虫技术,我就告诉你,现在的网站太复杂了,你要爬,得学点新技术,比如用Python去写,或者用JavaScript去爬。不过,我这人脑子不太行,你问我爬虫技术,我就告诉你,你还是去学个正经的爬虫框架吧,得嘞。

    不过,我还记得有一个老板,他要爬个京东的商品数据,我跟他说:“你别爬,直接用京东的API就行了,得有好些个API,你用错了就得被封IP。”他听了,好家伙,还真懂得,说:“那我就用API吧,得嘞。”我记得他还花了大把钱买了个高级的API,结果还是被封了IP,他就哭鼻子了,说:“这API真没用,得嘞。”我记得他还跟我抱怨,说:“我这人手头紧,得花大把钱买个高级的爬虫框架,结果还是不行,得嘞。”我听了,好家伙,还真有点同情心,但也没什么好说的,你问我爬虫技术,我就告诉你,现在的网站太复杂了,你要爬,得学点新技术,比如用Python去写,或者用JavaScript去爬。不过,我这人脑子不太行,你问我爬虫技术,我就告诉你,你还是去学个正经的爬虫框架吧,得嘞。

    现在年轻人哪懂这个啊,我这人老了,脑子也软了,但网站这事儿我还真懂点。不过,我这人脑子不太行,你问我爬虫技术,我就告诉你,你还是去学个正经的爬虫框架吧。不过,我这人身体不太行,得有好些次去医院看病,花了大把钱,但效果还行不得嘞。我记得有一个老太太,她去医院看病,花了大把钱,结果还是不行,她就哭鼻子了,说:“这医院真没用,得嘞。”我听了,好家伙,还真有点同情心,但也没什么好说的。

    # 修路 我这儿的马路,修得真慢,估摸着得有好几个月,得有好些次被堵车,我得花大把时间等车,有时候还得走路,花了大把钱买个电动车,结果还是不行,得有好些次被堵车,我就跟居委会大妈吵了一架,她还说:“你这人真不懂得,得嘞。”我听了,好家伙,还真有点生气,但也没什么好说的。

    # 菜价 菜价这事儿,真让人没法受,我这儿的菜价,估摸着得有好几倍,我得花大把钱买个菜,有时候还得跑外地,花了大把钱买个菜,结果还是不行,得有好些次被菜价刁钻,我就跟菜场摊贩吵了一架,他还说:“你这人真不懂得,得嘞。”我听了,好家伙,还真有点生气,但也没什么好说的。

    # 体检 我这身体,真让人没法受,我这儿的体检,估摸着得有好几百块钱,我得花大把钱买个体检,结果还是不行,得有好些次被体检结果刁钻,我就跟社区医院大夫吵了一架,她还说:“你这人真不懂得,得嘞。”我听了,好家伙,还真有点生气,但也没什么好说的。

    记性不行了想起来再补吧

    老板的爬虫之旅

    这位老板,他要爬的是京东的商品数据,我记得他花了大概三千块钱买了个高级爬虫框架,结果还是被封了IP。他跟我抱怨,说:“我这人手头紧,得花大把钱买个高级的爬虫框架,结果还是不行,得嘞。”我记得他还跟我提到过,他之前用的爬虫框架是Scrapy,结果还是不行,他就换成了Selenium,结果还是不行。我记得他还跟我抱怨,说:“我这人脑子不太行,你问我爬虫技术,我就告诉你,你还是去学个正经的爬虫框架吧,得嘞。”

    我记得他还问我,爬虫技术有没有什么新的技术,我就告诉他,现在的网站太复杂了,你要爬,得学点新技术,比如用Python去写,或者用JavaScript去爬。不过,我这人脑子不太行,你问我爬虫技术,我就告诉你,你还是去学个正经的爬虫框架吧。他听了,好家伙,还真有点同情心,但也没什么好说的。

    # 邻居 我这儿的邻居,真让人没法受,我这儿的邻居,有时候还得花大把时间去吵架,我记得有一个邻居,他每天都在吵架,花了大把时间,结果还是不行,我就跟他吵了一架,他还说:“你这人真不懂得,得嘞。”我听了,好家伙,还真有点生气,但也没什么好说的。

    # 修路 我这儿的马路,修得真慢,估摸着得有好几个月,我记得有一个居委会大妈,她每天都在修路,花了大把时间,结果还是不行,我就跟她吵了一架,她还说:“你这人真不懂得,得嘞。”我听了,好家伙,还真有点生气,但也没什么好说的。

    # 体检 我这身体,真让人没法受,我记得有一个社区医院,他每天都在体检,花了大把时间,结果还是不行,我就跟他吵了一架,他还说:“你这人真不懂得,得嘞。”我听了,好家甲,还真有点生气,但也没什么好说的。

    # 记忆 我这记性,真让人没法受,我记得有一个老太太,她每天都在记忆,花了大把时间,结果还是不行,我就跟她吵了一架,她还说:“你这人真不懂得,得嘞。”我听了,好家伙,还真有点生气,但也没什么好说的。

    困了先睡明天再说

    评论1:qq代理服务器 免费