python爬取网页图片(python爬取网页图片怎么规定图片大小)

python爬图片报错 [Errno 13] Permission denied: 'D:\\python\\test2'

python爬图片报错 [Errno 13] Permission denied: 'D:\\python\\test2'，是代码输入错误造成的，解决方法如下：

1、首先在网页上抓取图片时open函数有时会报错，如图。

2、然后，根据提示找到错误代码处进行查看，是open函数出了问题。

3、再仔细看这个部分报错的文件名称，发现有个*号，问题就找出来了。

4、使用.replace('*','')将*号替换，就可以了。

5、然后再次运行该代码，最后，图片抓取完成，就不会再报错了。

学爬虫需要掌握哪些知识

学爬虫需要掌握的知识内容如下：

零基础想要入门Python爬虫，主要需要学习爬虫基础、HTTP和HTTPS、requests模块、cookie请求、数据提取方法值json等相关知识点。

只有在打牢理论知识的基础上，理解爬虫原理，学会使用 Python进行网络请求，才能做到真正掌握爬取网页数据的方法。当然如果大家觉得自学无从下手，可以在博学谷平台上观看视频课程进行学习。

爬虫的入门课程，让大家充分了解理解爬虫的原理，再学会使用 python 进行网络请求的同时，还能掌握如何爬取网页数据的方法，即掌握爬虫技术。

1、找URL，不同的网页请求方式不同，比如说登录，你点击登录的时候的url地址是什么？比如你要爬取图片，图片的地址怎么找？再比如你要获取某个话题的评论，如何获取多页的内容？

仅仅一个URL的获取就会涉及很多，网络 请求：http请求，https请求，请求头，请求方式，cookie等这些要明白。

2、了解了请求，那如何去拿到请求的内容呢？就需要用到一些请求库，比如urllib，requests，ajax或者框架scrapy。

3、拿到了内容密密麻麻的怎么提取我需要的，解析一般有四种方式：CSS选择器、XPATH、BeautifulSoup、正则表达式或普通字符串查找、JavaScript代码加载内容。这些内容需要具备前端的基础和xpath，BeautifulSoup库的使用等。

4、保存数据，数据最终持久化。

总的来讲，编程零基础的朋友不用担心自己学不会或学不好爬虫技术，只要大家选择了适合自己的学习课程，就会发现虽然爬虫技术需要学的内容很多，但是学起来并不枯燥困难，相反还十分有趣。想要掌握爬虫技术现在就开始学习吧。

使用python爬取网页，获取不到图片地址

这个大图片是在点击之后用 JS 控制加载的。

你可以看看 js/js.js 这个文件，253 行：

function?changeImg(){

jQuery("#bitImg").attr('src','p/p'+pictID+'/'+indexNum+'.'+jpgPng);

}

其实大图的规律很好找， 下面缩略图列表的 src 可以用 #variContent li img 取到，可以在源码中的 107 行找到：

view-source:

缩略图列表地址长这样：

/p/p0997/tn/1.jpg

/p/p0997/tn/2.jpg

/p/p0997/tn/3.jpg

...

如果要获取大图，只要去掉“tn”这一段就可以：

/p/p0997/1.jpg

/p/p0997/2.jpg

/p/p0997/3.jpg

...

然后拼接域名在前面，GET 下来就是大图，比如第一个大图链接：

第一个大图地址

不过，你如果仅仅只是想要抓那个站的全部素材，穷举“p0997”这一段的序号（比如改成“p0098”，这个应该是图集的 ID），并且遍历最后一段的图片序号，扩展名可能是 jpg 也可能是 png，从 1 开始（“1.jpg”，“2.jpg”...）直到返回 404 停止。

思路大概是这么个思路，不过话说回来，你这么爬人家素材真的道德吗？