scrapy调试工具:
在项目根目录命令行输入scrapy shell 请求地址进入调试工具
调试工具中可以使用css选择器提取想要的内容，方便编写代码
css选择器:
response.css("title") #提取网页中的title标签
#以我的网站为例返回如下灰色字体部分
>>> response.css('title')
[<Selector xpath='descendant-or-self::title' data='<title>Again river!</title>'>]
response.css('title').extract() #提取网页中的title标签并且去除多余元素只保留title标签及其内容列表数据
>>> response.css('title').extract()
['<title>Again river!</title>']
response.css('title').extract()[0]#通过列表取值的方式返回的是标签字符串数据
response.css('title').extract_first() 和上面的[0]的方式效果是一样的
>>> response.css('title').extract()[0]
'<title>Again river!</title>'
>>> response.css('title').extract_first()
'<title>Again river!</title>'
response.css('title::text').extract_first()#通过列表取值的方式返回的是标签内容字符串数据
>>> response.css('title::text').extract_first()
'Again river!'
xpath选择器
response.xpath('//title').get()#获取title标签
>>> response.xpath('//title').get()
'<title>Again river!</title>'
response.xpath('//title/text()').get()#获取title标签的文本多个结果使用getall()
>>> response.xpath('//title/text()').get()
'Again river!'
CSS高级用法
| 选择器 | 示例 | 示例说明 | CSS |
|---|---|---|---|
| #id | #firstname | 选择所有id="firstname"的元素 | 1 |
| * | * | 选择所有元素 | 2 |
| element | p | 选择所有 元素 | 1 |
| element,element | div,p | 选择所有 元素和 元素 | 1 |
| element element | div p | 选择 元素内的所有 元素 | 1 |
| element>element | div>p | 选择所有父级是 元素的 元素 | 2 |
| element+element | div+p | 选择所有紧接着 元素之后的 元素 | 2 |
| [attribute] | [target] | 选择所有带有target属性元素 | 2 |
| [attribute=value] | [target=-blank] | 选择所有使用target="-blank"的元素 | 2 |
| [attribute~=value] | [title~=flower] | 选择标题属性包含单词"flower"的所有元素 | 2 |
| [attribute|=language] | [lang|=en] | 选择一个lang属性的起始值="EN"的所有元素 | 2 |
| :link | a:link | 选择所有未访问链接 | 1 |
| :visited | a:visited | 选择所有访问过的链接 | 1 |
| :active | a:active | 选择活动链接 | 1 |
| :hover | a:hover | 选择鼠标在链接上面时 | 1 |
| :focus | input:focus | 选择具有焦点的输入元素 | 2 |
| :first-letter | p:first-letter | 选择每一个 元素的第一个字母 | 1 |
| :first-line | p:first-line | 选择每一个 元素的第一行 | 1 |
| :first-child | p:first-child | 指定只有当 元素是其父级的第一个子级的样式。 | 2 |
| :before | p:before | 在每个 元素之前插入内容 | 2 |
| :after | p:after | 在每个 元素之后插入内容 | 2 |
| :lang(language) | p:lang(it) | 选择一个lang属性的起始值="it"的所有 元素 | 2 |
| element1~element2 | p~ul | 选择p元素之后的每一个ul元素 | 3 |
| [attribute^=value] | a[src^="https"] | 选择每一个src属性的值以"https"开头的元素 | 3 |
| [attribute$=value] | a[src$=".pdf"] | 选择每一个src属性的值以".pdf"结尾的元素 | 3 |
| [attribute*=value] | a[src*="runoob"] | 选择每一个src属性的值包含子字符串"runoob"的元素 | 3 |
| :first-of-type | p:first-of-type | 选择每个p元素是其父级的第一个p元素 | 3 |
| :last-of-type | p:last-of-type | 选择每个p元素是其父级的最后一个p元素 | 3 |
| :only-of-type | p:only-of-type | 选择每个p元素是其父级的唯一p元素 | 3 |
| :only-child | p:only-child | 选择每个p元素是其父级的唯一子元素 | 3 |
| :nth-child(n) | p:nth-child(2) | 选择每个p元素是其父级的第二个子元素 | 3 |
| :nth-last-child(n) | p:nth-last-child(2) | 选择每个p元素的是其父级的第二个子元素，从最后一个子项计数 | 3 |
| :nth-of-type(n) | p:nth-of-type(2) | 选择每个p元素是其父级的第二个p元素 | 3 |
| :nth-last-of-type(n) | p:nth-last-of-type(2) | 选择每个p元素的是其父级的第二个p元素，从最后一个子项计数 | 3 |
| :last-child | p:last-child | 选择每个p元素是其父级的最后一个子级。 | 3 |
| :root | :root | 选择文档的根元素 | 3 |
| :empty | p:empty | 选择每个没有任何子级的p元素（包括文本节点） | 3 |
| :target | #news:target | 选择当前活动的#news元素（包含该锚名称的点击的URL） | 3 |
| :enabled | input:enabled | 选择每一个已启用的输入元素 | 3 |
| :disabled | input:disabled | 选择每一个禁用的输入元素 | 3 |
| :checked | input:checked | 选择每个选中的输入元素 | 3 |
| :not(selector) | :not(p) | 选择每个并非p元素的元素 | 3 |
| ::selection | ::selection | 匹配元素中被用户选中或处于高亮状态的部分 | 3 |
| :out-of-range | :out-of-range | 匹配值在指定区间之外的input元素 | 3 |
| :in-range | :in-range | 匹配值在指定区间之内的input元素 | 3 |
| :read-write | :read-write | 用于匹配可读及可写的元素 | 3 |
| :read-only | :read-only | 用于匹配设置 "readonly"（只读） 属性的元素 | 3 |
| :optional | :optional | 用于匹配可选的输入元素 | 3 |
| :required | :required | 用于匹配设置了 "required" 属性的元素 | 3 |
| :valid | :valid | 用于匹配输入值为合法的元素 | 3 |
| :invalid | :invalid | 用于匹配输入值为非法的元素 | 3 |
总结:
调试工具与选择器可以让我们更加方便的进行数据筛选得到想要的数据。
并且xpath与css选择器可以混用，更多使用请访问官网地址获取更详细的使用说明！
