返回顶部
分享到

安装scrapy框架并测试全过程

python 来源:互联网 作者:佚名 发布时间:2025-11-23 09:11:28 人浏览
摘要

安装scrapy框架并测试 这是个系列文章,主要是能让大家快速的的做出一个小项目,主要是我现在在做计算机设计大赛,想把做过的东西记录下来,后续我会将整个计设的项目的制作过程写出来

安装scrapy框架并测试

这是个系列文章,主要是能让大家快速的的做出一个小项目,主要是我现在在做计算机设计大赛,想把做过的东西记录下来,后续我会将整个计设的项目的制作过程写出来分享给大家。其中包括Django、mysql数据库、前端等。

这些文章主要是记录具体操作过程,具体的知识内容还请去刷视频,这里不做过多解释。

安装scrapy框架

在终端里先后运行这个语句即可安装

1

2

pip install wheel

pip install scrapy

在终端里输入scrapy即可验证是否安装成功,以下是没有安装前的情况。

以下是安装过后验证的情况

这样就说明安装成功了。

 

我们需要在pycharm终端里创建一个工程

代码如下: 

1

scrapy startproject comment(comment为你的工程名称)

创建成功如下 

 

(这里注意,有些同学创建不成功报错的,需要在pycharm终端里再次执行pip install scrapy) 

紧接着执行下面提示的两段代码来创建我们的爬虫主文件

1

cd comment

注意这里的example.com我们需要换成自己的起始url (这里随便设一个就好,这个不影响我们的任务)

1

scrapy genspider news(这里的news为爬虫文件名称)www.xxx.com

然后配置成如下的形式 

注意这里的allowed_domains可以注释掉,对我们的任务没有太大的影响。start_urls里的url换成我们需要请求的网址。(这里我就用腾讯新闻的主页来测试了)

在此之前我们需要在settings.py文件里完成如下配置:

然后在终端输入以下代码来运行爬虫文件:

1

scrapy crawl news

运行成功!

这样测试就完成了,可以进行后续的任务了。


版权声明 : 本文内容来源于互联网或用户自行发布贡献,该文观点仅代表原作者本人。本站仅提供信息存储空间服务和不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权, 违法违规的内容, 请发送邮件至2530232025#qq.cn(#换@)举报,一经查实,本站将立刻删除。
原文链接 :
相关文章
  • 安装scrapy框架并测试全过程

    安装scrapy框架并测试全过程
    安装scrapy框架并测试 这是个系列文章,主要是能让大家快速的的做出一个小项目,主要是我现在在做计算机设计大赛,想把做过的东西记录
  • Python实现PDF文档高效转换为HTML文件
    一、为什么需要PDF转HTML 在数字化办公场景中,PDF因其格式固定、跨平台兼容性强成为文档分发的主流格式。但PDF的静态特性限制了内容复用
  • Python使用Appium实现自动化操作手机入门教学

    Python使用Appium实现自动化操作手机入门教学
    在当今移动互联网时代,手机应用已经成为人们日常生活中不可或缺的一部分。随着移动应用的快速发展,自动化测试和手机操作的需求也
  • 利用Playwright实现文件上传与下载的完成判断
    在自动化测试或网页数据交互场景中,文件上传与下载是极为常见的操作。Playwright 作为强大的自动化测试工具,不仅能模拟用户触发上传和
  • python学习必备知识
    一、变量 1.变量 指在程序执行过程中,可变的量; 定义一个变量,就会伴随有3个特征,分别是内存ID、数据类型和变量值。 其他语言运行
  • Python PiP换镜像源的实现

    Python PiP换镜像源的实现
    1、更新PiP 1 python -m pip install --upgrade pip 2、永久换源(阿里) 1 pip config set global.index-url https://mirrors.aliyun.com/pypi/simple/ 3、临时换源(阿里)
  • Python实现专业级字符串清理技术的完全指南

    Python实现专业级字符串清理技术的完全指南
    引言:数据清洗的核心挑战 在数据处理领域,超过80%的时间都花在数据清洗上,而字符串净化是其中最关键的一环。根据2023年数据工程报告
  • Python ttk模块简介与使用
    Python编程之ttk模块详细介绍与使用教程 1. ttk 简介 ttk (Themed Tkinter) 是 Python 标准库中 tkinter 的一个扩展模块,提供了更加现代化、主题化的
  • Python按照24个实用大方向精选的上千种工具库汇总

    Python按照24个实用大方向精选的上千种工具库汇总
    Python 生态,向来以各种类库齐全而闻名,这也是这门语言如此受欢迎的重要原因。今天就给大家分享一下这几天的战果,宵衣旰食,不眠不
  • Python38个游戏开发库整理汇总介绍

    Python38个游戏开发库整理汇总介绍
    今天山月给大家带来了一个更好玩的东西:python游戏开发库。 说到游戏,山月想起了小时候和同桌在纸上玩的井字游戏、五子棋,以及现在
  • 本站所有内容来源于互联网或用户自行发布,本站仅提供信息存储空间服务,不拥有版权,不承担法律责任。如有侵犯您的权益,请您联系站长处理!
  • Copyright © 2017-2022 F11.CN All Rights Reserved. F11站长开发者网 版权所有 | 苏ICP备2022031554号-1 | 51LA统计