程序员最近都爱上了这个网站  程序员们快来瞅瞅吧!  it98k网:it98k.com

本站消息

站长简介/公众号

  出租广告位,需要合作请联系站长

+关注
已关注

分类  

暂无分类

标签  

暂无标签

日期归档  

2023-06(2)

彻底解决Python3写爬虫或网站时的乱码问题

发布于2019-08-08 09:41     阅读(764)     评论(0)     点赞(1)     收藏(2)


第一次写贴子,试试水

很多玩Python3的都会遇到编码问题,如果直接去处理未知编码的网页,不是Python内部编码格式utf8会出现乱码,下面介绍一种将未知编码的字串转换为utf8来避免乱码的方法,

在很多Python编码转换的场景中都可以使用,

这段是自己写的爬虫中的一段代码,代码比较简短,聪明的你一定能抓住其中的重点

复制代码
#请求网页并转网页编码
def getHtmlAndDealCode(url):
    #html=requests.get(url,verify=False)
    html = s.get(url,headers=header)
    code=html.encoding
    html=html.text
    html=html.encode(code)
    html=html.decode('utf-8')
    parser = 'html.parser'
    soup = BeautifulSoup(html ,parser)
    return soup
复制代码

 



所属网站分类: 技术文章 > 博客

作者:erer34

链接:https://www.pythonheidong.com/blog/article/12749/efe1449171f354280994/

来源:python黑洞网

任何形式的转载都请注明出处,如有侵权 一经发现 必将追究其法律责任

1 0
收藏该文
已收藏

评论内容:(最多支持255个字符)