当前位置:  首页  >  PHP资讯  >  业界资讯

Python爬虫之m3u8文件里提取小视频的正确姿势

本文给大家分享如何正确提取m3u8文件里的.ts视频,并合成完整的.mp4格式视频,通过图文实例代码的形式给大家介绍的非常详细,对Python提取m3u8文件小视频感兴趣的朋友一起看看吧

前言

  在网上爬取的小视频(.ts格式)打不开怎么搞?使用IDM下载有时候还会出现数据受法律保护,IDM无法下载该内容,如何解决?这篇博客就来聊聊如何正确提取m3u8文件里的.ts视频,并合成完整的.mp4格式视频。

在这里插入图片描述
在这里插入图片描述

1. HLS协议与m3u8文件

  HLS,即 H T T P   L i v e   S t r e a m i n g HTTP\ Live\ Streaming HTTP Live Streaming的缩写,是由苹果公司提出基于HTTP的流媒体网络传输协议。是苹果公司QuickTime X和iPhone软件系统的一部分。它的工作原理是把整个流分成一个个小的基于HTTP的文件来下载,每次只下载一些。当媒体流正在播放时,客户端可以选择从许多不同的备用源中以不同的速率下载同样的资源,允许流媒体会话适应不同的数据速率。在开始一个流媒体会话时,客户端会下载一个包含元数据的扩展 M3U (m3u8) 播放列表文件,用于寻找可用的媒体流。
  M3U8是 U n i c o d e Unicode Unicode 版本的 M3U,用 UTF-8 编码。"M3U"和"M3U8"文件都是苹果公司使用的 H T T P   L i v e   S t r e a m i n g HTTP\ Live\ Streaming HTTP Live Streaming 格式的基础,这种格式可以在 iPhone 和 Macbook 等设备播放。是一种播放多媒体列表的文件格式,文本内容是一系列媒体片段资源,顺序播放该片段资源,即可完整展示多媒体资源。其格式大致如下:

 # 未加密 #EXTM3U #EXT-X-VERSION:3 #EXT-X-TARGETDURATION:8 #EXT-X-MEDIA-SEQUENCE:0 #EXTINF:4.000000, 1af12fece7a000000.ts #EXTINF:4.320000, 1af12fece7a000001.ts ... #EXTINF:3.800000, 1af12fece7a001155.ts #EXT-X-ENDLIST # 加密 #EXTM3U #EXT-X-VERSION:3 #EXT-X-TARGETDURATION:6 #EXT-X-PLAYLIST-TYPE:VOD #EXT-X-MEDIA-SEQUENCE:0 #EXT-X-KEY:METHOD=AES-128,URI="https://ts1.yuyuangewh.com:9999/20200808/1XdSSbTb/2000kb/hls/key.key" #EXTINF:3, https://ts1.yuyuangewh.com:9999/20200808/1XdSSbTb/2000kb/hls/EUtRrqJU.ts #EXTINF:4.72, https://ts1.yuyuangewh.com:9999/20200808/1XdSSbTb/2000kb/hls/HF90vrrN.ts ... #EXTINF:0.24, https://ts1.yuyuangewh.com:9999/20200808/1XdSSbTb/2000kb/hls/b7ZLcRqT.ts #EXT-X-ENDLIST

  中文维基百科----HTTP Live Streaming
  中文维基百科----M3U

  下面介绍几个m3u8文件中常见的标签:

标签 格式 作用
EXTM3U #EXTM3U 表明该文件是一个m3u8文件,每个m3u8文件必须将该标签放置在第一行
EXT-X-VERSION EXT-X-VERSION: 表明该文件是一个m3u8文件,每个m3u8文件必须将该标签放置在第一行
EXT-X-TARGETDURATION #EXT-X-TARGETDURATION: 表示每个视频分段最大的时长(单位秒)
EXT-X-PLAYLIST-TYPE #EXT-X-PLAYLIST-TYPE: 表明流媒体类型,VOD 表示该视屏流为点播源,因此服务器不能更改该m3u8文件;EVENT表示该视频流为直播源,因此服务器不能更改或删除该文件任意部分内容,但是可以在文件末尾添加新内容
EXT-X-MEDIA-SEQUENCE #EXT-X-MEDIA-SEQUENCE: 表示播放列表第一个URL片段文件的序列号,每个媒体片段URL都拥有一个唯一的整型序列号,每个媒体片段序列号按出现顺序依次加 1,如果该标签未指定,则默认序列号从0开始
EXT-X-KEY #EXT-X-KEY:METHOD=AES-128,URI="http:xxxx",IV="xxxx" 表明视频流文件的加解密方法,METHOD表示加密方式,URI表示密钥路径,该密钥是一个 16 字节的数据,IV是一个128位的十六进制数值
EXTINF #EXTINF:,[] 表示其后 URL 指定的媒体片段时长(单位为秒),duration可以为十进制的整型或者浮点型,其值必须小于或等于EXT-X-TARGETDURATION指定的值
EXT-X-ENDLIST #EXT-X-ENDLIST 表明m3u8文件的结束

  简书:m3u8 文件格式详解 作者:Whyn

2. 第三方库----m3u8

  m3u8是一个专门用于解析m3u8文件的解析器,有关库的详细操作请参阅官方示例

 # 安装m3u8 pip install m3u8
 # 加载m3u8文件 import m3u8 # 返回一个M3U8对象 playlist = m3u8.load(uri='http://videoserver.com/playlist.m3u8') # url # playlist = m3u8.load(uri='playlist.m3u8') # file print(playlist.segments) # 打印EXT-X-KEY标签和所有的EXTINF标签: print(playlist.target_duration) # 打印EXT-X-TARGETDURATION标签的值 for key in playlist.keys: if key: # 如果视频文件加密,可以查看加密参数 print(key.uri, key.method, key.iv)

3. 合成mp4文件

在这里插入图片描述

 本次就以这个视频为例,流程如下:
  1. 找到视频对应的.m3u8文件
  2. 解析.m3u8文件,从中提取.ts视频的url
  3. 下载.ts格式的视频
  4. 解密.ts格式的视频(如果视频流没有加密,则该步不是必须的)
  5. 合成.mp4或其他格式的视频

 # 第1步,我载了m3u8文件,也可以直接使用m3u8文件对应的url playlist = m3u8.load(uri='./data/index.m3u8') # 第2步,提取URL for seg in playlist.segments: print(seg.uri) # 第3步,下载ts视频 with open('xxxxx.ts', 'wb') as f: ts = get_ts(url) f.write(ts) # 第4步,解密 cipher_text = pad(data_to_pad=cipher_text, block_size=AES.block_size) aes = AES.new(key=key, mode=AES.MODE_CBC, iv=iv) cipher_text = aes.decrypt(cipher_text) # 第5步,合成 files = glob.glob(os.path.join('./video', '*.ts')) for file in files: with open(file, 'rb') as fr, open('./video_de/baitoushan.mp4', 'ab') as fw: cOntent= fr.read() fw.write(content )

4. 完整代码

 # -*- coding: utf-8 -*- # @Time : 2021/5/10 20:11 # @Author : XiaYouRan # @Email : youran.xia@foxmail.com # @File : video.py # @Software: PyCharm from Crypto.Cipher import AES from Crypto.Util.Padding import pad from concurrent.futures import ThreadPoolExecutor import requests import m3u8 import glob import os import time import logging logging.getLogger("urllib3").setLevel(logging.WARNING) def AESDecrypt(cipher_text, key, iv): cipher_text = pad(data_to_pad=cipher_text, block_size=AES.block_size) aes = AES.new(key=key, mode=AES.MODE_CBC, iv=iv) cipher_text = aes.decrypt(cipher_text) # clear_text = unpad(padded_data=cipher_text, block_size=AES.block_size) return cipher_text headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) ' 'AppleWebKit/537.36 (KHTML, like Gecko) Chrome/71.0.3578.98 Safari/537.36'} def get_ts(url): try: respOnse= requests.get(url, verify=False) response.raise_for_status() response.encoding = 'utf-8' return response.content except Exception as err: print(err) return b'' def save_ts(url, index): filename = os.path.join('./video', str(index).zfill(5) + '.ts') with open(filename, 'wb') as f: ts = get_ts(url) f.write(ts) print(filename + ' is ok!') if __name__ == '__main__': playlist = m3u8.load(uri='./data/index.m3u8') # 线程池,引入index可以防止合成时视频发生乱序 with ThreadPoolExecutor(max_workers=10) as pool: for index, seg in enumerate(playlist.segments): pool.submit(save_ts, seg.uri, index) key = get_ts(playlist.keys[-1].uri) files = glob.glob(os.path.join('./video', '*.ts')) for file in files: with open(file, 'rb') as fr, open('./video_de/baitoushan.mp4', 'ab') as fw: cOntent= fr.read() encOntent= AESDecrypt(content, key=key, iv=key) fw.write(encontent) print(file + ' is ok!')

  下载.ts文件效果如下:

在这里插入图片描述

  合成.mp4文件效果如下:

在这里插入图片描述

在这里插入图片描述

5. 结束语

Musicer开源代码仓库


  Musicer音乐爬虫已经开源了哦,持续更新中,欢迎来踩来Star哦!ヾ(≧∇≦*)ヾ

以上就是Python爬虫之m3u8文件里提取小视频的正确姿势的详细内容,更多关于Python提取m3u8文件小视频的资料请关注其它相关文章!

内容推荐:免费高清PNG素材下载
吐了个 "CAO" !
扫码关注 PHP1 官方微信号
PHP1.CN | 中国最专业的PHP中文社区 | PNG素材下载 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved PHP1.CN 第一PHP社区 版权所有 京ICP备19059560号-4