热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

golang解析磁力链为torrent相关的信息

其实通过http请求已经获得了种子的信息了,但是传播存储种子好像是违法的,所以就存储些描述信息吧。之前python跑的太慢了。这个go并发不知道写的有没有问题?!packag

其实通过http请求已经获得了种子的信息了,但是传播存储种子好像是违法的,所以就存储些描述信息吧。

之前 python 跑的太慢了。这个 go 并发不知道写的有没有问题?!大笑

package main

import (
"bufio"
"bytes"
"crypto/sha1"
"database/sql"
"fmt"
_ "github.com/go-sql-driver/mysql"
"io"
"log"
"net"
"net/http"
"os"
"strconv"
"strings"
"time"
)

import bencode "code.google.com/p/bencode-go"

type FileDict struct {
Length int64 "length"
Path []string "path"
Md5sum string "md5sum"
}

type InfoDict struct {
FileDuration []int64 "file-duration"
FileMedia []int64 "file-media"

// Single file
Name string "name"
Length int64 "length"
Md5sum string "md5sum"

// Multiple files
Files []FileDict "files"
PieceLength int64 "piece length"
Pieces string "pieces"
Private int64 "private"
}

type MetaInfo struct {
Info InfoDict "info"
InfoHash string "info hash"
Announce string "announce"
AnnounceList [][]string "announce-list"
CreationDate int64 "creation date"
Comment string "comment"
CreatedBy string "created by"
Encoding string "encoding"
}

func (metaInfo *MetaInfo) ReadTorrentMetaInfoFile(r io.Reader) bool {

fileMetaData, er := bencode.Decode(r)
if er != nil {
return false
}

metaInfoMap, ok := fileMetaData.(map[string]interface{})
if !ok {
return false
}

var bytesBuf bytes.Buffer
for mapKey, mapVal := range metaInfoMap {
switch mapKey {
case "info":
if er = bencode.Marshal(&bytesBuf, mapVal); er != nil {
return false
}

infoHash := sha1.New()
infoHash.Write(bytesBuf.Bytes())
metaInfo.InfoHash = string(infoHash.Sum(nil))

if er = bencode.Unmarshal(&bytesBuf, &metaInfo.Info); er != nil {
return false
}

case "announce-list":
if er = bencode.Marshal(&bytesBuf, mapVal); er != nil {
return false
}
if er = bencode.Unmarshal(&bytesBuf, &metaInfo.AnnounceList); er != nil {
return false
}

case "announce":
if aa, ok := mapVal.(string); ok {
metaInfo.Announce = aa
}

case "creation date":

if tt, ok := mapVal.(int64); ok {
metaInfo.CreatiOnDate= tt
}

case "comment":
if cc, ok := mapVal.(string); ok {
metaInfo.Comment = cc
}

case "created by":
if cb, ok := mapVal.(string); ok {
metaInfo.CreatedBy = cb
}

case "encoding":
if ed, ok := mapVal.(string); ok {
metaInfo.Encoding = ed
}
}
}

return true
}

func makeUrl(hashinfo string) string {
url := "http://bt.box.n0808.com/%s/%s/%s.torrent"
str := strings.ToUpper(hashinfo)
return fmt.Sprintf(url, str[0:2], str[len(str)-2:], str)
}

func logFile(msg string) {
f, err := os.OpenFile("logfile_torrent.txt", os.O_RDWR|os.O_CREATE|os.O_APPEND, 0666)
if err != nil {
return
}
defer f.Close()

log.SetOutput(f)
log.Println(msg)
}

var timeout = time.Duration(2 * time.Second)

func dialTimeout(network, addr string) (net.Conn, error) {
return net.DialTimeout(network, addr, timeout)
}

func pullTorrent(url string) (int, error) {

req, err := http.NewRequest("GET", url, nil)
if err != nil {
return 1, err
}

req.Header.Add("User-Agent", "Mozilla/5.0")
req.Header.Add("Host", "bt.box.n0808.com")
req.Header.Add("Accept", "*/*")
req.Header.Add("Connection", "Keep-Alive")

transport := http.Transport{
Dial: dialTimeout,
}

client := &http.Client{
Transport: &transport,
}

resp, err := client.Do(req)

if err != nil {
return 2, err
}
defer resp.Body.Close()

var metaTorrent MetaInfo
ok := metaTorrent.ReadTorrentMetaInfoFile(resp.Body)
if !ok {
return 3, nil
}

name := metaTorrent.Info.Name
hashInfo := fmt.Sprintf("%X", metaTorrent.InfoHash)
created := metaTorrent.CreationDate

var fileLength int64
var fileDownLoadList bytes.Buffer
var fileList string

for _, fileDict := range metaTorrent.Info.Files {
fileLength += fileDict.Length
for _, path := range fileDict.Path {
fileDownLoadList.WriteString(path)
fileDownLoadList.WriteString("\r\n")
}
}
fileList = fileDownLoadList.String()

var fileLengthTotal int64
if fileLength > 0 {
fileLengthTotal = fileLength / (1024 * 1024)
}

if fileLengthTotal > 0 {
db, err := sql.Open("mysql", "root:admin@tcp(127.0.0.1:3306)/678BT?charset=utf8&timeout=3s")
if err != nil {
return 4, err
}
defer db.Close()

stmtIns, err := db.Prepare("INSERT INTO magnet (hashinfo,name,files,length,created,indexd) VALUES(?,?,?,?,?,?)")
if err != nil {
return 5, err
}
defer stmtIns.Close()

timestamp := time.Now().Unix()
_, error := stmtIns.Exec(hashInfo, name, fileList, fileLengthTotal, created, timestamp)
if error != nil {
return 6, error
}
}

return 0, nil
}

func popChan(chs []chan int) {
for _, vv := range chs {
tmp := <-vv
fmt.Println(tmp)
}
}

func main() {
f, err := os.Open("torrent.txt")
if err != nil {
log.Fatal(err)
}
defer f.Close()

bf := bufio.NewReader(f)

no := 0
ch := make([]chan int, 128)
op := 0

for {

if no >= 128 {
popChan(ch)
no = 0
}

ch[no] = make(chan int)

line, isPrefix, err := bf.ReadLine()
if err == io.EOF {
break
}

if err != nil {
logFile(err.Error())
}

if isPrefix {
logFile("LINE TOO LONG")
}

torrent := strings.Trim(string(line), "\r\n")
torrent1 := strings.Trim(torrent, "\r")
torrent2 := strings.Trim(torrent1, "\n")

if len(torrent2) > 10 {

go func(chx chan int, nox int) {

ret, err := pullTorrent(makeUrl(torrent2))
if ret != 0 {
logFile(strconv.Itoa(ret))
if err != nil {
logFile(err.Error())
}
}

chx <- nox

}(ch[no], no)

no++
}

op++

if op%1000 == 0 {
fmt.Println(no)
}
}
}



推荐阅读
  • Iamtryingtomakeaclassthatwillreadatextfileofnamesintoanarray,thenreturnthatarra ... [详细]
  • 关键词:Golang, Cookie, 跟踪位置, net/http/cookiejar, package main, golang.org/x/net/publicsuffix, io/ioutil, log, net/http, net/http/cookiejar ... [详细]
  • Go Cobra命令行工具入门教程
    本文介绍了Go语言实现的命令行工具Cobra的基本概念、安装方法和入门实践。Cobra被广泛应用于各种项目中,如Kubernetes、Hugo和Github CLI等。通过使用Cobra,我们可以快速创建命令行工具,适用于写测试脚本和各种服务的Admin CLI。文章还通过一个简单的demo演示了Cobra的使用方法。 ... [详细]
  • (三)多表代码生成的实现方法
    本文介绍了一种实现多表代码生成的方法,使用了java代码和org.jeecg框架中的相关类和接口。通过设置主表配置,可以生成父子表的数据模型。 ... [详细]
  • Android系统源码分析Zygote和SystemServer启动过程详解
    本文详细解析了Android系统源码中Zygote和SystemServer的启动过程。首先介绍了系统framework层启动的内容,帮助理解四大组件的启动和管理过程。接着介绍了AMS、PMS等系统服务的作用和调用方式。然后详细分析了Zygote的启动过程,解释了Zygote在Android启动过程中的决定作用。最后通过时序图展示了整个过程。 ... [详细]
  • 本文介绍了Java高并发程序设计中线程安全的概念与synchronized关键字的使用。通过一个计数器的例子,演示了多线程同时对变量进行累加操作时可能出现的问题。最终值会小于预期的原因是因为两个线程同时对变量进行写入时,其中一个线程的结果会覆盖另一个线程的结果。为了解决这个问题,可以使用synchronized关键字来保证线程安全。 ... [详细]
  • [大整数乘法] java代码实现
    本文介绍了使用java代码实现大整数乘法的过程,同时也涉及到大整数加法和大整数减法的计算方法。通过分治算法来提高计算效率,并对算法的时间复杂度进行了研究。详细代码实现请参考文章链接。 ... [详细]
  • 本文介绍了在多平台下进行条件编译的必要性,以及具体的实现方法。通过示例代码展示了如何使用条件编译来实现不同平台的功能。最后总结了只要接口相同,不同平台下的编译运行结果也会相同。 ... [详细]
  • Android开发实现的计时器功能示例
    本文分享了Android开发实现的计时器功能示例,包括效果图、布局和按钮的使用。通过使用Chronometer控件,可以实现计时器功能。该示例适用于Android平台,供开发者参考。 ... [详细]
  • Go GUIlxn/walk 学习3.菜单栏和工具栏的具体实现
    本文介绍了使用Go语言的GUI库lxn/walk实现菜单栏和工具栏的具体方法,包括消息窗口的产生、文件放置动作响应和提示框的应用。部分代码来自上一篇博客和lxn/walk官方示例。文章提供了学习GUI开发的实际案例和代码示例。 ... [详细]
  • 本文讨论了clone的fork与pthread_create创建线程的不同之处。进程是一个指令执行流及其执行环境,其执行环境是一个系统资源的集合。在调用系统调用fork创建一个进程时,子进程只是完全复制父进程的资源,这样得到的子进程独立于父进程,具有良好的并发性。但是二者之间的通讯需要通过专门的通讯机制,另外通过fork创建子进程系统开销很大。因此,在某些情况下,使用clone或pthread_create创建线程可能更加高效。 ... [详细]
  • OO第一单元自白:简单多项式导函数的设计与bug分析
    本文介绍了作者在学习OO的第一次作业中所遇到的问题及其解决方案。作者通过建立Multinomial和Monomial两个类来实现多项式和单项式,并通过append方法将单项式组合为多项式,并在此过程中合并同类项。作者还介绍了单项式和多项式的求导方法,并解释了如何利用正则表达式提取各个单项式并进行求导。同时,作者还对自己在输入合法性判断上的不足进行了bug分析,指出了自己在处理指数情况时出现的问题,并总结了被hack的原因。 ... [详细]
  • Spring学习(4):Spring管理对象之间的关联关系
    本文是关于Spring学习的第四篇文章,讲述了Spring框架中管理对象之间的关联关系。文章介绍了MessageService类和MessagePrinter类的实现,并解释了它们之间的关联关系。通过学习本文,读者可以了解Spring框架中对象之间的关联关系的概念和实现方式。 ... [详细]
  • HashMap的相关问题及其底层数据结构和操作流程
    本文介绍了关于HashMap的相关问题,包括其底层数据结构、JDK1.7和JDK1.8的差异、红黑树的使用、扩容和树化的条件、退化为链表的情况、索引的计算方法、hashcode和hash()方法的作用、数组容量的选择、Put方法的流程以及并发问题下的操作。文章还提到了扩容死链和数据错乱的问题,并探讨了key的设计要求。对于对Java面试中的HashMap问题感兴趣的读者,本文将为您提供一些有用的技术和经验。 ... [详细]
  • MySQL数据库锁机制及其应用(数据库锁的概念)
    本文介绍了MySQL数据库锁机制及其应用。数据库锁是计算机协调多个进程或线程并发访问某一资源的机制,在数据库中,数据是一种供许多用户共享的资源,如何保证数据并发访问的一致性和有效性是数据库必须解决的问题。MySQL的锁机制相对简单,不同的存储引擎支持不同的锁机制,主要包括表级锁、行级锁和页面锁。本文详细介绍了MySQL表级锁的锁模式和特点,以及行级锁和页面锁的特点和应用场景。同时还讨论了锁冲突对数据库并发访问性能的影响。 ... [详细]
author-avatar
凰千寻_847
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有