热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

day33锁和队列

队列#put和get#__author:liuyang#date:20194160016上午11:32#多进程之间的数据是隔离的#进程之间的数据交互#是可以通过网络文件来实

队列

  #put 和  get

#__author : 'liuyang'
#
date : 2019/4/16 0016 上午 11:32
#
多进程之间的数据是隔离的
#
进程之间的数据交互
#
是可以通过网络/文件来实现的
#
socket 来实现# IPC inter process communication# 多个进程之间的通信#通过python的模块实现的# 基于原生socket# 基于进程队列的 *****#第三方的软件/工具来实现:# 不需要写socket(写好了)# 需要安装#memcache redis rabbitMQ kafka
#
网络
def son():pass
from multiprocessing import Queue #可以完成进程之间的通信的特殊的队列
#
from queue import Queue #不能完成进程之间的通信
#
q = Queue()
#
q.put(1)
#
q.put(2)
#
print(q.get())
#
print(q.get())
#
from multiprocessing import Queue,Process
# def son(q):
#
print(q.get())
#
if __name__ == '__main__':
#
q = Queue()
#
Process(target=son,args=(q,)).start()
#
# Process
#
q.put('wahah')#生产者消费者模型#python 程序#模仿浏览器去访问一个网页#urllib.urlopen(url)
#
开多线程 同样的时间 可以爬更多的网站# 紧耦合 松耦合 ?(包一个包子 买一个包子)(包很多包子 买很多包子)
#
获得数据 生产者
#
处理数据 消费者
#
调节生产者的个数或者消费者的个数让程序的效率达到最平衡和最大化
#
解耦思想
import time
import random
# def producer(q): #爬虫
#
for i in range(10):
#
time.sleep(random.random())#爬虫的时间
#
food = '泔水%s'%i
#
print('%s 生产了 %s'%('taibai',food))
#
q.put(food)
#
# num = random.randint(1,100)
#
# print('producer 生产了一个数据%s'%num,)
#
q.put(food)
#
def consumer(q,name):
#
while True: # 处理数据
#
food = q.get() # food = shiwu / None
#
if not food : break
#
time.sleep(random.uniform(1,2)) #处理数据再短也要处理一会
#
print('%s 吃了 %s '%(name,food))# num = q.get()# print('消费者受到了一个%s'%num)
#
if __name__ == '__main__':
#
q = Queue()
#
p1 = Process(target=producer,args=(q,))
#
p1.start()
#
c1 = Process(target=consumer,args=(q,'alex'))
#
c1.start()
#
c2 = Process(target=consumer,args=(q,'wusir'))
#
c2.start()
#
p1.join() #阻在这里
#
q.put(None) #传过去None 判断退出
#
q.put(None)from multiprocessing import JoinableQueue,Process
# 放任务 取任务#生产数据 放进来 计数器 加 1# q.join() 阻塞 直到为零
#
反回 一个消息 q.task_donedef consumer(jq,name):while True: # 处理数据food = jq.get()# if food : breaktime.sleep(random.uniform(1,2)) #处理数据再短也要处理一会print('%s 吃了 %s '%(name,food))jq.task_done()def producer(jq): #爬虫for i in range(10):time.sleep(random.random())#爬虫的时间food = '泔水%s'%iprint('%s 生产了 %s'%('taibai',food))jq.put(food)jq.join()if __name__ == '__main__':jq = JoinableQueue()c1 = Process(target=consumer,args = (jq,'alex'))p1 = Process(target=producer,args = (jq,))c1.daemon = Truec1.start()p1.start()p1.join()# consumer 所有数据消费完
#
队列join 结束
#
producer 继承结束
#
p1 进程阻塞结束
#
主进程的代码结束
#
守护进程结束# 锁 同一时刻 同一段代码, 只能有一个进程来执行这段代码#保证数据的安全#多进程中,只有去操作一些,进程之间可以共享的数据资源的时候才需要枷锁#lock = Lock()#acquire() release#with lock :#Lock 互斥锁# 队列#IPC#PUT#GET# 生产者消费者模型 基于队列把生产者和消费者数据的过程分开了#补充:#队列 是进程安全的(自带了锁) :一个人来取得时候不会有另个人来##AttributeError: module 'socket' has no attribute 'socket#队列 基于什么实现的 文件家族的socket服务# 基于文件家族的socket 服务实现的ipc不止一个,管道pipe#pipe 会出现安全问题 没带锁# 队列 = 管道+锁#管道 是基于文件家族的socket 服务实现
from multiprocessing import Pipe

队列

  #acquire()  和 release()

#__author : 'liuyang'
#
date : 2019/4/16 0016 上午 10:31
#
抢票 的 多台机器服务 (请求票的时候有可能信息修改了) #票的信息都存到一个大的#
from multiprocessing import Process
import json
import time# 数据的安全性 一张票 被很多个人买了
def search_ticket(name):with open('ticket',encoding='utf-8')as f:dic = json.load(f)print('%s查询余票为%s'%(name,dic['count']))
# def buy_ticket(name):
#
with open('ticket', encoding='utf-8')as f:
#
dic = json.load(f)
#
time.sleep(0.2)
#
if dic['count'] >= 1 :
#
print('%s买到票了'%name)
#
dic['count'] -= 1
#
time.sleep(0.2)
#
with open('ticket', encoding='utf-8')as f:
#
# dic = json.load
#
else:
#
print('没了')
#
十个人同时查票
def user(name):#不涉及买 随便 并发
search_ticket(name)# buy_ticket(name)# with 还会处理异常 前一个 出错了 以后的都可以释放 跳出异常# 不等了
if __name__ == '__main__':l = ['alex','b','c']for name in l:search_ticket(name)# p = Process(target=search_ticket,args=(name,))# p.start()# 1. 牺牲了效率 ,保证了数据安全 关闭了 多进程 异步 并发# 在数据安全面前 效率不值一提 (和钱打交道的app都巨慢)# 不涉及钱的 可以 牺牲一点安全
#
2 用户就觉得 很慢 体验很差.# join() 是同步 加单道了 一个个执行# 锁的应用场景# # 内存里还有 子进程结束 子进程没了 变量 join 加入内存里了

内容回顾

#__author : 'liuyang'
#
date : 2019/4/16 0016 上午 10:31
#
抢票 的 多台机器服务 (请求票的时候有可能信息修改了) #票的信息都存到一个大的#
from multiprocessing import Process
import json
import time# 数据的安全性 一张票 被很多个人买了
def search_ticket(name):with open('ticket',encoding='utf-8')as f:dic = json.load(f)print('%s查询余票为%s'%(name,dic['count']))
# def buy_ticket(name):
#
with open('ticket', encoding='utf-8')as f:
#
dic = json.load(f)
#
time.sleep(0.2)
#
if dic['count'] >= 1 :
#
print('%s买到票了'%name)
#
dic['count'] -= 1
#
time.sleep(0.2)
#
with open('ticket', encoding='utf-8')as f:
#
# dic = json.load
#
else:
#
print('没了')
#
十个人同时查票
def user(name):#不涉及买 随便 并发
search_ticket(name)# buy_ticket(name)# with 还会处理异常 前一个 出错了 以后的都可以释放 跳出异常# 不等了
if __name__ == '__main__':l = ['alex','b','c']for name in l:search_ticket(name)# p = Process(target=search_ticket,args=(name,))# p.start()# 1. 牺牲了效率 ,保证了数据安全 关闭了 多进程 异步 并发# 在数据安全面前 效率不值一提 (和钱打交道的app都巨慢)# 不涉及钱的 可以 牺牲一点安全
#
2 用户就觉得 很慢 体验很差.# join() 是同步 加单道了 一个个执行# 锁的应用场景# # 内存里还有 子进程结束 子进程没了 变量 join 加入内存里了

内容回顾到10.40

 

转:https://www.cnblogs.com/Doner/p/10716292.html



推荐阅读
  • 第七课主要内容:多进程多线程FIFO,LIFO,优先队列线程局部变量进程与线程的选择线程池异步IO概念及twisted案例股票数据抓取 ... [详细]
  • 开发笔记:加密&json&StringIO模块&BytesIO模块
    篇首语:本文由编程笔记#小编为大家整理,主要介绍了加密&json&StringIO模块&BytesIO模块相关的知识,希望对你有一定的参考价值。一、加密加密 ... [详细]
  • YOLOv7基于自己的数据集从零构建模型完整训练、推理计算超详细教程
    本文介绍了关于人工智能、神经网络和深度学习的知识点,并提供了YOLOv7基于自己的数据集从零构建模型完整训练、推理计算的详细教程。文章还提到了郑州最低生活保障的话题。对于从事目标检测任务的人来说,YOLO是一个熟悉的模型。文章还提到了yolov4和yolov6的相关内容,以及选择模型的优化思路。 ... [详细]
  • 生成式对抗网络模型综述摘要生成式对抗网络模型(GAN)是基于深度学习的一种强大的生成模型,可以应用于计算机视觉、自然语言处理、半监督学习等重要领域。生成式对抗网络 ... [详细]
  • Spring源码解密之默认标签的解析方式分析
    本文分析了Spring源码解密中默认标签的解析方式。通过对命名空间的判断,区分默认命名空间和自定义命名空间,并采用不同的解析方式。其中,bean标签的解析最为复杂和重要。 ... [详细]
  • Linux重启网络命令实例及关机和重启示例教程
    本文介绍了Linux系统中重启网络命令的实例,以及使用不同方式关机和重启系统的示例教程。包括使用图形界面和控制台访问系统的方法,以及使用shutdown命令进行系统关机和重启的句法和用法。 ... [详细]
  • 本文讨论了在Windows 8上安装gvim中插件时出现的错误加载问题。作者将EasyMotion插件放在了正确的位置,但加载时却出现了错误。作者提供了下载链接和之前放置插件的位置,并列出了出现的错误信息。 ... [详细]
  • 使用Ubuntu中的Python获取浏览器历史记录原文: ... [详细]
  • Python瓦片图下载、合并、绘图、标记的代码示例
    本文提供了Python瓦片图下载、合并、绘图、标记的代码示例,包括下载代码、多线程下载、图像处理等功能。通过参考geoserver,使用PIL、cv2、numpy、gdal、osr等库实现了瓦片图的下载、合并、绘图和标记功能。代码示例详细介绍了各个功能的实现方法,供读者参考使用。 ... [详细]
  • 本文介绍了机器学习手册中关于日期和时区操作的重要性以及其在实际应用中的作用。文章以一个故事为背景,描述了学童们面对老先生的教导时的反应,以及上官如在这个过程中的表现。同时,文章也提到了顾慎为对上官如的恨意以及他们之间的矛盾源于早年的结局。最后,文章强调了日期和时区操作在机器学习中的重要性,并指出了其在实际应用中的作用和意义。 ... [详细]
  • 本文介绍了如何使用Express App提供静态文件,同时提到了一些不需要使用的文件,如package.json和/.ssh/known_hosts,并解释了为什么app.get('*')无法捕获所有请求以及为什么app.use(express.static(__dirname))可能会提供不需要的文件。 ... [详细]
  • Python爬虫中使用正则表达式的方法和注意事项
    本文介绍了在Python爬虫中使用正则表达式的方法和注意事项。首先解释了爬虫的四个主要步骤,并强调了正则表达式在数据处理中的重要性。然后详细介绍了正则表达式的概念和用法,包括检索、替换和过滤文本的功能。同时提到了re模块是Python内置的用于处理正则表达式的模块,并给出了使用正则表达式时需要注意的特殊字符转义和原始字符串的用法。通过本文的学习,读者可以掌握在Python爬虫中使用正则表达式的技巧和方法。 ... [详细]
  • MySQL语句大全:创建、授权、查询、修改等【MySQL】的使用方法详解
    本文详细介绍了MySQL语句的使用方法,包括创建用户、授权、查询、修改等操作。通过连接MySQL数据库,可以使用命令创建用户,并指定该用户在哪个主机上可以登录。同时,还可以设置用户的登录密码。通过本文,您可以全面了解MySQL语句的使用方法。 ... [详细]
  • 本文介绍了Python语言程序设计中文件和数据格式化的操作,包括使用np.savetext保存文本文件,对文本文件和二进制文件进行统一的操作步骤,以及使用Numpy模块进行数据可视化编程的指南。同时还提供了一些关于Python的测试题。 ... [详细]
  • 【爬虫】关于企业信用信息公示系统加速乐最新反爬虫机制
    ( ̄▽ ̄)~又得半夜修仙了,作为一个爬虫小白,花了3天时间写好的程序,才跑了一个月目标网站就更新了,是有点悲催,还是要只有一天的时间重构。升级后网站的层次结构并没有太多变化,表面上 ... [详细]
author-avatar
Z-ji
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有