首页 > 编程语言 > 详细

Python中并发、多线程等

时间:2018-11-13 02:00:01      阅读:220      评论:0      收藏:0      [点我收藏+]

1、基本概念

并发和并行的区别:

1)并行,parallel

同时做某些事,可以互不干扰的同一时刻做几件事。(解决并发的一种方法)

高速公路多个车道,车辆都在跑。同一时刻。

2)并发 concurrency

同时做某些事,一个时段内有事情要处理。(遇到的问题)

高并发,同一时刻内,有很多事情要处理。

2、并发的解决

1)队列、缓冲区

排队就是把人排成队列,先进先出,解决了资源使用的问题。

排成的队列,其实就是一个缓冲地带,就是缓冲区。

Queue模块的类queue、lifoqueue、priorityqueue。

2)争抢的

会有一个人占据窗口,其他人会继续争抢,可以锁定窗口,窗口不在为其他人服务,这就是锁机制。(锁的概念,排他性锁,非排他性锁)。

 

3)预处理

一种提前加载用户需要的数据的思路,预处理思想,缓存常用。

 

4)并行

日常可以通过购买更多的服务器,或者开多线程,实现并行处理,来解决并发问题。

水平扩展思想。

如果在但CPU上处理,就不是并行了。

但是多数服务都是多CPU的,服务的部署就是多机、分布式的,都是并行处理。

(串行比并行快)

5)提速

提高单个CPU性能,或单个服务器安装更多的CPU

这就是一种垂直扩展思想。

 

6)消息中间件

例如地跌站外的九曲回肠的走廊,缓冲人流。

常见的消息中间件有RabbitMQ,ActiveMQ(Apache)、RocketMQ(Apache)。

 

3、进程和线程

在实现了线程的操作系统中,线程是操作系统能够进行运算调度的最小单位。他包含在进程中,是进程中的实际运作单位。一个程序执行实例就是一个进程。

 

进程(process)是计算机中的程序关于某数据集合上的一次运行活动,是系统进行资源分配和调度的基本单位,是操作系统结构的基础。

(可执行,可运行的加载到内存中。程序是有一定格式的,Python解释器加载,所有进程都是有入口的。偏移多少位。主线程达不到要求,就会启用多线程。

多核。调度到不同的CPU上面去,虚拟的计算单元。)

资源争抢问题:锁,排他性锁。队列,不争抢的人排队。预加载,减少数据处理速度,提前加载到内存中。一变多。

 

 

进程和程序的关系

程序是源代码编译后的文件,而这些文件存放在磁盘上。当程序被操作系统加载到内存

中,就是进程,进程中存放着指令和数据(资源),也是线程的容器。

 

Linux进程有父进程、子进程,Windows的进程是平等关系。

 

线程,有时被称为轻量级进程,是程序执行流的最小单元,一个标准的线程由线程ID,当前指令指针(pc寄存器集合堆栈组成。每个线程有自己独立的栈。

在许多系统中,创建一个线程比创建一个进程快10-100倍。

 

进程、线程的理解

现代操作系统提出的进程的概念,每一个进程都认为自己是独占所有的计算机硬件资源。

进程就是独立的王国,进程间不可以随便的共享数据。

线程就是省份,同一个进程内的线程可以共享进程的资源,每一个线程拥有自己独立的堆栈。

 

4、线程状态

状态

含义

就绪(ready)

线程能够运行,但在等待被调度,可能线程刚刚创建启动,或刚刚从阻塞恢复,或者被其他线程抢占。

运行(running)

线程正在运行

阻塞(Blocked)

线程等待外部事件发生而无法运行,如I/O操作。

终止(Terminated)

线程完成,或退出,或被取消。

 

 

5、Python中的线程和进程

进程会启动一个解释器进程,线程会共享一个解释器进程。

 

1)Python的线程开发

Python的线程开发使用标准库threading

 

2)Thread类

签名:

def __init__(self, group: None = ...,
             target: Optional[Callable[..., None]] = ...,
             name: Optional[str] = ...,
             args: Iterable = ...,
             kwargs: Mapping[str, Any] = ...,
             *, daemon: Optional[bool] = ...) -> None: ...

参数名

含义

target

线程调用对象,就是目标函数

name

为线程起名字

args

为目标函数传递实参,元组

Kwargs

为目标函数关键词传参,字典

3)线程启动

import threading
import time

def worker():
    print(‘before‘)
    time.sleep(3)
    print(‘finished‘)

t = threading.Thread(target=worker)  #线程对象
t.start()   #启动

 

通过threading.Thread创建一个线程对象,target是目标函数,name可以指定名称。

需要调用start方法启动函数。

线程之所以执行函数,是因为线程中就是用来执行代码的,所以还是函数调用。

 

函数执行完毕后,线程也就退出了。

如果想让一个线程一直工作,不让线程退出就要利用到while循环。

import threading
import time

def worker():
    count = 0
    while True:
        count += 1
        print(‘before‘)
        time.sleep(3)
        if count >5:
            print(‘finished‘)
            break

t = threading.Thread(target=worker)  #线程对象
t.start()   #启动

 

4)线程退出

Python中没有提供终止线程的方法。线程在下面情况下退出。

(1)线程函数内语句执行完毕

(2)线程函数中抛出未处理的异常。

import threading
import time

def worker():
    count = 0
    while True:
        if count >5:
            break
            #return
            #raise RuntimeError(count)
        time.sleep(3)
        print(‘before‘)
        count += 1
        print(‘finished‘)

t = threading.Thread(target=worker)  #线程对象
t.start()   #启动
print(‘end‘)

 

线程没有优先级,没有线程组的概念。也不能被销毁、停止、挂起,那么就是没有恢复和中断了。

5)线程的传参

import threading
import time

def add(x,y):
    print(‘{}+{}={}‘.format(x,y,x+y))


t1 = threading.Thread(target=add,name=‘1‘,args=(4,5))
t1.start()
time.sleep(2)

t2 = threading.Thread(target=add,name = ‘2‘,args=(4,),kwargs={‘y‘:6})
t2.start()
time.sleep(2)
t3 = threading.Thread(target=add,name=‘3‘,kwargs={‘x‘:4,‘y‘:7})
t3.start()

 

线程中的传参,和函数传参没有什么区别,本质上就是函数传承。

 

6)threading的属性和方法

名称

含义

current_thread()

返回当前主线程

main_thread()

返回主线程对象

active_count()

当前处于alive状态的线程个数

enumerate()

返回所有活着的线程的列表,不包括已经终止的线程和未开始的线程

git_ident()

返回当前线程的ID,非0整数。

active_count、enumerate方法返回的值还包括主线程。


import threading
import time


def showinfo():
    print(‘currentthread = {}‘.format(threading.current_thread()))
    print(‘main thread = {}‘.format(threading.main_thread()))
    print(‘active count = {}‘.format(threading.active_count()))

def worker():
    count = 0
    showinfo()
    while True:
        if count>5:
            break
        time.sleep(5)
        count += 1
        print(‘finsh‘)

t = threading.Thread(target=worker,name=‘work‘)
showinfo()
t.start()

print(‘end‘)

 

 

currentthread = <_MainThread(MainThread, started 4048)>

main thread = <_MainThread(MainThread, started 4048)>

active count = 1

currentthread = <Thread(work, started 9084)>

end

main thread = <_MainThread(MainThread, stopped 4048)>

active count = 2

finsh

finsh

finsh

finsh

finsh

Finsh

 

名称

含义

Name

他只是一个名字,只是一个标识符,名字可以重名,getname()获取,setname()设置这个名词

Ident

线程id,是非0的整数,线程启动后才会有ID,否则为None,线程退出,此id依旧可以访问,此id可以重复访问。

Is_alive()

返回线程是否或者

线程的name只是一个名称,可以重复;id必须唯一,但可以在线程退出后在利用。

 

import threading

import time

 

 

def worker():

    count = 0

    while True:

        if count > 5:

            break

        time.sleep(2)

        count += 1

        print(threading.current_thread().name)

 

t = threading.Thread(name=‘work‘,target=worker)

print(t.ident)

t.start()

 

while True:

    time.sleep(1)

    if t.is_alive():

        print(‘{}{}alive‘.format(t.name,t.ident))

    else:

        print(‘{}{}dead‘.format(t.name,t.ident))

名称

含义

Start()

启动线程,每一个线程必须且只能执行该方法一次

Run()

运行线程函数

 

Start()启动线程,只能执行一次。操作系统。开辟新的线程。

Run()直接做的是主线程。函数调用。

(1)start()
import threading
import time

def worker():
    count = 0
    while True:
        if count > 5:
            break
        time.sleep(3)
        count += 1
        print(‘running‘)
class Mythread(threading.Thread):
    def start(self):
        print(‘start----‘)
        super().start()

    def run(self):
        print(‘run----‘)
        super().run()

t = Mythread(target=worker,name=‘work‘)

t.start()

start方法运行结果是start----

run----

Running

按照线程进行执行。

(2)run()
import threading
import time


def worker():
    count = 0
    while True:
        if count>3:
            break
        time.sleep(2)
        count += 1
        print(‘runing‘)
class Mythread(threading.Thread):
    def start(self):
        print(‘start----‘)
        super().start()

    def run(self):
        print(‘run----‘)
        super().run()

t = Mythread(target=worker,name=‘work1‘)
t.run()

# run----
# runing

总结:run()执行结果就是直接是函数,调用,调用run函数。

Start()方法会调用run()方法,而run()方法可以运行函数。

 

(3)start和run的区别

Start方法启动线程,启动了一个新的线程,名字叫做worker运行,但是run方法,并没有启动新的线程,只是在主线程内调用了一个普通的函数。

 

7)多线程

 

多线程,一个进程中如果有多个线程,就是多线程,是先一种并发。

import threading
import time


def worker():
    count = 0
    while True:
        if count>3:
            break
        time.sleep(2)
        count += 1
        print(‘runing‘)
        print(threading.current_thread().name,threading.current_thread().ident)
class Mythread(threading.Thread):
    def start(self):
        print(‘start----‘)
        super().start()

    def run(self):
        print(‘run----‘)
        super().run()

t1 = Mythread(target=worker,name=‘work1‘)
t2 = Mythread(target=worker,name=‘work2‘)

# t1.run()
# t2.run()
####runing
# MainThread 1380
# runing
# MainThread 1380
# runing
# MainThread 1380
t1.start()
t2.start()
# start----
# run----
# start----
# run----
# runing
# work2 5048
# runing
# work1 9048

 

Start()方法work1和work2交替执行。启动线程后,进程内多个活动的线程并行工作,就是多线程。

Run()方法中没有开启新的线程,就是普通函数调用,所以执行完t1.run()

,然后执行t2.run(),run()方法就不是多线程。

 

一个进程中至少有一个线程,并作为程序的入口,这个线程就是主线程,一个线程必须有一个主线程。

其他线程成为工作线程。

 

8)线程安全

import threading

def worker():
    for x in range(100):
        print(‘{}is running‘.format(threading.current_thread().name))


for x in range(1,4):
    name = ‘worker{}‘.format(x)
    t = threading.Thread(name=name,target=worker)
    t.start()

 

利用ipython执行的结果是不是一行行的打印,而是很多字符串打印在了一起。

这样说明了print函数被打断了,被线程切换打断了,print函数分为两步,第一步是打印字符串,第二部是换行,就在这个期间,发生了线程的切换,说明了print函数是线程不安全的。

 

线程安全:线程执行一段代码,不会产生不确定的结果,那么这段代码是线程安全的。

也是要用锁,进程的锁是管进程内的线程。独占资源。

 

解决上面打印的问题:

(1)不让print打印换行

import threading

 

def worker():

    for x in range(100):

        print(‘{} is running.\n‘.format(threading.current_thread().name),end=‘‘)

 

for x in range(1,5):

    name = ‘worker{}‘.format(x)

    t = threading.Thread(name=name,target=worker)

    t.start()

利用字符串是不可变类型,可以作为一个整体不可分割输出,end=’’就不在print输出换行了。

 

(2)使用logging

标准库里面的logging模块,是日志处理模块,线程安全的,生产环境代码都使用logging。

import threading
import logging


def worker():
    for x in range(100):
        # print(‘{} is running.\n‘.format(threading.current_thread().name),end=‘‘)
        logging.warning(‘{}is running‘.format(threading.current_thread().name))
for x in range(1,5):
    name = ‘worker{}‘.format(x)
    t = threading.Thread(name=name,target=worker)
    t.start()

 

 

 

9)daemon线程和non-daemon线程

daemon不是Linux里面的守护进程。

 

进程靠线程执行代码,至少有一个主线程,其他线程是工作线程。

主线程是第一个启动的线程。

父线程:如果A中启动了一个线程B,那么A就是B的父线程。

子线程:B就是A的子线程。

 

源码Thread的__init__ 方法中。

If deamon is not None:

Self._daemonic = daemon

else:

Self._daemonic = current_thread().daemon

Self._ident = None

线程daemon属性,如果设定就是用户的设置,否则,就取当前线程的daemon的值。

主线程是non-daemon线程,即daemon = False。

import time
import threading


def foo():
    time.sleep(5)
    for i in range(20):
        print(i)

t = threading.Thread(target=foo,daemon=False)
t.start()
print(‘end‘)

 

daemon设置False值,主线程执行完毕后,等待工作线程。

import time
import threading


def foo():
    time.sleep(5)
    for i in range(20):
        print(i)

t = threading.Thread(target=foo,daemon=True)
t.start()
print(‘end‘)

Daemon值改为true,主线程执行完毕后直接退出。

名称

含义

Daemon

表示线程是否是daemon,这个值必须在start()之前设置,否则引发RuntimeError异常

IsDaemon()

是否是daemon线程

SetDaemon

设置daemon线程,必须在start方法之前设置。

总结:线程具有一个daemon属性,可以显示设置为True或者False,也可以不设置,则取默认值None。

 

如果不设置daemon,就取当前线程的daemon来设置他。

主线程是non-daemon线程,即daemon = False。

从主线程创建的所有线程的不设置daemon属性,则默认daemon = False,也就是non-daemon线程。

程序在没有活着的non-daemon线程运行时推出,也是就剩下的只是daemon线程,主线程才能推出。否则主线程只能等待。

 

构造线程的时候,可以设置daemon属性,这个属性必须在start方法前设置好。

daemon=True主线程不等。工作线程

daemon=False主线程等。只要有一个non-daemon就会等待。

控制一个属性的。

在start之前。

 

只是有一个non-daemon就会等待,没有的话直接不等,直接结束线程。

总结:

线程具有daemon属性,可以设置为True或者False。

(激活的non-daemon,主线程才会等待工作线程。)

import time
import threading


def bar():
    time.sleep(10)
    print(‘bar‘)

def foo():
    for i in range(20):
        print(i)
    t = threading.Thread(target=bar,daemon=False)
    t.start()
t = threading.Thread(target=foo,daemon=True)
t.start()

print(‘end‘)

 

这样不会执行bar的,因为主线程的daemon设置的值为True,改为False就好了。

活着让主线程sleep几秒。

import time
import threading


def bar():
    time.sleep(10)
    print(‘bar‘)

def foo(n):
    for i in range(n):
        print(i)
t1 = threading.Thread(target=foo,args=(10,),daemon=True)
t1.start()
t2 = threading.Thread(target=foo,args=(20,),daemon=False)
t2.start()

time.sleep(6)
print(‘end‘)

 

如果non-daemon线程的时候,主线程退出,也不会结束所有的daemon线程,直到所有的non-daemon线程全部结束,如果还有daemon线程,主线程需要退出,会结束所有的daemon线程,退出。

 

主线程是non-daemon。其他线程靠传参。

决定的是是否需要等待。如果有激活的non-daemon,就需要等待,没有激活的,主线程直接退出。

 

10)join方法

import time
import threading
def foo(n):
    for i in range(n):
        print(i)
        time.sleep(1)

t1 = threading.Thread(target=foo,args=(10,),daemon=True)
t1.start()
t1.join()

 

 

 利用join,主线程被迫等待他。把当前线程阻塞住了,x.join就等待谁。保证代码的执行顺序。

 

使用了join方法后,daemon线程执行完了,主线程才退出了。

 

Join(timeout= None),是线程的标准方法之一。

一个线程中调用另一个线程的join方法,调用者将被阻塞,直到被调用线程终止。

一个线程可以被join多次。

Timeout参数指定调用者等待多久,没有设置超时的,就会一直等待到调用的线程结束。

调用谁的join方法,就是join谁,就要等睡。

 

 

 

 

11)daemon线程应用场景

简单来说,本来并没有daemon Thread,这个概念唯一的作用是,当把一个线程设置为daemon,他会随着主线程的退出而退出。

主要应用场景为:

(1)后台任务。发送心跳包,监控。

(2)主线程工作才有用的线程。如主线程中维护着公共的资源,主线程已经清理了,准备退出,而工作线程使用这些资源工作没有意义了,一起退出最合适。

(3)随时可以被终止的线程。

 

如果主线程退出,想所有其他工作线程一起退出,就使用daemon=True来创建工作线程。

import time
import threading


def bar():
    while True:
        time.sleep(1)
        print(‘bar‘)

def foo():
    print(‘t1 daemon = {}‘.format(threading.current_thread().isDaemon()))
    t2 = threading.Thread(target=bar)
    t2.start()
   
    print(‘t2 daemon = {}‘.format(t2.isDaemon()))

t1 = threading.Thread(target=foo,daemon=True)
t1.start()


time.sleep(3)
print(‘Main end‘)

 

改造成一直执行的:

import time
import threading


def bar():
    while True:
        time.sleep(1)
        print(‘bar‘)

def foo():
    print(‘t1 daemon = {}‘.format(threading.current_thread().isDaemon()))
    t2 = threading.Thread(target=bar)
    t2.start()
    t2.join()
    print(‘t2 daemon = {}‘.format(t2.isDaemon()))

t1 = threading.Thread(target=foo,daemon=True)
t1.start()
t1.join()

time.sleep(3)
print(‘Main end‘)

 

Daemon线程,简化了手动关闭线程的工作。

 

12)threading.local 类

 

局部变量的实现:

import threading
import time

def worker():
    x = 0
    for i in range(10):
        time.sleep(0.01)
        x += 1
        print(threading.current_thread(),x)


for i in  range(10):
    threading.Thread(target=worker).start()

 

利用全局变量实现:


import threading
import time

globals_data = threading.local()

def worker():
    globals_data.x = 0
    for i in range(10):
        time.sleep(0.01)
        globals_data.x += 1
        print(threading.current_thread(),globals_data.x)


for i in  range(10):
    threading.Thread(target=worker).start()

 

import threading


X = ‘abc‘
ctx = threading.local()
ctx.x = 123

print(ctx,type(ctx),ctx.x)

def worker():
    print(X)
    print(ctx)
    print(ctx.x)   #打印的时候出错,表示x不能跨线程
    print(‘working‘)

worker()
print()
threading.Thread(target=worker).start() #另一个线程启动

 

threading.local类构建了一个大字典,其元素是每一线程实例地址为key和线程对象引用线程单独的字典的映射。

 

通过threading.local实例就可在不同的线程中,安全的使用线程独有的数据,做到了线程间数据隔离,如同本地变量一样安全。

 

Local和线程相关的大字典,每次利用的时候利用线程的小字典来顶替local实例的大字典。

不利用的话,全局变量的话直接就是threading.local和本地线程相关的数据。

 

 

13)定时器timer延迟执行

Threading.Timer继承自thread,这个类用来另一多久执行一个函数。

Class threading.Timer(interval,function,args=None,kwargs=None)

Start方法执行以后,Timer对象会处于等待状态,等待了interval之后,开始执行function函数的。如果在执行函数之前的等待阶段,使用了cancel方法,就会跳过执行函数结果。

 

本质上就是一个Thread,只是没有提供name,daemon。

import threading
import logging
import time


def worker():
    logging.info(‘in worker‘)
    time.sleep(2)


t = threading.Timer(5,worker)
t.start()  #启动
print(threading.enumerate())
t.cancel()   #取消
time.sleep(1)
print(threading.enumerate())

 

[<_MainThread(MainThread, started 7512)>, <Timer(Thread-1, started 6644)>]

[<_MainThread(MainThread, started 7512)>]

 

import threading
import logging
import time


def worker():
    logging.info(‘in worker‘)
    time.sleep(2)


t = threading.Timer(5,worker)
t.cancel()   #取消
t.start()  #启动
print(threading.enumerate())
time.sleep(1)
print(threading.enumerate())

 

[<_MainThread(MainThread, started 7512)>]

[<_MainThread(MainThread, started 7512)>]

 

 

 

二、线程同步

1、概念

线程同步,线程间协同,通过某种技术,让一个线程访问某些数据时候,其他线程不能访问这些数据,直到该线程完成对数据的操作。

 

不同操作系统实现技术有所不同,有临界区、互斥量、信号量、事件Event。

 

2、Event

Event事件,是线程间通信机制中最简单的实现,使用一个内部的标记flag,通过flag的True或False的变化来进行操作。

名称

含义

set()

标记为True

clear()

标记为False

is_set()

标记是否为True

Wait(timeout=None)

设置等待标记为True的时长,None为无限等待,等到返回True,未等到超时了返回False。

 

课堂练习:老板雇佣了一个工人,让他生产杯子,老板一直等着这个工人,直到上产了十个杯子。

1)利用join

import threading
import time
import logging


def worker(count=10):
    cups = []
    while len(cups)<count:
        logging.info(‘wprking‘)
        time.sleep(0.01)
        cups.append(1)
        print(len(cups))
    logging.info(‘I am finished‘)
w = threading.Thread(target=worker)
w.start()
w.join()

 

 

 

 

2)利用event

import threading
import logging
import time


def boss(event:threading.Event):
    logging.info(‘I am boss,waiting‘)
    event.wait()
    logging.info(‘good job‘)

def worker(event:threading.Event,count=10):
    logging.info(‘I am working for u‘)
    cups = []
    while True:
        logging.info(‘makeing‘)
        time.sleep(1)
        cups.append(1)
        if len(cups) >= count:
            print(len(cups))
            event.set()
            break
    logging.info(‘finished my job.cups={}‘.format(cups))

event = threading.Event()
w = threading.Thread(target=worker,args=(event,))
b = threading.Thread(target=boss,args=(event,))
w.start()
b.start()

 

 

 

 

 

 

3)wait的应用

import threading
import logging
logging.basicConfig(level=logging.INFO)

def do(event:threading.Event,interval:int):
    while not event.wait(interval):  #没有置set,所以是False。   不是False的时候就不能进入循环了。
        logging.info(‘do sth‘)    #没三秒打印一次。   not False执行此语句

e = threading.Event()
threading.Thread(target=do,args=(e,10)).start()

e.wait(12)  #整体停留了十秒。
e.set()    #重置为True。
print(‘end‘)

 

4)练习,实现timer。

 

总结:

使用同一个Event用来做标记。

Event的wait优于time.sleep,更快的切换到其他线程,提高并发效率。

 

 

import threading
import time


class MyTimer:
    def __init__(self,interval,function,args,kwargs):
        self.interval = interval
        self.target = function
        self.args = args
        self.kwargs = kwargs
        self.event = threading.Event()
        self.thread = threading.Thread(target=self.target,args=self.args,kwargs=self.kwargs)

    def start(self):
        self.event.wait(self.interval)
        if not self.event.is_set():   #如果没有置False,那么就是False,not False为True,执行run语句。
            self.run()
   
    def run(self):
        self.start()
       
        self.event.set()

    def cancel(self):
        self.event.set()

 

 

Lock锁

1)锁,凡是存在共享资源争抢的地方都可以使用锁。从而保证只有一个使用者可以完全使用这个资源。

 

lock.acquire  上锁    lock.release  解锁

import threading
import logging
import time
FORMAT = ‘%(asctime)s %(threadName)s %(thread)d %(message)s‘
logging.basicConfig(format=FORMAT,level=logging.INFO)


cups = []
def worker(count=10):
    logging.info(‘i am work‘)
    while len(cups) < count:
        time.sleep(0.1)
        cups.append(1)
    logging.info(‘i am finsh.cups={}‘.format(len(cups)))


for _ in range(10):
    threading.Thread(target=worker,args=(1000,)).start()

 

2018-05-26 15:38:25,913 Thread-1 32 i am work

2018-05-26 15:38:25,913 Thread-2 4332 i am work

2018-05-26 15:38:25,913 Thread-3 9992 i am work

2018-05-26 15:38:25,914 Thread-4 8464 i am work

2018-05-26 15:38:25,914 Thread-5 9968 i am work

2018-05-26 15:38:25,915 Thread-6 8712 i am work

2018-05-26 15:38:25,915 Thread-7 4412 i am work

2018-05-26 15:38:25,915 Thread-8 8456 i am work

2018-05-26 15:38:25,915 Thread-9 8316 i am work

2018-05-26 15:38:25,915 Thread-10 9772 i am work

2018-05-26 15:38:35,925 Thread-8 8456 i am finsh.cups=1000

2018-05-26 15:38:36,023 Thread-7 4412 i am finsh.cups=1001

2018-05-26 15:38:36,023 Thread-1 32 i am finsh.cups=1002

2018-05-26 15:38:36,023 Thread-6 8712 i am finsh.cups=1003

2018-05-26 15:38:36,024 Thread-5 9968 i am finsh.cups=1004

2018-05-26 15:38:36,024 Thread-4 8464 i am finsh.cups=1005

2018-05-26 15:38:36,024 Thread-10 9772 i am finsh.cups=1006

2018-05-26 15:38:36,024 Thread-2 4332 i am finsh.cups=1007

2018-05-26 15:38:36,025 Thread-3 9992 i am finsh.cups=1008

2018-05-26 15:38:36,025 Thread-9 8316 i am finsh.cups=1009

 

运行结果来看,多线程调度,导致了判断失误,多生产了杯子只有用到了锁。

Lock,锁,一旦线程获得锁,其他要获得锁的线程将被阻塞。

名称

含义

acquire(blocking=True,timeout=-1)

默认阻塞,阻塞可以设置超时时间,非阻塞时,timeout禁止设置,成果获取锁,返回True,否则返回None

Release

释放锁,可以从任何线程调用释放,

已上锁的锁,会被重置到unlocked未上锁的锁上调用,抛出RuntimeError异常。

import threading
import logging
import time
FORMAT = ‘%(asctime)s %(threadName)s %(thread)d %(message)s‘
logging.basicConfig(format=FORMAT,level=logging.INFO)


cups = []
lock = threading.Lock()
def worker(count=10):
    logging.info(‘i am work‘)
    lock.acquire()
    while len(cups) < count:
        print(threading.current_thread(),len(cups))
        time.sleep(0.000001)
        cups.append(1)
    logging.info(‘i am finsh.cups={}‘.format(len(cups)))
    lock.release()

for _ in range(10):
    threading.Thread(target=worker,args=(1000,)).start()

 

上锁位置不对,由一个线程抢占,并独自占锁并完成任务。

import threading
import logging
import time
FORMAT = ‘%(asctime)s %(threadName)s %(thread)d %(message)s‘
logging.basicConfig(format=FORMAT,level=logging.INFO)


cups = []
lock = threading.Lock()
def worker(count=10):
    logging.info(‘i am work‘)
    flag= False
    while True:
        lock.acquire() #获取锁

        if len(cups) >= count:
            flag = True
        # print(threading.current_thread(),len(cups))
        time.sleep(0.000001)
        if not flag:
            cups.append(1)
            print(threading.current_thread(),len(cups))
        lock.release()   #追加后释放锁
        if flag:
            break
    logging.info(‘i am finsh.cups={}‘.format(len(cups)))


for _ in range(10):
    threading.Thread(target=worker,args=(1000,)).start()

 

锁保证了数据完整性,但是性能下降好多。

If flag:break是为了保证release方法被执行,否则就出现了死锁,得到锁的永远没有释放。

 

计数器类,可以加可以减。

2)加锁、解锁

 一般加锁就需要解锁,但是加锁后解锁前,还要有一些代码执行,就有可能抛出异常,一旦出现异常锁是无法释放的,但是当前线程可能因为这个就异常终止了,这就产生了死锁。

 

加锁。解锁常用语句:

(1)使用try...finally语句保证锁的释放。

(2)With上下文管理,锁对象支持上下文管理。

import threading
import time


class Counter:
    def __init__(self):
        self._val = 0
        self.__lock = threading.Lock()

    @property
    def value(self):
        return self._val

    def inc(self):
        try:
            self.__lock.acquire()
            self._val += 1
        finally:
            self.__lock.release()

    def dec(self):
        with self.__lock:
            self._val -= 1

def run(c:Counter,count=1000):
    for _ in range(10):
        for i in range(-50,50):
            if i<0:
                c.dec()
            else:
                c.inc()

c = Counter()
c1 = 10
c2 = 10
for i in range(c1):
    threading.Thread(target=run,args=(c,c2)).start()

while True:
    time.sleep(1)
    if threading.active_count() == 1:
        print(threading.enumerate())
        print(c.value)
        break
    else:
        print(threading.enumerate())

 

 

不影响其他线程的切换,但是上锁后其他线程被阻塞了。只能等待。

 

 

 

3)锁的应用场景

适用于访问和修改同一个共享资源的时候,读写同一个资源的时候。

 

全部是读取同一个共享资源需要锁吗?

因为共享资源是不可变的,每一次读取都是一样的值,所以不用加锁。

 

使用锁的注意事项:

 

少用锁必要时用锁,使用了锁,多线程访问被锁的资源时候,就成了串行,要么排队执行,要么争抢执行。

 

加锁时间越短越好,不需要拍就立即释放锁。

一定要避免死锁。(死锁,打不开,解不开,A有锁,B也锁,占有这把锁的人迟迟不释放锁。没有使用上下文,持有锁的的线程异常退出了)

 

不使用锁,有了效率,但是结果是错的。

使用了锁,效率低下,但是结果是对的。

 

4)非阻塞锁使用

import threading
import logging
import time

FORMAT = ‘%(asctime)s %(threadName)s %(thread)d %(message)s‘
logging.basicConfig(format=FORMAT,level=logging.INFO)

def worker(tasks):
    for task in tasks:
        time.sleep(0.01)
        if task.lock.acquire(False):
            logging.info(‘{}{}begin to start‘.format(threading.current_thread(),task.name))
        else:
            logging.info(‘{}{}is working‘.format(threading.current_thread(),task.name))

class Task:
    def __init__(self,name):
        self.name = name
        self.lock = threading.Lock()


tasks = [Task(‘task-{}‘.format(x))for x in range(10)]

for i in range(5):
    threading.Thread(target=worker,name=‘worker-{}‘.format(i),args=(tasks,)).start()

 

 

5)可重入锁RLock:

是线程相关的锁

线程A可重复锁,并可以多次成功获取,不会阻塞 ,最后要在线程A中做和acquire次数相同的release。

 

拿到这把锁的线程可以多次使用。

别的线程拿到的话也是被阻塞的。

一个线程占用锁的时候,其他线程不能拿到,只能的是阻塞。直到当前线程次有的锁全部释放完,其他线程才可以获取。

 

可重入锁,与线程相关,可在一个线程中获取锁,并可继续在同一线程中不阻塞获取锁,当锁未释放完,其他线程获取锁就会阻塞。直到当前持有锁的线程释放完了锁。

 

四、Condition

构造方法:condition(lock=None),可以传入一个lock对象或Rlock对象,默认是Rlock。

名称

含义

Acquire(*args)

获取锁

Wait(self,timeout=None)

等待超时

Notify(n=1)

唤醒之多指定书目个数的等待的线程,没有等待的线程就没有任何操作

Notify_all()

唤醒所有等待的线程。

 

用于生产者、消费者模型,为了解决生产者消费者速度匹配的问题:

 

import threading
import logging
import random

FORMAT = ‘%(asctime)s %(threadName)s %(thread)d %(message)s‘
logging.basicConfig(format=FORMAT,level=logging.INFO)

class Dispatcher:
    def __init__(self):
        self.data = None
        self.event = threading.Event()

    def produce(self,total):
        for _ in range(total):
            data = random.randint(0,100)
            logging.info(data)
            self.data = data
            self.event.wait(1)
        self.event.set()

    def consume(self):
        while not self.event.is_set():
            data = self.data
            logging.info(‘recieved{}‘.format(data))
            self.data = None
            self.event.wait(0.5)

d = Dispatcher()
p = threading.Thread(target=d.produce,args=(10,),name=‘producer‘)
c = threading.Thread(target=d.consume,name=‘consume‘)
c.start()
p.start()

 

消费者采用主动消费,消费者浪费了大量的时间,主动来查看有没有数据。换成通知的机制。

import threading
import logging
import random

FORMAT = ‘%(asctime)s %(threadName)s %(thread)d %(message)s‘
logging.basicConfig(format=FORMAT,level=logging.INFO)

class Dispatcher:
    def __init__(self):
        self.data = None
        self.event = threading.Event()
        self.cond = threading.Condition()

    def produce(self,total):
        for _ in range(total):
            data = random.randint(0,100)
            with self.cond:
                logging.info(data)
                self.data = data
                self.cond.notify_all()
            self.event.wait(1)
        self.event.set()

    def consume(self):
        while not self.event.is_set():
            with self.cond:
                self.cond.wait()
                logging.info(‘recieved{}‘.format(self.data))
                self.data = None
            self.event.wait(0.5)

d = Dispatcher()
p = threading.Thread(target=d.produce,args=(10,),name=‘producer‘)
c = threading.Thread(target=d.consume,name=‘consume‘)
c.start()
p.start()

 

如果是一个生产者,多个消费者呢:

import threading
import logging
import random

FORMAT = ‘%(asctime)s %(threadName)s %(thread)d %(message)s‘
logging.basicConfig(format=FORMAT,level=logging.INFO)

class Dispatcher:
    def __init__(self):
        self.data = None
        self.event = threading.Event()
        self.cond = threading.Condition()

    def produce(self,total):
        for _ in range(total):
            data = random.randint(0,100)
            with self.cond:
                logging.info(data)
                self.data = data
                self.cond.notify_all()
            self.event.wait(1)  #模拟生产速度
        self.event.set()

    def consume(self):
        while not self.event.is_set():
            with self.cond:
                self.cond.wait()  #阻塞等通知
                logging.info(‘recieved{}‘.format(self.data))
            self.event.wait(0.5)  #模拟消费 的速度

d = Dispatcher()
p = threading.Thread(target=d.produce,args=(10,),name=‘producer‘)


for i in range(5):
    c = threading.Thread(target=d.consume, name=‘consume{}‘.format(i))
    c.start()
p.start()

 

 

Self.cond.notify_all()发通知:

修改为self.cond.notify(n=2)  随机通知两个消费者。

Condition总结:

用于生产者消费者模型中,解决生产者,消费者速度匹配的问题。

采用了通知机制,非常有效率。

 

使用方式:

使用condition,必须先acquire,用完了要release。因为内部实现了锁,默认使用了RLock锁。最好的方式就是使用上下文。

消费者wait,等待通知。

生产者生产好消息,对消费者发出通知,可以使用notify或者notify_all方法。

 

 

 

 

 

操作系统中基本单位是进程,进程是独立的王国,操作系统中不可调用线程,线程是轻量级进程,有独立自己栈。资源就是独立的栈。

加载到内存中是进程管理,子系统之一。变成为一个实例,进程ID号。

驱动管理,

协议,

Tcp udp,

http协议。

 

 

 

Linux:

Unix:b语言基础上c语言写的。

Windows:

 

数据在哪里,计算就在哪里。

 

 

五、Barrier

 

1、栅栏,屏障、为路障、道闸

达到一定的条件,才会打开barrier。

名称

含义

Barrier(parties,action=None,timeout=None)

构建barrier对象,指定参与方数目,timeout是wait方法未指定超时的默认值。

n_waiting

当前在屏障中等待的线程数

Parties

各方数,就是需要多少个等待

Wait(timeout=None)

等待通过屏障,返回0到线程数-1的整数,每个线程返回不同,如果wait方法设置了超时,并超时发送,屏障将处于broken状态。

 

import threading
import logging


FORMAT = ‘%(asctime)s %(threadName)s %(thread)d %(message)s‘
logging.basicConfig(format=FORMAT,level=logging.INFO)


def worker(barrier:threading.Barrier):
    logging.info(‘waiting for {}threads‘.format(barrier.n_waiting))
    try:
        barrier_id = barrier.wait()
        logging.info(‘after barrier{}‘.format(barrier_id))
    except threading.BrokenBarrierError:
        logging.info(‘Broken Barrier‘)

barrier = threading.Barrier(3)

for x in range(3):
    threading.Thread(target=worker,name=‘worker-{}‘.format(x),args=(barrier,)).start()

logging.info(‘started‘)

 

 

2018-06-11 21:29:45,173 worker-0 8804 waiting for 0threads

2018-06-11 21:29:45,198 worker-1 2668 waiting for 1threads

2018-06-11 21:29:45,199 worker-2 2716 waiting for 2threads

2018-06-11 21:29:45,199 MainThread 10160 started

2018-06-11 21:29:45,199 worker-2 2716 after barrier2

2018-06-11 21:29:45,199 worker-0 8804 after barrier0

2018-06-11 21:29:45,199 worker-1 2668 after barrier1

 

 

如果Barrier()的值设置为3,开启5个线程,前三个线程执行后,后面两个线程不够三个线程,所以一直在等待,直到凑到三个barrier才打开。

 

上面的运行结果,所有线程冲到了barrier前等待,直到到达parties的数目,屏障才打开,所有线程停止等待,继续执行。

再有线程wait,屏障就就绪等待到达参数方数目。

 

例如就是赛马需要的马匹全部就位,开闸,下一批陆续来到继续等待比赛。。

 

 

 

名称

含义

Broken

如果屏障处于打破的状态  返回true。

Abort()

将屏障至于broken状态,等待中的线程或者调用等待方法的线程中都会抛出brokenbarriererror异常,直达reset方法来恢复屏障

Reset()

重置,恢复屏障,重新开始拦截

 

import threading
import logging


FORMAT = ‘%(asctime)s %(threadName)s %(thread)d %(message)s‘
logging.basicConfig(format=FORMAT,level=logging.INFO)


def worker(barrier:threading.Barrier):
    logging.info(‘waiting for {}threads‘.format(barrier.n_waiting))
    try:
        barrier_id = barrier.wait()
        logging.info(‘after barrier{}‘.format(barrier_id))
    except threading.BrokenBarrierError:
        logging.info(‘Broken Barrier‘)

barrier = threading.Barrier(3)

for x in range(9):
    if x == 2:
        barrier.abort()
    elif x == 6:
        barrier.reset()
    threading.Event().wait(1)
    threading.Thread(target=worker,name=‘worker-{}‘.format(x),args=(barrier,)).start()

logging.info(‘started‘)

 

2018-06-11 21:42:20,952 worker-0 8460 waiting for 0threads

2018-06-11 21:42:21,953 worker-1 8484 waiting for 1threads

2018-06-11 21:42:21,953 worker-1 8484 Broken Barrier

2018-06-11 21:42:21,954 worker-0 8460 Broken Barrier

2018-06-11 21:42:22,954 worker-2 1500 waiting for 0threads

2018-06-11 21:42:22,955 worker-2 1500 Broken Barrier

2018-06-11 21:42:23,956 worker-3 1200 waiting for 0threads

2018-06-11 21:42:23,956 worker-3 1200 Broken Barrier

2018-06-11 21:42:24,958 worker-4 6652 waiting for 0threads

2018-06-11 21:42:24,958 worker-4 6652 Broken Barrier

2018-06-11 21:42:25,959 worker-5 3212 waiting for 0threads

2018-06-11 21:42:25,959 worker-5 3212 Broken Barrier

2018-06-11 21:42:26,961 worker-6 6344 waiting for 0threads

2018-06-11 21:42:27,962 worker-7 9732 waiting for 1threads

2018-06-11 21:42:28,964 worker-8 6068 waiting for 2threads

2018-06-11 21:42:28,964 worker-8 6068 after barrier2

2018-06-11 21:42:28,965 worker-6 6344 after barrier0

2018-06-11 21:42:28,965 MainThread 9768 started

2018-06-11 21:42:28,965 worker-7 9732 after barrier1

 

屏障等待了两个,屏障就被break,waiting的线程跑出了brokenbarriererror异常,新wait的线程也是抛出异常,直到屏障恢复,才继续按照parties数目要求继续拦截线程。

 

 

非broken状态情况下才可以继续等待。

 

2、wait方法超时实例

import threading
import logging


FORMAT = ‘%(asctime)s %(threadName)s %(thread)d %(message)s‘
logging.basicConfig(format=FORMAT,level=logging.INFO)


def worker(barrier:threading.Barrier,i:int):
    logging.info(‘waiting for {}threads‘.format(barrier.n_waiting))
    try:
        # barrier_id = barrier.wait()
        # logging.info(‘after barrier{}‘.format(barrier_id))
        logging.info(barrier.broken)  #是否是broken
        if i < 3:
            barrier_id = barrier.wait(1)#超时后,屏障broken
        else:
            if i == 6:
                barrier.reset() #恢复屏障
            barrier_id = barrier.wait()
        logging.info(‘after barrier{}‘.format(barrier_id))
    except threading.BrokenBarrierError:
        logging.info(‘Broken Barrier.run.‘)

barrier = threading.Barrier(3)

for x in range(9):
    # if x == 2:
    #     barrier.abort()
    # elif x == 6:
    #     barrier.reset()
    threading.Event().wait(2)
    threading.Thread(target=worker,name=‘worker-{}‘.format(x),args=(barrier,x)).start()

logging.info(‘started‘)

 

2018-06-11 21:53:47,966 worker-0 8656 waiting for 0threads

2018-06-11 21:53:47,967 worker-0 8656 False

2018-06-11 21:53:48,967 worker-0 8656 Broken Barrier.run.

2018-06-11 21:53:49,968 worker-1 168 waiting for 0threads

2018-06-11 21:53:49,968 worker-1 168 True

2018-06-11 21:53:49,969 worker-1 168 Broken Barrier.run.

2018-06-11 21:53:51,969 worker-2 6448 waiting for 0threads

2018-06-11 21:53:51,970 worker-2 6448 True

2018-06-11 21:53:51,970 worker-2 6448 Broken Barrier.run.

2018-06-11 21:53:53,970 worker-3 6192 waiting for 0threads

2018-06-11 21:53:53,970 worker-3 6192 True

2018-06-11 21:53:53,971 worker-3 6192 Broken Barrier.run.

2018-06-11 21:53:55,972 worker-4 6380 waiting for 0threads

2018-06-11 21:53:55,972 worker-4 6380 True

2018-06-11 21:53:55,973 worker-4 6380 Broken Barrier.run.

2018-06-11 21:53:57,973 worker-5 3228 waiting for 0threads

2018-06-11 21:53:57,973 worker-5 3228 True

2018-06-11 21:53:57,974 worker-5 3228 Broken Barrier.run.

2018-06-11 21:53:59,975 worker-6 3924 waiting for 0threads

2018-06-11 21:53:59,975 worker-6 3924 True

2018-06-11 21:54:01,975 worker-7 6636 waiting for 1threads

2018-06-11 21:54:01,975 worker-7 6636 False

2018-06-11 21:54:03,976 worker-8 9684 waiting for 2threads

2018-06-11 21:54:03,976 worker-8 9684 False

2018-06-11 21:54:03,977 worker-8 9684 after barrier2

2018-06-11 21:54:03,977 worker-7 6636 after barrier1

2018-06-11 21:54:03,977 MainThread 10036 started

2018-06-11 21:54:03,978 worker-6 3924 after barrier0

 

 

 

 

3、Barrier应用

并发初始化:

所有线程都必须初始化完成后,才能继续工作。运行前加载数据、检查,如果这些工作没完成,就开始运行,将不能正常工作。

10个线程做10种准备工作,每一个线程负责一种工作,只有这10个线程都完成后,才能继续工作,先完成的要等待后完成的线程。

 

启动一个程序,需要先加载磁盘文件、缓存预热、初始化连接池等工作,这些工作可以齐头并进,不过只有都满足了,程序才会继续向后执行,假设数据库连接失败,则初始化工作失败,就要abort,所有线程收到异常退出。

 

 

 

4、semaphore信号量

和lock很像,信号量对象内部维护一个倒计数器,每一次acquire都会减一,当acquire方法发现技术为0就阻塞请求的线程,直到其他线程对信号量release后,计数器大于0,恢复阻塞的线程。

名称

含义

Semaphore(value=1)

构造方法,value小于0,抛出valueerror异常

Acquire(blocking=True,timeout=None)

获取信号量,计数器减一,获取成功返回true

Release()

释放信号量,计数器加1

计数器永远不会低于0,因为acquire的时候,发现是0,都会被阻塞。

用with语法。

Boundedsemaphore。

 

import threading
import logging
import time


FORMAT = ‘%(asctime)s %(threadName)s %(thread)d %(message)s‘
logging.basicConfig(format=FORMAT,level=logging.INFO)


def worker(s:threading.Semaphore):
    logging.info(‘in sub thread‘)
    logging.info(s.acquire())
    logging.info(‘sub thread over‘)

s = threading.Semaphore(3)
logging.info(s.acquire())
print(s._value)
logging.info(s.acquire())
print(s._value)
logging.info(s.acquire())
print(s._value)

threading.Thread(target=worker,args=(s,)).start()

time.sleep(2)

logging.info(s.acquire(False))
logging.info(s.acquire(timeout=3))

logging.info(‘relesed‘)
s.release()

 

 

2018-06-11 22:36:17,646 MainThread 9340 True

2

2018-06-11 22:36:17,647 MainThread 9340 True

1

2018-06-11 22:36:17,647 MainThread 9340 True

0

2018-06-11 22:36:17,647 Thread-1 8124 in sub thread

2018-06-11 22:36:19,647 MainThread 9340 False

2018-06-11 22:36:22,648 MainThread 9340 False

2018-06-11 22:36:22,648 MainThread 9340 relesed

2018-06-11 22:36:22,648 Thread-1 8124 True

2018-06-11 22:36:22,649 Thread-1 8124 sub thread over

 

 

5、连接池

连接池,因为资源有限,且开启一个连接成本较高,所以利用连接池。

 

一个简单的连接池,连接池应该有容量(总数),有一个工厂方法可以获取连接,能够把不用的连接返回。供其他调用者使用。

 

class Conn:
    def __init__(self,name):
        self.name = name

class Pool:
    def __init__(self,count:int):
        self.count = count
        #池中是连接对象的列表
        self.pool = [self._connect(‘conn-{}‘.format(x))for x in range(self.count)]

    def _connect(self,conn_name):
        #创建连接的方法,返回一个名称
        return Conn(conn_name)

    def get_conn(self):
        #从池中拿走一个连接
        if len(self.pool) > 0:
            return self.pool.pop()

    def return_conn(self,conn:Conn):
        #向池中添加一个连接
        self.pool.append(conn)

 

上面的例子只是一个简单的功能实现。Get_conn()方法在多线程的时候也会有线程安全问题。

 

import threading
import logging
import random


FORMAT = ‘%(asctime)s %(threadName)s %(thread)d %(message)s‘
logging.basicConfig(format=FORMAT,level=logging.INFO)


class Conn:
    def __init__(self,name):
        self.name = name

    def __repr__(self):
        return self.name

class Pool:
    def __init__(self,count:int):
        self.count = count
        self.pool = [self._connect(‘conn-{}‘.format(x))for x in range(count)]
        self.semaphore = threading.Semaphore(count)

    def _connect(self,conn_name):
        return Conn(conn_name)

    def get_conn(self):
        print(‘----‘)
        self.semaphore.acquire()
        print(‘======‘)
        conn = self.pool.pop()
        return conn

    def return_conn(self,conn:Conn):
        self.pool.append(conn)
        self.semaphore.release()

pool = Pool(3)

def worker(pool:Pool):
    conn = pool.get_conn()
    logging.info(conn)
    threading.Event().wait(random.randint(1,2))
    pool.return_conn(conn)

for i in range(6):
    threading.Thread(target=worker,name=‘worker{}‘.format(i),args=(pool,)).start()

 

----

2018-06-12 20:13:21,119 worker0 8392 conn-2

======

----

======

2018-06-12 20:13:21,120 worker1 8240 conn-1

----

======

----

2018-06-12 20:13:21,120 worker2 3216 conn-0

----

----

======

2018-06-12 20:13:22,120 worker3 5700 conn-0

2018-06-12 20:13:23,119 worker4 7448 conn-2

======

2018-06-12 20:13:23,120 worker5 2556 conn-1

======

 

上例中,使用信号量解决资源有限的问题,如果池中有资源,请求者获取资源时候信号量减1,拿走资源,当请求超过资源数,请求者只能等待,当使用者用完归还资源后信号量加1,等待线程就可以被唤醒拿走资源。

 

容器,预加载,懒加载。

 

 

6、问题

Self.conns.append(conn)是否需要加锁。

1)逻辑分析处理

还没有使用信号量,就release,。

import logging
import threading

sema = threading.Semaphore(3)
logging.warning(sema.__dict__)
for i in range(3):
    sema.acquire()
logging.warning(‘~~~~~~~‘)
logging.warning(sema.__dict__)
for i in range(4):
    sema.release()
logging.warning(sema.__dict__)

for i in range(3):
    sema.acquire()
logging.warning(‘~~~~‘)
logging.warning(sema.__dict__)
sema.acquire()
logging.warning(‘~~~~~‘)
logging.warning(sema.__dict__)

 

WARNING:root:{‘_cond‘: <Condition(<unlocked _thread.lock object at 0x000000C13D6C0B98>, 0)>, ‘_value‘: 3}

WARNING:root:~~~~~~~

WARNING:root:{‘_cond‘: <Condition(<unlocked _thread.lock object at 0x000000C13D6C0B98>, 0)>, ‘_value‘: 0}

WARNING:root:{‘_cond‘: <Condition(<unlocked _thread.lock object at 0x000000C13D6C0B98>, 0)>, ‘_value‘: 4}

WARNING:root:~~~~

WARNING:root:{‘_cond‘: <Condition(<unlocked _thread.lock object at 0x000000C13D6C0B98>, 0)>, ‘_value‘: 1}

WARNING:root:~~~~~

WARNING:root:{‘_cond‘: <Condition(<unlocked _thread.lock object at 0x000000C13D6C0B98>, 0)>, ‘_value‘: 0}

 

计数器超过了4,超过了设置的最大值,需要解决问题:

 

Boundedsemaphore类

 

有界的信号量,不允许使用release超出初始值的范围,否则就会抛出valueerror异常。

保证了多归还连接抛出异常。

2)如果使用了信号量,还没用完。

计数器还差一个就满了,有三个线程ABC都执行了第一句,都没有来得及release,这个时候轮到 A release,正常的release,然后轮到线程C先release,一定会出现问题,超届,会抛出异常,信号量可以保证,一定不能多归还。

3)许多线程用完了信号量

没有信号量的线程都被阻塞,没有线程和归还的线程争抢,当append后才release,这个时候才能等待的线程被唤醒,才能pop,没有获取信号量的不能pop,这样才是安全的。

 

 

7、信号量和锁

锁,只允许同一个时间一个线程独占资源,他是特殊的信号量,即信号量初始值为1.

信号量,可以多个线程访问共享资源,但这个共享资源属相有限,锁,可以看做是特殊的信号量。

 

Event lock sem 三个必须要会用。

 

8、数据结构和gill

 

Queue是线程安全的,里面用到了锁,还有condition,用的是lock。

Queue是标准库模块,提供FIFO的queue,lifo的队列,有限队列。

Queue是线程安全的,适用于线程间的安全交换数据,内部使用了lock和condition。

 

 

 

原子操作,一堆操作中要么全部做完,要么全部做不完。

Guarantee 保证。

严格要注意的事项:

 

 

9、gil全局解释器锁

 

CPython在解释器进程中大锁,叫做gill全局解释器锁。大锁解决进程内的所有线程的问题,在CPU上只有一个线程被调度使用。

同一个时间内同一个进程内只有一个线程在工作,在执行字节码,甚至在多核的CPU的情况下,也是如此。

 

cPython中:

IO密集型:由于线程阻塞,就会调度其他线程。

CPU密集型:不访问网络,当前线程可能会连续的获得gill,导致其他线程几乎无法使用CPU。

 

在cPython中由于gill存在,IO密集型,使用多线程较为合算,CPU密集型,使用多进程,要绕开gill。

 

新版cPython正在努力优化gill的问题,但是不是移除的问题,

 

Python中绝大多数内置数据结构的读、写操作都是原子操作。

由于gill的存在,Python的内置数据类型在多线程编程的时候变成了安全的,但是实际上本身不是线程和安全类型。

 

移除gill,会降低cPython单线程的执行效率。

 

 

本身不安全,有全局解释器锁gill,都是由线程操作的,线程安全的。

 

Python中并发、多线程等

原文:https://www.cnblogs.com/wangchunli-blogs/p/9949894.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!