本文转载自微信公众号「牧小农」,作者牧小农。转载本文请联系牧小农公众号。

一、为什么需要线程池

在实际使用中,线程是很占用系统资源的,如果对线程管理不完善的话很容易导致系统问题。因此,在大多数并发框架中都会使用线程池来管理线程,使用线程池管理线! X s Y (程主要有如下好处:

  • 1、使用线程池可以重复利用已有的线程继续执行任务,避免线程在创建和销毁时造成的消耗
  • 2T B 6 N q H s h、由于没有线程创建和销毁时的消耗,可以提高系统响应速度
  • 3、通过线程可以对线程进行合理的管理,根据系统的承受能力调整可运行线程数量的大小等

二、工作原理

流程图:

线程池执行所提交的任务过程:

  • 1、比如我们设置核心线程池的数量为30个= ~ ) y p V E | &,不管有没有用户连接,我们总是保证30个连接,这个就是核心线程1 & V G [数,这里的核心线Q b Q I d , \ .程数不一定是30你可以根据你的需求、业务和并发访问量来设置,先判断线程池中核心线程池所有的线程是否都在执行任务,如果不是,则新创建n L E ; R \ 3 f一个线程执行刚提交的任务,否则,核心线程池中所有的线程都在执行任务,则进入第2步;
  • 2、如果我们核心线程数的3f * C c _ d t o0个数量已经满了,就需要到阻塞队列中去查看,判断当前阻塞队列是否已满,如果未满,则将提交的任务放置在阻塞队列中等待执行;否则,则进入第3步;
  • 3、判断线程池中所有的线程是否都在执行任务,如果没有,则创建一个新的线程来执行任务,否则,则交给饱和策略进行处理,也叫拒绝策略,等下我们会有详细的介绍

注意: 这里有一个核心线程数和一个线I j X m w = I程池数量,这两个是不同的概念,核心线程数代表我能够维护常用的线程开销,而线程池数量则代表我最大能够创建的线程数9 v S G Y – 0,例如在我们农村每家每户都有吃水的井,基本上有半井深的水就可以维持我们的日常生活的使用,这里的半井深的水就好比我们的核心h \ 3 2 9 y @ { w线程数,还有一半的容量是我们井能够容纳的最大水资源了,超过了就不行,水就会漫出l O 0 h v来,这个就类似于我x m S们的b * } O { ~ c线程池的数量,不知道6 ? l 8 5 4 u ^ @这里说明大家是否能够更好的进行理解

三、线程池的w ( w { Q分类

1.newCachedThreadPool:) G q n A V 创建一个可根据需要创建新线程的线程池,但是在以前构造的线程可用时讲重用它们,并在需要时使用提供的ThreadFa# V = _ ) ictory 创建新线b 6 + H T | ` A %

特征:

(1) 线程| u 0池中的N C J n ~数量没有固定,可以达到最大值(Integer.MAX_VALUE=214_ N z 57483647)

(2) 线程池中的线程可进行缓存重复利用和回收(回收默认时间为1分钟)

(3) 当线程池中,没有可用线程,会重新创建一个线程

2.newFixedThreadPool: 创建一个可重用固定线程数的线程池,以共享的k ) ) H v A # % \无界队列方式来运行这些线程,在任意点,在大多数nThreads线程会处于处理任务的活动状态。如果在所有线程处于活动状态时提交附件任务,则在有可用线程之前,附件任务将在队列中等待,如果在关闭N D @ +前的执行期间由于失败而导致任何线程终止,那么一个新线程将代替它执行后续的任务(如果需要)。在某个线程被显式关闭之前,池中的线程将一直存在

特征:

(1) 线程池中的线程处于一定的量,可以很好的控制线程的并发量

(2) 线程可以重复被使用,在显示关闭之前,都将一直存在

(3) 超过一定量的线程被提交时需在队列中等待

3.newSingleThreadExecutor: 创建一个使用W 0 J单个 worker 线程的Executor ,以无界队列方式来运行该线程。(注意,如果因为在关闭前的执行期间出现失败而终止了此单个线程,那么如果需要,一个新线程将代替它执行后续的任务)。可保证顺序地执行k 1 g Q各个任务,并且在任意给定的时间不会有多个线程是活动的,与其他等效的 n= v \ I N C e ] ^ewFixedThrz C e y 1 GeadPool(1)不同,可保证无需重新配置此\ X } _ # ~ – X方法所返回的执行程序即! , . q ! k + 7可使用其他的线程

特征:

(1) 线程池中最多执行一个t 5 c F l C线程,之后提q H e Y E } o交的线程将会排在队列中以此执行

4C L E 3 e L r d g.newSingleThreadScheduledExecutor: 创建一个单线程执行程序,它可安排在给定延迟后运行命令或者定期执行

特征:

(1) 线, a /程池中最多执行一个线程,之后提交的线程活动将会排在队列中依次执行

(2) 可定时或者延迟执行线程活动

5.newScheduledThreadPool: 创_ / h建一个线程池,它– ~ u m S 0可安排在给定延迟后运行命令或者定期的执行

特征:

(1) 线程池中具有执行/ M T @数量的线程,即便是空线程Z 2 z & m也将保留

(2) 可定时或者延迟执行线程活动

6.newWorkStealingPool: 创建一个带并行级别的线程池,并行级别决定了同一时刻最多有多^ \ I少个线程在执行,如不传并行级别参数,将默认为当前系统的CPU个数

我们可以在开发工具中搜索一个叫Executors的类,z [ , \ M W在里面我们可以看到我们上面所有的使用方法

四、ThreadPoolExecutor

线程工具类——Task :

  1. publicclassTaskimplement8 M P I vs7 r S `Runnable{
  2. @Override
  3. publicvoidr7 G b Y Qun(q N 7 ; h # O){
  4. try{
  5. //休眠1秒
  6. Thread.sleep(1000);
  7. }catch(InR j | 0 R L KterruptedExceptione){
  8. e.printStackTrace();
  9. }
  10. //输出线程名
  11. System8 K H ) | n.ou~ f ^t.println(Threa5 9 \ `d.currentThread().getName()+"-------S ( ~ l k :running");
  12. }
  13. }

4.1 newCachedThreadPool

源码实现:

  1. publicstaticExecutorServicenewCachedThreadPool(){
  2. returnnewThreadPoolExe3 $ %cul . 8 ` - rtor(0,Integew 2 Q U :r.MAX_VALUE,
  3. 60L,TimeUnit.SECONDS,
  4. newSynchronousQueue<Runnable>());
  5. }

案例:

  1. publicclassC= y H p h d = ] CacheThreadPoolDemo{
  2. pV * X & s g 9 + Gublicstaticvoidmain(String[]args){
  3. E; @ b `xecutorSern % Q a x DviceexecutorServic) \ 5 - 8 ! L | de=ExecutI Z | X 4 } :ors.newCachedThreadPooR F 0 q h l : wl();
  4. for(inti=0;i<20;i++){
  5. //提交任务
  6. executorService.execute(newTask());
  7. }
  8. //启动有序关闭,其中先前e ; S ; $ Q @ h提交的任务将被执行,但不会接受任何新3 l o任务
  9. executorService.shutdown();
  10. }
  11. }

结果输出:

从开始到结束我们总共输出了20个8 6 ;(pool-1-thread-1到X % )pool-1-thread-20)线程

  1. pool-1-thread-2-------running
  2. pool-1-thread-6-------running
  3. pool-1-thread-1-------running
  4. pool-1-thread-3-------running
  5. pool-1-thread-5-------running
  6. pool-1-thread-4-------running
  7. pool-1-thread-7-------E o B {running
  8. pool-1-thread-11-------runnil T q ) ~ sng
  9. pooJ # \ S C f d ol-) c R A _ ! , A Z1-threa+ U _ L w O * U Bd-9-------running
  10. pool-1-thread-10-------running
  11. pool-1-threa% 5 7 Z s E t ;d-17-------running
  12. pool-1-thread-1W w % p ~ Z5---N X m 0 } 6----running
  13. pool-1-thread-18-------running
  14. pool-1-thread-16-------running
  15. pool-1-thread-8-------running
  16. pool-1-thread-20-------running
  17. pool-1-thread-13-------running
  18. pool-1-thread-19-------running
  19. pool-1-thread-14--o R / R * U-----running
  20. pool-1-thread-12-------r_ R J A ? H T m Zunning

4.2 newFixedThreadPool

源码实现:

  1. publicstaticExecutorServicenewFixedThreadPool(intnThreads){
  2. returnnewThreadPoolExecutor(nThreadm P 6 / & _ ` B us,nThreads,
  3. 0L,TimeUnit.MILLISECONDS,
  4. newLinkedBlockingQueue<Runnable>());
  5. }

案例:

  1. publ& 8 t l vicclassFixedThreadPoolDemo{
  2. publicstaticvoidmain(String[]args){
  3. //创建线程池,E 8 O最多允许五个线程执行
  4. ExecutorServiceexecK S 9utorT a q @ Z XService=Executors.newFixedThreadPool(5);
  5. for(inti=0;i<20;iv K i $ ` ^++){
  6. //提交任务
  7. execul ] 8 h f 8 BtorService.execute(newTask());
  8. }
  9. //启动有0 6 = ~ 3 s序关闭,其中先前提交的任务将被执行,但不会接受任何新任务
  10. executorService.shutdown();
  11. }
  12. }

输出结果:

我们可以看J \ R x k :到其中的线程K } E是每五个(pool-1-thread-1到pool-1-thread-5)一执行,在当前执行的线程运行中,最多允许五个线程进行执行

  1. pool-1-thread-4-------runn7 F % d x oing
  2. pool-1-thread-2-------running
  3. pool-1-thread-1-------running
  4. pool-1-thread-3-----y c % f R V E A--running
  5. pool-1-threa. . | ; 2d-5-------running
  6. pool-1-thread-4-------running
  7. pool-1-thread-5-U [ _ m B z------running
  8. pool-1-thread-3-------runninm w Ug
  9. pool-1-thread-2-------running
  10. pool-1-thread-1-------running
  11. pool-1-thread-4--P K a M R-----running
  12. pool-1-thread-2-------running
  13. pool-1-thread-1-------running
  14. pool-1-thread-3-----y * D s D R \ r \--running
  15. pool-1-thread-5--V q m i A K-----running
  16. pool-1-thread-4-------running
  17. pool-1-thread-5-------running
  18. pool-1-thread-2-------running
  19. pool-1-thread-1-------running
  20. pool-1-thread-3-------running

4.3 newSingleThreadExecutor

源码实现:

  1. publicstaticExecutorServicenewSingleThreadExecutor(){
  2. returnnewFinali* U m g W { izableDelegatedExecutorService
  3. (newThreadPoolExecutor(1,1,
  4. 0L,TimeUnit.MILLISECONDS,
  5. newLinX Z 7 0 @ 3 o % 3kedBl3 s : Y Z OockingQueue<Runnable>()));
  6. }, d = }

案例:

  1. publicclassSingleThreadPoolDemo{
  2. publicstaticvoidmain(String[]args){
  3. ExecutorServiceexecutorService=Executors.newSingleThreadExec+ d f 3 j ( u Nutor(o K Q I k h ~ a &);
  4. for(inti=0;i<2| 5 j d ` r ^ ! q0;i++){
  5. //提交任务
  6. executorService.execute(newTask());
  7. }
  8. //启动有序关闭,其中先前提交的任务将被执行,但不会接受任何新任务
  9. executorService.shutdown();
  10. }
  11. }

结果输2 & 6 L k & `出:

我们可以看到每次都是线程1输出结果

  1. pH ~ .ool-1-th# ` l ) 5 W O ?read-1-------running
  2. poole G g z Y 5 ;-1-thread-1---J V Q = m ? \ I T----running
  3. pool-1-thread-1-------running
  4. pool-1-thread-1----a 8 { 4---running
  5. por S aol-1-thread-1-------running
  6. pool-1-thread-1-------I . @ I _ W + hrunning
  7. pool-1-thread-1-------running
  8. pool-1-thread-1-------running
  9. pool-1-thread-1-------running
  10. pool-1-threh h tad-1-------running
  11. pool-1-th9 G I h bread-1-------running
  12. pool-1-thread-1-------running
  13. pool-1-thread-1-------running
  14. pool-1-thread-1---{ / } v h ; A----running
  15. pool-1-thread-1-------running
  16. pool-1-thr\ X 9 $ v = p 9 ^ead-1-------running
  17. pool-1-thread-1-------running
  18. pool-1-thread-1-------running
  19. pool-1-thrZ N 9ead-1-------running
  20. pool-1-thread-1-------running

五、ScheduledThreadP) ^ OoolExecutor

5.1 newScheduledThreadPool

案例:

  1. p; I m 5 s Tublicstaticvoidmain(String[]args){
  2. Sf ^ S } $ ^ hchedula S K [ - | | fedExecutorServicescheduledExecutorService=# i % O t h | f hExecutors.newScheduledThreadPool(3);
  3. /7 ^ 3/for(inti=0;i<20;i++){
  4. System.out.println(System.cd 1 # + . SurrentTimeMillis());
  5. scheduledExecutorService- B e.schedule(newRunnable(){
  6. @Override
  7. publicvoidrun(){
  8. System.o{ q r U ~ Lut.println("延迟三秒执行");
  9. System.out.println(System= \ ` * \ 6 A J.currentTimeMillis());
  10. }
  11. },3,TimeUnit.SECONDS);
  12. //}
  13. scheduledExA . w \ ( hecutorService.shi - h O W & 4 d ,utdown();
  14. }
  15. }

输出结果:

  1. 1606744468814
  2. 延迟W % v p 0 b三秒执行
  3. 1606744471815

5.2 newSingleThreadScheduledExecutor

案例:

  1. publicstaticvoidmain(String[]args){
  2. ScheduledExecutorServicescheduledExecutorg Q ] E b SService=Executors.newSingleThreadScheduledExecutor();
  3. scheduledExecutorService.scheduleAtFixedRate(newRunnable(){
  4. inti=1;
  5. @Override
  6. publicvoidrun(){
  7. System.out.println(i);
  8. i++;
  9. }
  10. },0,1,TimeUnit.SECONDS);
  11. //scheduledExecutorService.shuQ ! ) xtdown();
  12. }

输出结果:

  1. 1
  2. 2
  3. 3
  4. 4
  5. 5

六、线程池的生命周期

一般来说线程池只有两种状态,一种是Running,一种是TERMINATED,图中间的都是过渡状态

Running:能接受新提交的任务,并且也能处理阻塞队列中的任务

SHUTDOWN:关闭状态,不再接受新提交的任务,但却可以继续处理阻塞队列中已保存的任务

STOP:k g : 3 ; 6 e .不能接受新任务,也不处理队列中的任务,会中断正在处理任务C o H n . r的线程

TIDYING:如果所有的任务都已终止了,T F ! c B P 5 9 dwod 6 : { QrkerCount(有效线程数)为0.线程池进入该状态后会; & L $ K ? L ~S G n 3用terminated()方法进入TERMINATED状态

TERMINATED:X F 4 ^ = ] ; ~ h在terminated()方法执行完成后进入该状态,默认terminated()方法中什么也没有做

七、线程池的创建

7.1 E& U 1 _ a h H H bxecutors 源码

  1. publicThreadPoolExecutor(intcorePoolSize,
  2. intmaximumPoolSiz- ! Se,
  3. longkeepAliveTime,
  4. TiW n - r n + YmeUnitunit,
  5. BlockingQueue<Runnable>workQueue,
  6. ThreadFactorythreadFactory,
  7. RejectedExecuti^ 8 x 0 #onHandlerhandler)

7.2 参数说明

corePoolSize:核心线程池的大小

maximumPoolSizl ] @ – $ | – 6e:线程池能创建线程的最大个数

keepAliveTime:空闲线程存活时间

unit:时间单位,为keepAliveTime指定时间单位

workQueue:阻塞队列,用于保存任务的阻塞队列

threadFactory:创建线程的工程类

handler:饱和策略(拒绝策略)

八、s P : 4 T 1 & ,阻塞队列

ArrayBlockingQueue:

基于数组的阻塞队列实现,在ArrayBlockin, P |gQueue内部,维护了一个定长数组,以便缓存队列中的数据对象,这是-个常用的w q ? F H阻塞队列,除了一个定长数组外,ArrayBlockingQueue内部还保存着两个整形变量,分别标识着队列的头部和尾部在数组中的位置。

ArrayBlockingQueue在生产者放入L f A u l j 7 ` Z数据和消费者R + \获取数据,都是共用z | K 2 f 8同一个锁对象,由此也意味着两者无法真正并行运行,这点尤其不同于Lij H [ W W a =nkedBlockingQueue;按照实r % ( h R现原理来分析,ArrayO 4 Y K ( zBlockingQueue完全可以采用分离锁,从而实现生产者和消费者操L D S ` p ! f #作的完全并行运行。Doug Lea之所以没这T 6 4 I \ D & , !样去做,也许是因为ArrayBlockingQueue的数据写入和获取操作已经足够轻巧,以至于引入独立v c a \ N D的锁机制,除了给代码带来额外的复杂性外,其在性能上完全占不到任何便宜。

ArrayBlockingQueue和LinkedX \ ( m & l [ ]Blo( \ P ~ D e \ 7ckingQueue间还有一个明显的不同之处在于,\ 7 } c ` m k C (前者在插入或删除元素时不会产生或销毁任何额外的对象实例,而后者则会生成一个额外的Node对象。这在长时间内需要高效并发地处理大批量数据的系统中,其对于GC的影响还是存在一定的区别。而在创建ArrayBlockingQueue时,我们还可以控制对象的内部锁是否采用公平锁,默认采用非公平锁。

LinkedBlockingQueue:

基于链[ ( { S v d表的阻塞队列,同ArrayListBlockingQueue类似,其内部也维持着一个数据缓冲队列(该队列由一个链表构成),当生产者往队列中放入{ 1 : | & D一个数据时,队列会从生产者手中获取X K * , T +数据,并缓存在队列内部,而生产者立即返回;只有当队列缓冲区达到最大值缓存容量时( LinkedBlockingQueue可以通过构造函数指定该值),才会阻塞生产者队列,直到消费者从队列中消费掉─份数据,生产者线程会被唤醒,反之对打于消费者这端的处理也基于同样的原n x B E b理。而

LinkedBlockingQueue之所以能够高效的处理并发数据y – x a,还因为其对于生产者端和消费者端分别采用了独立的2 _ j @锁来控制数据同步,这也意味着在高并发的情况下生产者和消费者可以并行地操作队列中的数据,以此来提高整个队列的并发性能。

DelayQueue:

DelayQueue中的元素只有当其指定的延迟时间到了,才能够从队列中获取到该元素。DelayQueue是一个没有大小限制的队列,因此往队列中插入数据的操作(生产者)永远不会被阻塞,而只有获取数据K . 6 o W 2 } 7的操作(消费者)才会被阻塞。

使用场景?

DelayQueue使用场景较少,但都相当巧妙,常见的N % . E w b 7 G N例子比如使{ _ & \ N 1用一个c 0 ( QDelayQueue来管理一个超时未L + + x响应的连接队列。

Prior1 F :ityBlockingQueue:

基于优先级的阻塞队列(优先级的判断通过构造函数传入的C3 P $ . t Tompator对象来决定),但需要注意的是

PriorityBlockingQueue并不会_ : c f ; i V c r阻塞数据生产者,而只会在Q / w c \ 2 B没有可消费的数据时,阻塞数据的消费者。因此使用的时候要特别注意,生产者生产数据的速度绝对不能快于消费者消费数据的速度,否则O ` ? p } q l y O时间一长,会最终耗尽所有的可用堆内存空间。在实现PriorityBlockingQueue时,内部控制线程同步的锁采用的是公平锁。

Synchroo A M m # J I _nousQueue:

一种无缓冲的等待队列,类似于无中介的直接交易,有点像原始社h / t v {会中的生产者和消费者,生l ~ ] _ E ; ^ _产者拿着产品去集市销售给产品的最终消费者h c V h ~ \ q P =,而消费者必须亲5 I l B S O j k自去集市找到所要商品的z = K直接生产者,p T }如果一方没有找到合适的目标,那么对不起,大家都在集市等待。相对于有缓冲K a & v G e \ # [的BlockingQueue来说,少了一个中间经销商的环节(缓冲区),如果6 ; V有经销商,生产者直接把产品批发给经销商,而无需在意经销商最终会将这些产品卖给那些消费者,由于经销商可以库存一部V * z _ ; A分商品,因此相对于直接交易模式,总体来说8 ) J 0 A }采用4 M N D 0 t {中间经销商的模式会吞吐量高一些(可以批量买卖)?但另一方面,又因为经销商的引入,使得产品从生产者到消费者中间增加了额外的交易环节,单个产品的及时响应性能可能会降低。

声明一个SynchronousQueue有两种不同的方式,它们之间有着不太一样的行为。公平模式和非公平模式的区别:如果采用公平模式:SynchronousQueue会采用公平锁,并配合一个FIFO队列来阻塞多余的生产d = L 0 !者和消费者,从而体系整体的公平策略;

但如果是非公平模式 ( SynchronousQueue默认) : Synchro0 K E o xnoa T X # H u v A 7usQueue采用非公平锁,同时配合一个LIFO队列来管理多余的生产者和消费者,而后一种模式,如果生产者和消费者的* { d 5 u处理速度有差距,~ ( C Hd o x _ a m w V很容易出现饥渴的情况,即可能有某些生产者或者是消费者的数据永远都得不到处理。

注意:

arrayblockingqueue和linkedblockqueue的区别:1.队p ! U = q列中锁的实现不同

1、ArrayBlockingQueue实现的队列中的锁是= [ H ] 6没有分离的,即生产和消费用的是同一个锁;

Li8 N $ j c E 9 q 0nkedBlockQ o 5 ! n $ MingQueue实现的队列中的锁是分离的,即生产用的是putLocu l P wk,消费是takeLock2.队列大小初始化方式不同

2、ArrayBlockingQueue实现的队列中必须指定队列的大J ` d 7 F q ^小;

LinkedBlockingQueue实现的队列中可以不指定队列的大小,但是v _ x ) i | T 5 (默认是Integer.MAX_VALUE

九、拒绝策略

ThreadPoolExecutor.AbortPolicy(系统默认):丢弃任* S 6务并抛出RejectedExecx \ q JutionException异常,让你感知到任务被拒绝了,我们可以根据业务逻辑选择重试或者放弃提交等o 5 H u e v 0 G L策略

ThreadPoolExecutor.DiscardPolicy: 也是丢弃任务,但是不抛出异常,相对而言存在一定的风w L 2险,因为我们提交s : Y的时候根_ & t N ` f r t 9本不知道这个任务会被I 7 x @ S Y i .丢弃,可能造成数据丢失。

ThreadPoolExecutor.DiscardOldestPolicy: 丢m 6 7 C \弃队列最前面的任务,然后重新尝试执行任务(重复此过程),通常是存活时间最长的任务,它也存在一定的数据丢失风险

ThreadPoolExecutor.CallerRunsPolicy: 由调用线程处理该任务

十、exe( , x V H J A (cute(d c j H 3)和submit()方法

10.1 execute方法执行逻辑

  • q / ` ~果当前运行的线程少于corePoolSize,则会创建新的线程来执行新的任务;
  • 如果运行的线程个数Y * 4 V等于或者大于corePoolSize,则会将提交的任务存放到阻塞队列workQueue中;
  • 如果当前workQueue队列已满的话,则会创建新的线程来执行任务;
  • 如果线程个数已经超过了maximumPoolSize,则会使用饱和策略RejectedExecutionHandler来进行处理

10.2 Submit

submit是基方法Executor.execute(Runnable)的延伸,通过创建并返回一个Future类对象可用于取消执行和/或等待完成。

十一、线程池的关闭

  • 关闭线程池,可以通过shutdown和shutdownNow两个方法~ V r @ t @ Z
  • 原理:遍历线程池中的所有线程,然后依次中断
  • 1、shutdownN[ = wow首先将线程池的状态设置为STOP,然后尝试停止所有的正在执行和未执w 0 A * F G E h行任务的线程,并返回等待执行任务的列表;
  • 2、shutdown只是将线程池的状态设置为SHUTDOWN状态,然后中断所有没有正在执行任务的线程

发表评论

您的电子邮箱地址不会被公开。 必填项已用*标注