本文由colodoo(纸伞)整理
QQ 425343603
Java学习交流群(717726984)
参考书籍 《Java并发编程的艺术》
笔记中会附带原文,如果不想看原文可以只看列表的总结
上下文切换
-
单核处理器支持多线程 -
CPU通过给每个线程分配CPU时间片来实现支持多线程 -
时间片是CPU分配个各个线程的时间 -
时间片时间短,并不停切换让人感觉多个线程是同时执行的 -
时间片一般是几十毫秒(ms) -
CPU通过时间片分配算法来循环执行任务,当任务指向一个时间片后会且到下一个任务 -
切换前会保存上一个任务的状态,以便下次加载这个任务状态 -
任务从从保存到再加载的过程就是一次上下文切换
这就像我们同时读两本树,当我们再读一本英文的技术书时,发现某个单词不认识,于是打开中英文字段,但是再放下英文技术书之前,大脑必须先记住这个本书读到了多少页的多少行,等查完单词以后,才能继续读这本书。这样的切换的是会影响到读书效率的,同 样上下文切换也会影响线程的执行速度。
多线程一定快吗
public class ConcurrencyTest {
private static final long count = 1000000001;
public static void main(String[] args) throws InterruptedException {
concurrency();
serial();
}
private static void concurrency() throws InterruptedException {
long start = System.currentTimeMillis();
Thread thread = new Thread(new Runnable() {
public void run() {
int a = 0;
for(long i = 0; i < count; i++) {
a += 5;
}
}
});
thread.start();
int b = 0;
for(long i = 0; i < count; i++) {
b--;
}
long time = System.currentTimeMillis() - start;
thread.join();
System.out.println("concurrency: " + time + "ms, b=" + b);
}
private static void serial() {
long start = System.currentTimeMillis();
int a = 0;
for(long i = 0; i < count; i++) {
a += 5;
}
int b = 0;
for(long i = 0; i < count; i++) {
b--;
}
long time = System.currentTimeMillis() - start;
System.out.println("serial: " + time + "ms, b=" + b + ", a=" + a);
}
}
测试上下文切换次数和时长
如何减少上下文切换
无锁并发线程
多线程竞争锁时,会引起上下文切换,所以多线程处理数据时,可以用一些方法来避免使用锁,如将数据的ID按照Hash算法取模分段,不同的线程处理不同的数据。
CAS算法
Java的Atomic包使用CAS算法来更新数据,而不需要加锁。
使用最少线程
便面创建不需要的线程,比如任务很少,但是创建了很多线程来处理,这样会造成大量线程都处于等待状态。
协程
在单线程里实现多任务的调度,并再单线程里维持多个任务间的切换。
减少上下文切换实战
- 减少线上大量WAITING的线程,来减少上下文的切换次数。
$ jps
$ jstack 15124 | awk '{print $2$3$4$5}'
22:39:51
threaddumpJavaHotSpot(TM)
#13prio=5os_prio=0tid=0x0000000003377800
RUNNABLE
eventloop"#11prio=5
RUNNABLE
sun.nio.ch.WindowsSelectorImpl$SubSelector.poll0(NativeMethod)
sun.nio.ch.WindowsSelectorImpl$SubSelector.poll(WindowsSelectorImpl.java:296)
sun.nio.ch.WindowsSelectorImpl$SubSelector.access$400(WindowsSelectorImpl.java:278)
sun.nio.ch.WindowsSelectorImpl.doSelect(WindowsSelectorImpl.java:159)
sun.nio.ch.SelectorImpl.lockAndDoSelect(SelectorImpl.java:86)
locked<0x00000000f785d1c8>(aio.netty.channel.nio.SelectedSelectionKeySet)
locked<0x00000000f785ed40>(ajava.util.Collections$UnmodifiableSet)
locked<0x00000000f785e1f0>(asun.nio.ch.WindowsSelectorImpl)
sun.nio.ch.SelectorImpl.select(SelectorImpl.java:97)
io.netty.channel.nio.SelectedSelectionKeySetSelector.select(SelectedSelectionKeySetSelector.java:62)
io.netty.channel.nio.NioEventLoop.select(NioEventLoop.java:765)
io.netty.channel.nio.NioEventLoop.run(NioEventLoop.java:413)
io.netty.util.concurrent.SingleThreadEventExecutor$5.run(SingleThreadEventExecutor.java:909)
java.lang.Thread.run(Thread.java:748)
Thread"#10daemonprio=9
RUNNABLE
CompilerThread3"#9daemonprio=9
RUNNABLE
CompilerThread2"#8daemonprio=9
RUNNABLE
CompilerThread1"#7daemonprio=9
RUNNABLE
CompilerThread0"#6daemonprio=9
RUNNABLE
Listener"#5daemonprio=5
RUNNABLE
Dispatcher"#4daemonprio=9
RUNNABLE
#3daemonprio=8os_prio=1
WAITING(onobjectmonitor)
java.lang.Object.wait(NativeMethod)
waitingon<0x00000000f77185e8>(a
java.lang.ref.ReferenceQueue.remove(ReferenceQueue.java:143)
locked<0x00000000f77185e8>(ajava.lang.ref.ReferenceQueue$Lock)
java.lang.ref.ReferenceQueue.remove(ReferenceQueue.java:164)
java.lang.ref.Finalizer$FinalizerThread.run(Finalizer.java:209)
Handler"#2daemonprio=10
WAITING(onobjectmonitor)
java.lang.Object.wait(NativeMethod)
waitingon<0x00000000f7720178>(a
java.lang.Object.wait(Object.java:502)
java.lang.ref.Reference.tryHandlePending(Reference.java:191)
locked<0x00000000f7720178>(ajava.lang.ref.Reference$Lock)
java.lang.ref.Reference$ReferenceHandler.run(Reference.java:153)
Thread"os_prio=2tid=0x000000000346e800nid=0x4384
死锁
public class DeadLockDemo {
private static String A = "A";
private static String B = "B";
public static void main(String[] args) {
new DeadLockDemo().deadLock();
}
public void deadLock() {
Thread t1 = new Thread(new Runnable() {
public void run() {
synchronized(A) {
try {
Thread.currentThread().sleep(200);
} catch(InterruptedException e) {
e.printStackTrace();
}
synchronized(B) {
System.out.println("1");
}
}
}
});
Thread t2 = new Thread(new Runnable() {
public void run() {
synchronized(B) {
synchronized(A) {
System.out.println("2");
}
}
}
});
t1.start();
t2.start();
}
}
可能出现死锁的几个原因
死锁的影响和检查方法
- 死锁一旦出现,会导致业务不可用
- 通过dump线程检查问题
避免死锁常见方法
- 避免一个线程同时获得多个锁
- 避免一个线程在锁内同时占用多个资源,尽量保证每个锁只占用一个资源
- 尝试使用定时锁,使用lock.tryLock(timeout) 来代替使用内部锁机制
- 对于数据库锁,加索和解锁必须在一个数据库连接里,否则会出现解锁失败的情况
资源限制的挑战
什么是资源限制
资源限制是指在进行并发编程时,程序的执行速度受限于计算机硬件资源或软件资源。 例如,服务器的带宽只有2Mb/s,某个资源的下载速度是1Mb/s每秒,系统启动10个线程下载资 源,下载速度不会变成10Mb/s,所以在进行并发编程时,要考虑这些资源的限制。硬件资源限 制有带宽的上传/下载速度、硬盘读写速度和CPU的处理速度。软件资源限制有数据库的连接 数和socket连接数等。
资源限制引发的问题
在并发编程中,将代码执行速度加快的原则是将代码中串行执行的部分变成并发执行,但是如果将某段串行的代码并发执行,因为受限于资源,仍然在串行执行,这时候程序不仅不会加快执行,反而会更慢,因为增加了上下文切换和资源调度的时间。例如,之前看到一段程序使用多线程在办公网并发地下载和处理数据时,导致CPU利用率达到100%,几个小时都不能运行完成任务,后来修改成单线程,一个小时就执行完成了。
如何解决资源限制的问题
对于硬件资源限制,可以考虑使用集群并行执行程序。既然单机的资源有限制,那么就让程序在多机上运行。比如使用ODPS、Hadoop或者自己搭建服务器集群,不同的机器处理不同的数据。可以通过“数据ID%机器数”,计算得到一个机器编号,然后由对应编号的机器处理这笔数据。 对于软件资源限制,可以考虑使用资源池将资源复用。比如使用连接池将数据库和Socket连接复用,或者在调用对方webservice接口获取数据时,只建立一个连接。
在资源限制情况下进行并发编程
|