8.1 작업과 실행 정책 간의 보이지 않는 연결 관계

Executor 프레임워크는 작업의 정의 부분과 실행 부분을 서로 분리시켜 준다. 실행 정책을 정하거나 변경하는데 있어 어느 정도 유연성을 갖고 있긴 하지만, 특정 형태의 실행 정책에서는 실행할 수 없는 작업이 있기도 하다.

• 일정한 조건을 갖춘 실행 정책이 필요한 작업
  • 다른 작업에 의존성이 있는 작업
    • 크기가 제한되어 있는 스레드 풀에 다른 작업의 작업에 의존성을 갖고 있는 작업을 등록하면, 데드락이 발생할 가능성이 높다.
  • 응답 시간이 민감한 작업
    • 실행 시간이 오래 걸리는 작업과 금방 끝나는 작업을 섞어서 실행하도록 하면, 풀의 크기가 굉장히 크지 않은 한 작업 실행을 방해하는 것과 비슷한 상황이 발생한다.
  • 스레드 한정 기법을 사용하는 작업 (= 단일 스레드로 동작해야하는 작업)
  • ThreadLocal 을 사용하는 작업
    • 스레두 풀에 속한 스레드에서 ThreadLocal 을 사용할 떄에는 현재 실행 중인 작업이 끝나면 더 이상 사용하지 않을 값만 보관해야 한다. ThreadLocal 을 작업 간에 값을 전달하는 용도로 사용하면 안된다.

스레드 풀은 동일하고 서로 독립적인 다수의 작업을 실행할 때 가장 효과적이다. 일반적인 네트워크 기반의 서버 애플리케이션은 이 조건을 대부분 만족한다.

8.1.1 스레드 부족 데드락 (thread starvation deadlock)

1. 특정 자원을 확보하고자 계속 대기하거나 2. 풀 내부의 다른 작업이 실행되고난 뒤 알 수 있는 조건이 만족하기를 기다리는 것처럼 끝없이 계속 대기할 가능성이 있는 기능을 사용하는 작업이 풀에 등록된 경우엔 언제든지 발생할 수 있다.

• 단일 스레드로 동작하는 Executors.newSingleThreadExecutor() 에서 다른 작업을 큐에 등록하고 해당 작업이 실행된 결과를 가져다 사용하는 작업을 실행하면 데드락이 제대로 걸린다.

  public class ThreadDeadlock {
      ExecutorService exec = Executors.newSingleThreadExecutor();
  
      public class LoadFileTask implements Callable<String> {
          private final String fileName;
  
          public LoadFileTask(String fileName) {
              this.fileName = fileName;
          }
  
          public String call() throws Exception {
              // Here's where we would actually read the file
              return "";
          }
      }
  
      public class RenderPageTask implements Callable<String> {
          public String call() throws Exception {
              Future<String> header, footer;
              header = exec.submit(new LoadFileTask("header.html"));
              footer = exec.submit(new LoadFileTask("footer.html"));
              String page = renderBody();
              // Will deadlock -- task waiting for result of subtask
              return header.get() + page + footer.get();
          }
  
          private String renderBody() {
              // Here's where we would actually render the page
              return "";
          }
      }
  }
  

• 스레드 풀에서 필요로 하는 자원이 제한되어 사용자가 원하는 크기보다 작은 수준에서 동작하는 경우도 있다.

  • 스레드 풀과 JDBC 풀이 있을 때, JDBC 풀의 크기가 10 이고 스레드 풀에서 실행되는 작업이 하나의 JDBC 연결을 사용해야 한다면, 스레드 풀의 크기가 10보다 크다해도 실행되는 양은 10개 뿐이다.

8.1.2 오래 실행되는 작업

데드락이 발생하지 않더라도 특정 작업이 예상보다 긴 시간동안 종료되지 않고 실행된다면 스레드 풀의 응답 속도에 문제점이 생긴다.

제한 없이 계속해서 대기하는 기능 대신 일정 시간 동안 만 대기하는 메서드를 사용할 수 있다면, 오래 실행되는 작업이 주는 악영향을 줄일 수 있다. 대부분의 블로킹 메서드는 시간이 제한되지 않은 것과 시간이 제한된 것이 함께 만들어져 있다.

• Thread.join()

• BlockingQueue.put()
• CountDownLatch.await()
• Selector.select()

• 스레드 풀을 사용하는 도중에 모든 스레드에서 실행 중인 작업이 대기 상태에 빠지는 경우가 자주 발생한다면, 스레드 풀의 크기가 작다는 것이로 이해할 수도 있다.