Технологии Java
Введение в многопоточное программирование
Параллельное исполнение
Содержание
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование2
История
Содержание
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование3
Однозадачные системы
- Одна задача за раз
- Пока задача не завершилась – все ждут
- Память – монопольное использование
- Ввод-вывод – монопольное использование
- Пока не завершилась – все ждут
- Простой ресурсов
- Большое время отклика
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование4
Пакетные
- Набор заданий для исполнения (пакет)
- Память – разделяемая, изолированная
- Ввод-вывод – переключение задач
- Управление заданиями – монитор
- Псевдопараллельное исполнение
- Увеличение загрузки ресурсов
- Большое время отклика
- 1950-е годы
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование5
Многозадачные системы
- Несколько задач конкурируют за процессор
- Память – разделяемая, изолированная
- Прерывание – переключение задач
- Ввод-вывод – разделяемый
- Параллельное исполнение
- Уменьшение времени отклика
- 1960-е годы
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование6
Многопоточные программы
- Несколько потоков конкурируют за процессор
- Память – общая
- Прерывание – переключение потоков
- Ввод-вывод – разделяемый
- Параллельное исполнение кода внутри программы
- Уменьшение времени отклика
- 1990-е годы
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование7
Многопоточное программирование
- Программа одновременно имеет несколько потоков исполнения
- Потоки могут взаимодействовать друг с другом
- Синхронизация
- Обмен сообщениями
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование8
Примеры
Содержание
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование9
Умножение матриц
// Матрицы размера n×n double[][] a, b, c; for (int i = 0; i < n; i++) { for (int j = 0; j < n; j++) { c[i][j] = 0; for (int k = 0; k < n; k++) { c[i][j] += a[i][k] * b[k][j]; } } }
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование10
Итеративный параллелизм
// Матрицы размера n×n /*shared*/ double[][] a, b, c; for (int i = 0; i < n; i++) { // Параллельно for (int j = 0; j < n; j++) { // Параллельно c[i][j] = 0; for (int k = 0; k < n; k++) { c[i][j] += a[i][k] * b[k][j]; } } }
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование11
Обмен сообщениями (1)
- Рабочий поток
worker[i] { double[] a; // a[i][⋅] double[][] b; // b[⋅][⋅] double[] c; // c[i][⋅] receive a, b from coordinator; for (int j = 0; j < n; j++) { c[j] = 0; for (int k = 0; k < n; k++) { c[j] += a[k] * b[k][j]; } } send c to coordinator; }
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование12
Обмен сообщениями (2)
- Управляющий поток
coordinator(int i) { double[][] a, b, c; for (int i = 0; i < n; i++) { send a[i], b to worker[i]; } for (int i = 0; i < n; i++) { receive c[i] from worker[i]; } }
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование13
Обмен сообщениями (3)
- Передача данных между рабочими потоками
worker[i] { double[] a; // a[i][⋅] double[] b; // b[⋅][i] double[] c; // c[i][⋅] receive a, b from coordinator; for (int j = 0; j < n; j++) { // Вычисление с[j] send b to worker[(i + 1) % n]; receive b from worker[(i + n - 1) % n]; } send c to coordinator; }
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование14
Вычисление интеграла
- Адаптивное вычисление интеграла f(x)
double integrate(double l, double r) { if (abs(area(l, m) + area(m, r) - area(l, r)) > ε) { return integrate(l, m) + integrate(m, r); } else { return area(l, m) + area(m, r); } } double area(double l, double r) { return (f(l) + f(r)) * (r - l) / 2; }
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование15
Рекурсивный параллелизм
- Адаптивное вычисление интеграла f(x)
double integrate(double l, double r) { double m = (l + r) / 2; double la = area(l, m); double ra = area(m, r); if (abs(la + ra - area(l, r)) > ε) { la = integrate(l, m); // Параллельно ra = integrate(m, r); // Параллельно } return la + ra; }
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование16
Операции с потоками
Содержание
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование17
Основные операции
- Создание потока
- Уничтожение потока
- Неделимая операция
〈statements〉
- Неделимая операция с ожиданием условия
〈await(C) statements〉
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование18
Пример. Поиск максимума (1)
- Без синхронизации
/* shared */ int max = 0; create worker[i] { if (max < a[i]) max = a[i]; } - С синхронизацией
/* shared */ int max = 0; create worker[i] { 〈if (max < a[i]) max = a[i];〉 }
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование19
Пример. Поиск максимума (2)
- Протокол проверить-проверить-установить
/* shared */ int max = 0; create worker[i] { if (max < a[i]) { 〈if (max < a[i]) max = a[i];〉 } }
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование20
Свойства планировщика
- Тип многозадачности
- Кооперативная
- Вытесняющая
- Безопасность
- Живучесть
- Справедливость
- Безусловная (отсутствие условий)
- Слабая
- Сильная
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование21
Потоки в Java
Содержание
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование22
Создание потока (Runnable)
- Рекомендуемый способ
// Создание Thread t = new Thread(() -> { System.out.println("Hello"); }); // Запуск t.start();
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование24
Создание потока (Thread)
- Нерекомендуемый способ
// Создание Thread t = new Thread() { public void run() { System.out.println("Hello"); } }; // Запуск t.start();
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование25
Состояния потока
- Состояние потока возвращается методами
- Thread.State getState()
- boolean isAlive()
- Таблица состояний
getState() isAlive() NEW RUNNABLE + BLOCKED + WAITING + TIMED_WAITING + TERMINATED
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование26
Состояния потока
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование27
Взаимодействие потоков
- Создание: конструктор
- Запуск: start()
- Ожидание завершения: join(time?)
- Прерывание: interrupt()
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование29
Ожидание окончания потока
- Ожидать до завершения
- Ожидать до завершения или истечения времени
- Все методы ожидания кидают InterruptedException
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование30
Прерывание потока
- Установить флаг прерывания
- Проверить флаг прерывания
- Проверить и сбросить флаг прерывания
- Ожидающие методы должны бросать InterruptedException
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование31
Дополнительные методы
- Приостановка выполнения
- На время
- Позволить выполниться другим потокам
- Кооперативная многозадачность
- Thread.yield()
- Получение текущего потока
- Обработка исключений
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование32
Обработка данных в цикле
class Worker implements Runnable { public void run() { try { while (!Thread.interrupted()) { // Полезные действия } } catch (InterruptedException e) { // Поток заканчивает работу } finally { // Восстановление флага прерывания Thread.currentThread().interrupt(); } } }
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование33
Синхронизация
Содержание
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование34
Блокировки
Содержание
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование35
Блокировка (lock, mutex)
- Только один поток может владеть блокировкой
- Операции
- lock — получить блокировку
- unlock — отдать блокировку
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование36
Блокировки в Java
- Любой объект может служить блокировкой
- Снятие блокировки производится автоматически
- Синтаксис
synchronized (o) { // Получение блокировки … } // Снятие блокировки
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование37
Методы экземпляра
- Метод экземпляра может быть объявлен синхронизованным
public synchronized int getValue() { … } - Эквивалентно
public int getValue() { synchronized (this) { … } }
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование38
Методы класса
- Метод класса может быть объявлен синхронизованным
class Example { public static synchronized int getValue() { … } - Эквивалентно
class Example { public static int getValue() { synchronized (Example.class) { … } }
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование39
Пример
Содержание
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование40
Производитель-потребитель
- Несколько потоков производят данные
- Несколько потоков потребляют данные
- Данные могут храниться в очереди (не)ограниченного объема
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование41
Интерфейс очереди
- Хранит один элемент
class Queue { private Object data; public void set(Object data) { … } public Object get() { … } }
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование42
Производитель
- Установка значения
public void set(Object data) { while (true) { // Активное ожидание synchronized (this) { if (data == null) { this.data = data; break; } } } }
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование43
Потребитель
- Получение значения
public Object get() { while (true) { // Активное ожидание synchronized (this) { if (data != null) { Object d = data; data = null; return d; } } } }
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование44
Мониторы и условия
Содержание
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование45
Монитор
- Любой объект может быть монитором
- Передача событий
- Ожидание условия
- Извещение одного из ждущих потоков
- Извещение всех ждущих потоков
- Нужно владеть блокировкой
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование46
Мониторы и блокировки
- При ожидании монитора блокировка с него снимается
- При извещении поток не получает управления пока не может получить блокировку обратно
- Псевдокод
monitor.unlock() monitor.await() monitor.lock()
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование47
Производитель (2)
- Установка значения
public synchronized void set(Object data) throws InterruptedException { while (data != null) { wait(); // Пассивное ожидание } this.data = data; notifyAll(); }
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование48
Потребитель (2)
- Получение значения
public synchronized Object get() throws InterruptedException { while (data == null) { wait(); // Пассивное ожидание } Object d = data; data = null; notifyAll(); return d; }
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование49
notify() и notifyAll()
- События одного вида
- Может обработать любой ждущий поток
- notify()
- Несколько видов событий
- Пробуждение «не того» потока
- notifyAll()
- Более дорогая операция
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование50
Монитор как примитив
Содержание
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование52
Монитор
- Разделяемые переменные инкапсулированы в мониторе
- Код в мониторе исполняется не более чем одним потоком
- Условия
- Операции с условиями
- wait ‒ ожидание условия
- notify ‒ сообщение об условии одному потоку
- notifyAll ‒ сообщение об условии всем потокам
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование53
Мониторы в Java
- Любой объект
- Все методы synchronized
- Одно событие
- На блокировках
- Ручная синхронизация
- Много событий
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование54
Проблемы мониторов
- Блокировка между операциями отпускается
- Составные операции не атомарны
- Конкуренция за блокировку
- Java: огрубление блокировок
- Пример
if (!queue.isEmpty()) { // Fail Object o = queue.poll(); }
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование55
Модель памяти Java
Содержание
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование56
Модель памяти
- Что может увидеть операция чтения
- Однопоточная модель
- Результаты последней записи
- Многопоточная модель
- Что такое последняя запись?
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование57
Последовательная согласован.
- Результат эквивалентен какому-то последовательному исполнению
- Внутри потока — в порядке кода
- Между потоками — произвольные переключения
- Не гарантируется Java
- Иначе нельзя использовать регистры
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование58
Атомарность
Содержание
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование59
Атомарность
- Атомарная операция выполняется как единое целое
- Значения не появляются «из ниоткуда»
- Чтение и присвоение значений являются атомарными
- Кроме long и double
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование60
Атомарные чтение и запись
- Программа
- Разделяемая переменная
int a = 0;
- Поток 1
a = -1;
- Поток 2
System.out.println(a);
- Разделяемая переменная
- Возможные результаты
- 0, −1
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование61
Неатомарные чтение и запись
- Программа
- Разделяемая переменная
long a = 0;
- Поток 1
a = -1;
- Поток 2
System.out.println(a);
- Разделяемая переменная
- Возможные результаты
- 0, -1
- 0xffffffff, 0xffffffff00000000
- 2, 3
- …
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование62
Видимость
Содержание
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование63
Пример
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование64
Пример
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование65
Пример
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование66
Пример
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование67
Видимость изменений
- Поток 2 видет изменения, произведенные потоком 1, если
- После изменений поток 1 освободил блокировку, которую захватил поток 2
- После изменения поток 1 создал поток 2
- Поток 2 дождался окончания потока 1
- При неправильной синхронизации изменения могут быть видимы в произвольном порядке
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование68
Пример
- Программа
- Разделяемые переменные
int a = 0; int b = 0;
- Поток 1
a = 10; b = 2;
- Поток 2
System.out.println(a + b);
- Разделяемые переменные
- Возможные результаты
- 0, 10, 12
- 2
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование69
Упорядоченность
Содержание
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование70
Порядок действий
- Со своей точки зрения
- Поток выполняется последовательно
- С точки зрения других потоков
- Выполнение может производиться в произвольном порядке
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование71
Пример
- Программа
- Разделяемая переменная
int a = 0;
- Поток
a = 1; a = 2;
- Разделяемая переменная
- Возможные видимые последовательности значений а
- 0…, 0…01…, 0…02…, 0…01…12…, 1…12…, 2…
- 2…20, 2…21, 0…01…10…
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование72
Volatile
Содержание
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование73
Volatile-переменные
- Операции с volatile-переменными всегда атомарны
- При чтение значения volatile-переменной оно всегда читается из общей памяти
- При записи значения volatile-переменной оно всегда записывается в общую память
- Если volatile-ссылка изменилась, то данные, доступные по ней, могли не измениться
- До Java 5
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование74
Пример 1. Список
- Программа
- Разделяемая переменная
volatile List<String> list = null;
- Поток 1
List<String> l = new ArrayList<>(); l.add("Hello"); list = l; - Поток 2
while (list == null) { } return list.get(0);
- Разделяемая переменная
- Не работает без volatile
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование75
Пример 2. Синглтон
public class Singleton { public static volatile Singleton instance; public static Singleton getInstance() { if (instance == null) { synchronized (Singleton.class) { if (instance == null) { instance = new Singleton(); } } } return instance; } }
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование76
Примеры
Содержание
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование77
Взаимная блокировка
Содержание
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование78
Гарантированный deadlock
public void run() { // 0
synchronized (o1) { // 1
o1.notifyAll(); // 2
synchronized (o2) { // 3
try {
o2.wait(); // unlock 4, await 5, lock 6
} catch (InterruptedException e) {}
} // 7
} // 8
}
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование79
Диаграмма переходов для deadlock
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование80
Барьер
Содержание
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование81
Барьер
- Потоки дожидаются окончания друг друга
public await(Barrier that) { // 0 synchronized (this) { // 1 this.gen++; // 2 this.notify(); // 3 } // 4 synchronized (that) { // 5 while (this.gen > that.gen) { // 6 that.wait(); // unlock 7, await 8, lock 9 } // 10 } // 11 }
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование82
Диаграмма переходов для барьера
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование83
Советы и рекомендации
Содержание
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование84
Уровни безопасности
Содержание
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование85
Неизменяемые
- Не изменяются с момента создания
- Все поля final
- Ссылаются только на неизменяемые объекты
- Потокобезопасны
- Синхронизация не требуется
- Immutable
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование86
Эффективно неизменяемые
- Не изменяются с определенного момента
- Вся инициализация в одном потоке
- Ссылаются только на (эффективно) неизменяемые объекты
- Потокобезопасны
- Корректно опубликованы
- Effectively immutable
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование87
Корректная публикация
- Корректное получение ссылки на объект
- Полностью инициализирован
- Опубликован с барьером
- Получен с барьером
- Ссылки до окончания конструктора
- Переопределяемые методы
- Регистрация слушателей
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование88
Потокобезопасные
- Внутренняя синхронизация
- Для одиночных операций синхронизация не требуется
- Внешняя синхронизация при массовых операциях
- Thread-safe
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование89
Условно потокобезопасные
- Внешняя синхронизация
- Синхронизация требуется для всех операций
- Ответственность на вызывающем
- Conditionally thread-safe
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование90
Потоконебезопасные
- Не могут использоваться в многопоточной среде
- Патологический случай
- Надо избегать
- Thread-hostile
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование91
Обеспечение потокобезопасности
Содержание
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование92
Делегирование
- Одно поле
- Ссылка не изменяется
- Потокобезопасный объект
- Атомарные или независимые операции
- Можно делегировать всю синхронизацию
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование93
Привязка к потоку
- Один поток – один экземпляр
- Thread-local objects
- Проблемы с взаимодействием
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование94
Thread-local objects
- Существует по одному на каждый поток
- Каждый может использовать безопасно
- Доступ
- Идентификатор
- Чтение локального объекта
- Запись локального объекта
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование95
Класс ThreadLocal
- Класс ThreadLocal<T>
- Конструкторы
- ThreadLocal() – новый идентификатор
- Методы
- get() – чтение
- set(value) – запись
- remove() – удаление
- Наследование
- initialValue() – исходное значение
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование96
Заключение
Содержание
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование97
Правила синхронизации
- Работать с разделяемыми значениями только под блокировкой
- Взял блокировку
- Прочел/изменил значение
- Отпустил блокировку
- Мало блокировок
- При отсутствии правильной синхронизации потоки могут увидеть практически что угодно
- Много блокировок
- Взаимная блокировка
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование98
Игра Deadlock Empire
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование100
Ссылки
- JLS. Threads and Locks // https://docs.oracle.com/javase/specs/jls/se17/
html/jls-17.html - Concurrency (Java Tutorial) // http://docs.oracle.com/javase/tutorial/essential/
concurrency/ - Java Memory Model Pragmatics // http://shipilev.net/blog/2014/jmm-pragmatics/
- Lea D. Concurrent Programming in Java
- Goetz B. Java Concurrency in Practice
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование101
Вопросы
???
Georgiy KorneevТехнологии Java / Введение в многопоточное программирование102