Изучаем Ray. Гибкий распределенный Python для машинного обучения

От издательства....14 Об авторах....15 Колофон....16 Предисловие....17 Введение....18 Глава 1. Общий обзор фреймворка Ray....25 Что такое Ray?....26 Что привело к разработке Ray?....27 Принципы внутреннего устройства фреймворка Ray....28 Простота и абстракция....28 Гибкость и неоднородность....29 Скорость и масштабируемость....30 Три слоя: ядро, библиотеки и экосистема....30 Фреймворк распределенных вычислений....31 Комплект библиотек науки о данных....34 Инструментарий Ray AIR и рабочий процесс науки о данных....34 Обработка данных с использованием библиотеки Ray Data....36 Тренировка моделей....38 Обучение с подкреплением с помощью библиотеки Ray RLlib....38 Распределенная тренировка с помощью библиотеки Ray Train....42 Гиперпараметрическая настройка....42 Подача моделей в качестве служб....44 Растущая экосистема....46 Резюме....47 Глава 2. Начало работы с инструментарием Ray Core....49 Введение в инструментарий Ray Core....50 Первый пример использования Ray API....52 Функции и дистанционные задания Ray....54 Использование хранилища объектов с помощью put и get....55 Применение функции wait фреймворка Ray для неблокирующих вызовов....56 Оперирование зависимостями заданий....58 Из классов в акторы....59 Краткий обзор API инструментария Ray Core....62 Понимание системных компонентов фреймворка Ray....63 Планирование и исполнение работы на узле....63 Головной узел....65 Распределенное планирование и исполнение....66 Простой пример использования парадигмы MapReduce с фреймворком Ray....68 Отображение и перетасовка данных в документах....71 Редукция количеств слов....72 Резюме....74 Глава 3. Разработка первого распределенного приложения....75 Введение в обучение с подкреплением....75 Постановка простой задачи о лабиринте....77 Разработка симуляции....82 Тренировка модели обучения с подкреплением....85 Разработка распределенного приложения Ray....89 Резюмирование терминологии обучения с подкреплением....92 Резюме....94 Глава 4. Обучение с подкреплением с использованием библиотеки Ray RLlib....95 Краткий обзор библиотеки RLlib....96 Начало работы с библиотекой RLlib....97 Разработка среды в рамках библиотеки Gym....98 Работа с интерфейсом командной строки библиотеки RLlib....99 Использование Python API библиотеки RLlib....101 Тренировка алгоритмов библиотеки RLlib....101 Сохранение, загрузка и оценивание моделей библиотеки RLlib....103 Вычисление действий....104 Доступ к политике и модельным состояниям....105 Конфигурирование экспериментов с помощью библиотеки RLlib....108 Конфигурирование ресурсов....110 Конфигурирование работников розыгрыша....110 Конфигурирование сред....111 Работа со средами библиотеки RLlib....111 Общий обзор сред библиотеки RLlib....111 Работа с несколькими агентами....112 Работа с серверами политик и клиентами....117 Определение сервера....117 Определение клиента....119 Продвинутые концепции....120 Разработка продвинутой среды....120 Применение процедуры усвоения учебной программы....122 Работа с офлайновыми данными....124 Другие продвинутые темы....125 Резюме....126 Глава 5. Гиперпараметрическая оптимизация с использованием библиотеки Ray Tune....127 Настройка гиперпараметров....128 Разработка примера случайного поиска с помощью фреймворка Ray....128 В чем трудность гиперпараметрической оптимизации?....131 Введение в библиотеку Tune....132 Принцип работы библиотеки Tune....133 Алгоритмы поиска....135 Планировщики....136 Конфигурирование и выполнение библиотеки Tune....138 Детализация ресурсов....138 Функции обратного вызова и метрики....139 Контрольные точки, остановка и возобновление....141 Конкретно-прикладные и условные пространства поиска....142 Машинное обучение с помощью библиотеки Tune....143 Использование библиотеки RLlib вместе с библиотекой Tune....143 Настройка моделей Keras....144 Резюме....147 Глава 6. Обработка данных с использованием фреймворка Ray....149 Библиотека Ray Data....150 Основы библиотеки Ray Data....151 Создание набора данных Dataset....152 Чтение из хранилища и запись в него....152 Встроенные преобразования....153 Блоки и реорганизация блоков....154 Схемы и форматы данных....154 Вычисления на наборах данных Dataset....155 Конвейеры наборов данных Dataset....157 Пример: параллельная тренировка копий классификатора....159 Интеграции с внешними библиотеками....163 Разработка конвейера машинного обучения....166 Резюме....168 Глава 7. Распределенная тренировка с использованием библиотеки Ray Train....169 Основы распределенной тренировки моделей....170 Введение в библиотеку Ray Train на примере....171 Предсказание больших чаевых в поездках на нью-йоркском такси....172 Загрузкапредобработка данных и выделение признаков....173 Определение модели глубокого обучения....174 Распределенная тренировка с помощью библиотеки Ray Train....175 Распределенное пакетное генерирование модельных предсказаний....178 Подробнее о тренерах в библиотеке Ray Train....179 Миграция в библиотеку Ray Train с минимальными изменениями исходного кода....181 Горизонтальное масштабирование тренеров....182 Предобработка с помощью библиотеки Ray Train....183 Интеграция тренеров с библиотекой Ray Tune....185 Использование обратных вызовов для мониторинга тренировки....187 Резюме....187 Глава 8. Онлайновое генерирование модельных предсказаний с использованием библиотеки Ray Serve....189 Ключевые характеристики онлайнового генерирования модельных предсказаний....191 Модели машинного обучения характерны своей вычислительной интенсивностью....191 Модели машинного обучения бесполезны в изоляции....192 Введение в библиотеку Ray Serve....193 Архитектурный обзор....193 Определение базовой конечной точки HTTP....195 Масштабирование и ресурсное обеспечение....197 Пакетирование запросов....199 Графы генерирования многомодельных предсказаний....200 Ключевая функциональность: привязка нескольких развертываний....201 Шаблон 1: конвейеризация....202 Шаблон 2: широковещательная трансляция....203 Шаблон 3: условная логика....203 Сквозной пример: разработка API на базе обработки естественного языка....204 Доставка содержимого и предобработка....206 Модели обработки естественного языка....206 Обработка HTTP и логика драйвера....208 Собираем все воедино....210 Резюме....212 Глава 9. Кластеры Ray....213 Создание кластера Ray в ручном режиме....214 Развертывание на Kubernetes....216 Настройка своего первого кластера KubeRay....217 Взаимодействие с кластером KubeRay....218 Выполнение программ Ray с помощью команды kubectl....219 Использование сервера подачи заявок Ray на выполнение работы....219 Клиент Ray....220 Предоставление оператора KubeRay....221 Конфигурирование оператора KubeRay....221 Конфигурирование журналирования для KubeRay....224 Использование инструмента запуска кластеров Ray....225 Конфигурирование своего кластера Ray....226 Использование CLI-инструмента запуска кластеров....226 Взаимодействие с кластером Ray....227 Работа с облачными кластерами....227 AWS....227 Использование других облачных провайдеров....228 Автомасштабирование....229 Резюме....230 Глава 10. Начало работы с инструментарием Ray AI Runtime....231 Зачем использовать инструментарий AIR?....231 Ключевые концепции инструментария AIR на примере....233 Наборы данных Dataset и предобработчики....234 Тренеры....235 Настройщики и контрольные точки....237 Пакетные предсказатели....239 Развертывания....240 Рабочие нагрузки, подходящие для инструментария AIR....243 Исполнение рабочих нагрузок AIR....246 Исполнение без отслеживания внутреннего состояния....246 Исполнение с отслеживанием внутреннего состояния....247 Исполнение составной рабочей нагрузки....247 Исполнение заданий по онлайновому генерированию модельных предсказаний....248 Управление памятью в инструментарии AIR....248 Принятая в инструментарии AIR модель сбоя....249 Автомасштабирование рабочих нагрузок AIR....250 Резюме....251 Глава 11. Экосистема фреймворка Ray и за ее пределами....252 Растущая экосистема....253 Загрузка и предобработка данных....253 Тренировка моделей....255 Подача моделей в качестве служб....259 Разработка конкретно-прикладных интеграций....262 Обзор интеграций фреймворка Ray....264 Фреймворк Ray и другие системы....264 Фреймворки распределенных вычислений на Python....265 Инструментарий Ray AIR и более широкая экосистема машинного обучения....265 Как интегрировать инструментарий AIR в свою платформу машинного обучения....268 Куда отсюда двигаться дальше?....269 Резюме....271 Тематический указатель....272