Оригинальная версия была разработана компанией Google для внутренних нужд, впоследствии система передана под управление Cloud Native Computing Foundation. Используются рядом крупных организаций и интернет-проектов, в частности, инфраструктура фонда Wikimedia Foundation перенесена с самостоятельно разработанного программного обеспечения для организации кластеров на Kubernetes.
Слово «Kubernetes» происходит от др.-греч.κυβερνήτης — кормчий, рулевой[6]. Часто также используется нумероним[англ.] «k8s»: в слове «kubernetes» восемь букв между «k» и «s», по аналогии с нумеронимом «i18n» — сокращённой версией от «internationalization».
Доклад «Google Container Engine» на Google Cloud Summit
Основные разработчики первых версий внутренней системы Google — программисты Джо Беда (Joe Beda), Брендан Бёрнс (Brendan Burns) и Крэйг Маклаки (Craig McLuckie[8]), в дальнейшем к проекту присоединились их коллеги Брайан Грант (Brian Grant) и Тим Хокин (Tim Hockin). Основной язык программирования системы — Go. На разработку и внутреннюю идеологию Kubernetes серьёзно повлиял другой продукт Google, оставшийся внутренней разработкой — система управления кластерами Google Borg[9][10], над которым ранее работал ряд ключевых разработчиков Kubernetes.
Оригинальное наименование проекта — Project Seven (отсылка к героине сериала Star Trek, возвращённой в индивидуальное и дружественное к людям состояние из статуса члена нечеловеческого роевого кибернетического разума Коллектива Боргов)[11]; семь ручек на штурвале логотипа проекта — аллюзия на этот художественный образ.
В середине 2014 года опубликованы исходные коды проекта[12]. 21 июля 2015 года выпущена версия 1.0[13]; после чего Google в партнёрстве с Linux Foundation организовал специальный фонд Cloud Native Computing Foundation (CNCF), которому корпорация передала Kubernetes в качестве начального технологического вклада.
19 декабря 2016 года был представлен Container Runtime Interface (CRI), который заменил Docker в качестве движка для управления[14]контейнерами, обеспечивая тем самым поддержку не только Docker, но и других совместимых средств контейнеризации.
Концепции
Как и многие другие сложные продукты, Kubernetes в рамках своей экосистемы вводит ряд специфических понятий и концепций.
Узел (node) — это отдельная физическая или виртуальная машина, на которой развёрнуты и выполняются контейнеры приложений. Каждый узел в кластере содержит сервисы для запуска приложений в контейнерах (например Docker), а также компоненты, предназначенные для централизованного управления узлом.
Под (pod, с англ. — «стручок, кокон», также модуль) — базовая единица для запуска и управления приложениями: один или несколько контейнеров, которым гарантирован запуск на одном узле, обеспечивается разделение ресурсов[15] и межпроцессное взаимодействие и предоставляется уникальный в пределах кластера IP-адрес[16]. Последнее позволяет приложениям, развёрнутым на поде, использовать фиксированные и предопределённые номера портов без риска конфликта. Поды могут напрямую управляться с использованием API Kubernetes или управление ими может быть передано контроллеру[15].
Том (volume) — общий ресурс хранения для совместного использования из контейнеров, развёрнутых в пределах одного пода.
Все объекты управления (узлы, поды, контейнеры) в Kubernetes помечаются метками (label), селекторы меток (label selector) — это запросы, которые позволяют получить ссылку на объекты, соответствующие какой-то из меток[15]. Метки и селекторы — это главный механизм Kubernetes, который позволяет выбрать, какой из объектов следует использовать для запрашиваемой операции.
Сервисом в Kubernetes называют совокупность логически связанных наборов подов и политик доступа к ним. Например, сервис может соответствовать одному из уровней программного обеспечения, разработанного в соответствии с принципами многоуровневой архитектуры программного обеспечения. Набор подов, соответствующий сервису, получается в результате выполнения селектора соответствующей метки[15].
Kubernetes обеспечивает функции обнаружения сервисов и маршрутизации по запросу. В частности, система умеет переназначать необходимые для обращения к сервису IP-адрес и доменное имя сервиса различным подам, входящим в его состав. При этом обеспечивается балансировка нагрузки в стиле Round robin DNS между подами, чьи метки соответствуют сервису, а также корректная работа в том случае, если один из узлов кластера вышел из строя и размещённые на нём поды автоматически были перемещены на другие узлы[16]. По умолчанию сервис доступен внутри управляемого Kubernetes кластера — например, поды бэкенда группируются для обеспечения балансировки нагрузки и в таком виде предоставляются фронтенду. Также кластер может быть настроен и для предоставления доступа к входящим в его состав подам извне как к единому фронтенду[17].
Контроллер (controller) — это процесс, который управляет состоянием кластера, пытаясь привести его от фактического состояния к желаемому[18]; он делает это, оперируя набором подов, определяемых с помощью селекторов меток и являющихся частью определения контроллера[19]. Выполнение контроллеров обеспечивается компонентом Kubernetes Controller Manager. Один из типов контроллеров, самый известный — это контроллер репликации (Replication Controller), который обеспечивает масштабирование, запуская указанное количество копий пода в кластере. Он также обеспечивает запуск новых экземпляров пода в том случае, если узел, на котором работает управляемый этим контроллером под, выходит из строя[18]. Другие контроллеры, входящие в основную систему Kubernetes, включают в себя «DaemonSet Controller», который обеспечивает запуск пода на каждой машине (или подмножеством машин), и «Job Controller» для запуска подов, которые выполняются до завершения, например, как часть пакетного задания.
Операторы (operators) — специализированный вид программного обеспечения Kubernetes, предназначенный для включения в кластер сервисов, сохраняющих своё состояние между выполнениями (stateful), таких как СУБД, системы мониторинга или кэширования[20]. Назначение операторов — предоставить возможность управления stateful-приложениями в кластере Kubernetes прозрачным способом и скрыть подробности их настроек от основного процесса управления кластером Kubernetes.
Архитектура и компоненты
Архитектура Kubernetes
Система реализует архитектуру «ведущий — ведомый»: выделяется подсистема управления кластером, а часть компонентов управляют индивидуальными, ведомыми узлами (называемых собственно узлами Kubernetes)[15][21].
Подсистема управления
Подсистема управления обеспечивает коммуникацию и распределение нагрузки внутри кластера; компоненты подсистемы могут выполняться на одном или на нескольких параллельно работающих ведущих узлах, совместно обеспечивающих режим высокой доступности[21].
Etcd[англ.] — компонент подсистемы управления, отвечающий за согласованное хранение конфигурационных данных кластера, в некотором смысле — распределённый эквивалент каталога /etc Unix-систем. Реализован как легковесная распределённая NoSQL-СУБД класса «ключ — значение»; создан в рамках проекта CoreOS.
Сервер API — ключевой компонент подсистемы управления, предоставляющий API в стиле REST (с использованием коммуникации в формате JSON поверх HTTP-транспорта), и используемый для организации внешнего и внутреннего доступа к функциям Kubernetes[15]. Сервер API обновляет состояние объектов, хранящееся в etcd, позволяя своим клиентам управлять распределением контейнеров и нагрузки между узлами управляемой системы.
Планировщик (scheduler) — компонент подсистемы управления, который выбирает, на каком узле должен выполняться конкретный под, опираясь на критерии доступности ресурсов. Планировщик отслеживает использование ресурсов на каждом из узлов, обеспечивая распределение нагрузки так, чтобы она не превышала доступный объём ресурсов. Для этой цели планировщик должен обладать информацией о доступных на каждом из узлов ресурсах, требованиях к ним со стороны управляемых подов, а также различных дополнительных пользовательских ограничениях и политиках, таких как QoS, требования аффинитета и антиаффинитета (affinity — anti-affinity — связки или развязки объектов управления друг с другом), локализации данных[англ.]. Иными словами, роль планировщика — находить и предоставлять ресурсы в зависимости от запросов, возникающих в связи с загрузкой[22].
Менеджер контроллеров (controller manager) — процесс, выполняющий основные контроллеры Kubernetes, такие как DaemonSet Controller и Replication Controller. Контроллеры взаимодействуют с сервером API Kubernetes, создавая, обновляя и удаляя управляемые ими ресурсы (поды, точки входа в сервисы и другие).
Kubectl — интерфейс командной строки, наряду с API обеспечивающий управление ресурсами, подконтрольными Kubernetes.
Компоненты узлов
Процедура работы Kubernetes состоит в том, что ресурсы узлов динамически распределяются между выполняемыми на них подами. Каждый узел в кластере содержит ряд типовых компонентов.
Сервис для запуска контейнеров обеспечивает функции выполнения контейнеров соответствующего вида (в зависимости от типа используемого контейнерного движка). С точки зрения программной среды Kubernetes, контейнеры инкапсулируются в подах, при этом сами контейнеры являются наиболее низкоуровневыми программными компонентами, с которыми взаимодействует программное обеспечение Kubernetes. Они, в свою очередь, содержат выполняемые приложения, библиотеки и иные необходимые для работы этих приложений ресурсы. Для внешнего мира контейнеры доступны через назначаемый каждому из подов IP-адрес.
Kubelet отвечает за статус выполнения подов на узле — отслеживает, корректно ли выполняется каждый из контейнеров, находясь в рабочем состоянии. Kubelet обеспечивает запуск, остановку и управление контейнерами приложений, организованными в поды. Функционально Kubelet можно рассматривать как аналог supervisord[15][23]. Если обнаруживается, что какой-то из подов находится в неверном состоянии, компонент пытается осуществить его повторное развёртывание и перезапуск на узле. Статус самого узла отправляется на подсистему управления каждые несколько секунд в форме диагностических сообщений (heartbeat message). Если мастер-узел, исходя из содержания этих сообщений или их отсутствия, обнаруживает, что конкретный узел не работает должным образом, процесс подсистемы управления Replication Controller пытается перезапустить необходимые поды на другом узле, находящемся в рабочем состоянии.
Kube-proxy — компонент, являющийся комбинацией сетевого прокси-сервера и балансировщика нагрузки. Реализованные в нём операции сетевого уровня используют абстракцию сервиса[15]. Он отвечает за маршрутизацию входящего трафика на конкретные контейнеры, работающие в пределах пода, расположенного на узле. Маршрутизация обеспечивается на основе IP-адреса и порта входящего запроса.
cAdvisor — агент системы внутреннего мониторинга Kubernetes, собирающий метрики производительности и информацию об использовании контейнерами, работающими в пределах узла, таких ресурсов как время работы центрального процессора, оперативной памяти, нагрузку на файловую и сетевую системы.
Разработка и развёртывание
Kubernetes предоставляет ряд средств для интеграции процессов разработки и развёртывания программного обеспечения, работающего под управлением этой системы. Среди наиболее часто используемых в этих целях инструментов:
Helm — официальный менеджер пакетов Kubernetes, функциональный эквивалент apt-get и yum[24];
Minikube — специализированная конфигурация Kubernetes, предназначенная для развёртывания на локальной машине, например, компьютере разработчика, применяется для изучения и локальных экспериментов над Kubernetes;
Skaffold — утилита от Google для локальной разработки в Kubernetes;
Kustomize — утилита для настройки yaml-манифестов, свободных от шаблонов.
Для многих из подобных инструментов существуют альтернативы, например, вместо ArgoCD иногда используется Flux и werf.
Распространение и конкуренция
Многие из поставщиков систем управления контейнерами реализовали поддержку Kubernetes в своих продуктах, ряд из них приняли участие в деятельности CNCF. В частности, Rancher Labs[англ.] включила Kubernetes в дистрибутив своей системы управления контейнерами Rancher container management platform[25], Pivotal Software[англ.] использовала Kubernetes в продукте Pivotal Container Service (PKS)[26], Red Hat — в составе PaaS-системы OpenShift[27][28] (являющейся, по сути, расширенной версией Kubernetes, часто даже называемой «дистрибутивом Kubernetes»), CoreOS включила систему в состав коммерческой версии дистрибутива Container Linux Tectonic, а IBM использовала его в IBM Cloud Container Service[29][30] и в продукте IBM Cloud Private[31][32][33]. Корпорация Oracle присоединилась к Cloud Native Computing Foundation в сентябре 2017 и включила Kubernetes в состав Oracle Cloud и Oracle Linux[34].
Считается, что к концу 2010-х годов Kubernetes стал стандартом де-факто для использования в облачных системах и сервисах по модели PaaS, предусматривающих контейнеризацию приложений, в частности, является основой контейнеризационных сервисов ряда крупнейших публично-облачных провайдеров — Amazon (AWS Elastic Container Service), Microsoft (Microsoft Azure Containers), Google (Google Cloud Platform Kubernetes Engine). С 2019 года компанией Rancher Labs[англ.] развивается дистрибутив k3s — облегчённый вариант Kubernetes, нацеленный на развёртывание в средах с ограниченными вычислительными ресурсами.
При этом развиваются и альтернативные продукты для оркестровки контейнеризированных приложений — Docker Swarm[англ.] от фирмы-разработчика Docker и Nomad от компании HashiCorp[англ.]. По сравнению с Docker Swarm, Kubernetes функционально богаче, но обладает более высоким порогом вхождения в технологию. При переходе от Docker Swarm к Kubernetes необходимо использовать приложение Kompose для конвертации созданных в Docker Compose файлов описаний оркестровки в формат, поддерживаемый Kubernetes.
↑Расширение Kubevirt обеспечивает возможность запуска подов не на основе Container Runtime Interface, а на основе любых виртуальных машин, поддерживаемых libvirt.
↑Abhishek Verma; Luis Pedrosa; Madhukar R. Korupolu; David Oppenheimer; Eric Tune; John Wilkes.Large-scale cluster management at Google with Borg (неопр.) // Proceedings of the European Conference on Computer Systems (EuroSys). — 2015. — 21 April. Архивировано 27 июля 2017 года.
