Question: What is ResourceQuota to limit PVC count and cumulative storage capacity?

Answer: A d m i n s   c a n   l i m i t   t h e   n u m b e r   o f   P V C s   i n   a   n a m e s p a c e   a s   w e l l   a s   t h e   c u m u l a t i v e   c a p a c i t y   o f   t h o s e   P V C s .   N e w   P V C s   t h a t   e x c e e d   e i t h e r   m a x i m u m   v a l u e   w i l l   b e   r e j e c t e d .   I n   t h i s   e x a m p l e ,   a   6 t h   P V C   i n   t h e   n a m e s p a c e   w o u l d   b e   r e j e c t e d   b e c a u s e   i t   e x c e e d s   t h e   m a x i m u m   c o u n t   o f   5 .   A l t e r n a t i v e l y ,   a   5 G i   m a x i m u m   q u o t a   w h e n   c o m b i n e d   w i t h   t h e   2 G i   m a x   l i m i t   a b o v e ,   c a n n o t   h a v e   3   P V C s   w h e r e   e a c h   h a s   2 G i .   T h a t   w o u l d   b e   6 G i   r e q u e s t e d   f o r   a   n a m e s p a c e   c a p p e d   a t   5 G i .   a p i V e r s i o n :   v 1   k i n d :   R e s o u r c e Q u o t a   m e t a d a t a :   n a m e :   s t o r a g e q u o t a   s p e c :   h a r d :   p e r s i s t e n t v o l u m e c l a i m s :   " 5 "   r e q u e s t s . s t o r a g e :   " 5 G i "


Question: What is Summary?

Answer: A   l i m i t   r a n g e   c a n   p u t   a   c e i l i n g   o n   h o w   m u c h   s t o r a g e   i s   r e q u e s t e d   w h i l e   a   r e s o u r c e   q u o t a   c a n   e f f e c t i v e l y   c a p   t h e   s t o r a g e   c o n s u m e d   b y   a   n a m e s p a c e   t h r o u g h   c l a i m   c o u n t s   a n d   c u m u l a t i v e   s t o r a g e   c a p a c i t y .   T h e   a l l o w s   a   c l u s t e r - a d m i n   t o   p l a n   t h e i r   c l u s t e r ' s   s t o r a g e   b u d g e t   w i t h o u t   r i s k   o f   a n y   o n e   p r o j e c t   g o i n g   o v e r   t h e i r   a l l o t m e n t .


Question: What is 2.29 - Migrate Replicated Control Plane To Use Cloud Controller Manager?

Answer: T h e   c l o u d - c o n t r o l l e r - m a n a g e r   i s   a   K u b e r n e t e s   c o n t r o l   p l a n e   c o m p o n e n t   t h a t   e m b e d s   c l o u d - s p e c i f i c   c o n t r o l   l o g i c .   T h e   c l o u d   c o n t r o l l e r   m a n a g e r   l e t s   y o u   l i n k   y o u r   c l u s t e r   i n t o   y o u r   c l o u d   p r o v i d e r ' s   A P I ,   a n d   s e p a r a t e s   o u t   t h e   c o m p o n e n t s   t h a t   i n t e r a c t   w i t h   t h a t   c l o u d   p l a t f o r m   f r o m   c o m p o n e n t s   t h a t   o n l y   i n t e r a c t   w i t h   y o u r   c l u s t e r .   T h e   c l o u d - c o n t r o l l e r - m a n a g e r   i s   a   K u b e r n e t e s   c o n t r o l   p l a n e   c o m p o n e n t   t h a t   e m b e d s   c l o u d - s p e c i f i c   c o n t r o l   l o g i c .   T h e   c l o u d   c o n t r o l l e r   m a n a g e r   l e t s   y o u   l i n k   y o u r   c l u s t e r   i n t o   y o u r   c l o u d   p r o v i d e r ' s   A P I ,   a n d   s e p a r a t e s   o u t   t h e   c o m p o n e n t s   t h a t   i n t e r a c t   w i t h   t h a t   c l o u d   p l a t f o r m   f r o m   c o m p o n e n t s   t h a t   o n l y   i n t e r a c t   w i t h   y o u r   c l u s t e r .   B y   d e c o u p l i n g   t h e   i n t e r o p e r a b i l i t y   l o g i c   b e t w e e n   K u b e r n e t e s   a n d   t h e   u n d e r l y i n g   c l o u d   i n f r a s t r u c t u r e ,   t h e   c l o u d - c o n t r o l l e r - m a n a g e r   c o m p o n e n t   e n a b l e s   c l o u d   p r o v i d e r s   t o   r e l e a s e   f e a t u r e s   a t   a   d i f f e r e n t   p a c e   c o m p a r e d   t o   t h e   m a i n   K u b e r n e t e s   p r o j e c t .


Question: What is Background?

Answer: A s   p a r t   o f   t h e   c l o u d   p r o v i d e r   e x t r a c t i o n   e f f o r t ,   a l l   c l o u d   s p e c i f i c   c o n t r o l l e r s   m u s t   b e   m o v e d   o u t   o f   t h e   k u b e - c o n t r o l l e r - m a n a g e r .   A l l   e x i s t i n g   c l u s t e r s   t h a t   r u n   c l o u d   c o n t r o l l e r s   i n   t h e   k u b e - c o n t r o l l e r - m a n a g e r   m u s t   m i g r a t e   t o   i n s t e a d   r u n   t h e   c o n t r o l l e r s   i n   a   c l o u d   p r o v i d e r   s p e c i f i c   c l o u d - c o n t r o l l e r - m a n a g e r .   L e a d e r   M i g r a t i o n   p r o v i d e s   a   m e c h a n i s m   i n   w h i c h   H A   c l u s t e r s   c a n   s a f e l y   m i g r a t e   " c l o u d   s p e c i f i c "   c o n t r o l l e r s   b e t w e e n   t h e   k u b e - c o n t r o l l e r - m a n a g e r   a n d   t h e   c l o u d - c o n t r o l l e r - m a n a g e r   v i a   a   s h a r e d   r e s o u r c e   l o c k   b e t w e e n   t h e   t w o   c o m p o n e n t s   w h i l e   u p g r a d i n g   t h e   r e p l i c a t e d   c o n t r o l   p l a n e .   F o r   a   s i n g l e - n o d e   c o n t r o l   p l a n e ,   o r   i f   u n a v a i l a b i l i t y   o f   c o n t r o l l e r   m a n a g e r s   c a n   b e   t o l e r a t e d   d u r i n g   t h e   u p g r a d e ,   L e a d e r   M i g r a t i o n   i s   n o t   n e e d e d   a n d   t h i s   g u i d e   c a n   b e   i g n o r e d .   L e a d e r   M i g r a t i o n   c a n   b e   e n a b l e d   b y   s e t t i n g   - - e n a b l e - l e a d e r - m i g r a t i o n   o n   k u b e - c o n t r o l l e r - m a n a g e r   o r   c l o u d - c o n t r o l l e r - m a n a g e r .   L e a d e r   M i g r a t i o n   o n l y   a p p l i e s   d u r i n g   t h e   u p g r a d e   a n d   c a n   b e   s a f e l y   d i s a b l e d   o r   l e f t   e n a b l e d   a f t e r   t h e   u p g r a d e   i s   c


Question: What is Before you begin?

Answer: I t   i s   a s s u m e d   t h a t   t h e   c o n t r o l   p l a n e   i s   r u n n i n g   K u b e r n e t e s   v e r s i o n   N   a n d   t o   b e   u p g r a d e d   t o   v e r s i o n   N   +   1 .   A l t h o u g h   i t   i s   p o s s i b l e   t o   m i g r a t e   w i t h i n   t h e   s a m e   v e r s i o n ,   i d e a l l y   t h e   m i g r a t i o n   s h o u l d   b e   p e r f o r m e d   a s   p a r t   o f   a n   u p g r a d e   s o   t h a t   c h a n g e s   o f   c o n f i g u r a t i o n   c a n   b e   a l i g n e d   t o   e a c h   r e l e a s e .   T h e   e x a c t   v e r s i o n s   o f   N   a n d   N   +   1   d e p e n d   o n   e a c h   c l o u d   p r o v i d e r .   F o r   e x a m p l e ,   i f   a   c l o u d   p r o v i d e r   b u i l d s   a   c l o u d - c o n t r o l l e r - m a n a g e r   t o   w o r k   w i t h   K u b e r n e t e s   1 . 2 4 ,   t h e n   N   c a n   b e   1 . 2 3   a n d   N   +   1   c a n   b e   1 . 2 4 .   T h e   c o n t r o l   p l a n e   n o d e s   s h o u l d   r u n   k u b e - c o n t r o l l e r - m a n a g e r   w i t h   L e a d e r   E l e c t i o n   e n a b l e d ,   w h i c h   i s   t h e   d e f a u l t .   A s   o f   v e r s i o n   N ,   a n   i n - t r e e   c l o u d   p r o v i d e r   m u s t   b e   s e t   w i t h   - - c l o u d - p r o v i d e r   f l a g   a n d   c l o u d - c o n t r o l l e r - m a n a g e r   s h o u l d   n o t   y e t   b e   d e p l o y e d .   T h e   o u t - o f - t r e e   c l o u d   p r o v i d e r   m u s t   h a v e   b u i l t   a   c l o u d - c o n t r o l l e r - m a n a g e r   w i t h   L e a d e r   M i g r a t i o n   i m p l e m e n t a t i o n .   I f   t h e   c l o u d   p r o v i d e r   i m p o r t s   k 8 s . i o / c l o u d - p r o v i d e r   a n d   k 8 s . i o / c o n t r o l l e r - m a n a g e r   o f   v e r s i o n   v 0 . 2 1 . 0   o r   l a t e r ,   L e a d e r   M i g r a t i o n   w i l l   b e   a v a


Question: What is Grant access to Migration Lease?

Answer: T h e   d e f a u l t   p e r m i s s i o n s   o f   t h e   c o n t r o l l e r   m a n a g e r   a l l o w   o n l y   a c c e s s e s   t o   t h e i r   m a i n   L e a s e .   I n   o r d e r   f o r   t h e   m i g r a t i o n   t o   w o r k ,   a c c e s s e s   t o   a n o t h e r   L e a s e   a r e   r e q u i r e d .   Y o u   c a n   g r a n t   k u b e - c o n t r o l l e r - m a n a g e r   f u l l   a c c e s s   t o   t h e   l e a s e s   A P I   b y   m o d i f y i n g   t h e   s y s t e m : : l e a d e r - l o c k i n g - k u b e - c o n t r o l l e r - m a n a g e r   r o l e .   T h i s   t a s k   g u i d e   a s s u m e s   t h a t   t h e   n a m e   o f   t h e   m i g r a t i o n   l e a s e   i s   c l o u d - p r o v i d e r - e x t r a c t i o n - m i g r a t i o n .   k u b e c t l   p a t c h   - n   k u b e - s y s t e m   r o l e   ' s y s t e m : : l e a d e r - l o c k i n g - k u b e - c o n t r o l l e r - m a n a g e r '   - p   ' { " r u l e s " :   [   { " a p i G r o u p s " : [   " c o o r d i n a t i o n . k 8 s . i o " ] ,   " r e s o u r c e s " :   [ " l e a s e s " ] ,   " r e s o u r c e N a m e s " :   [ " c l o u d - p r o v i d e r - e x t r a c t i o n - m i g r a t i o n " ] ,   " v e r b s " :   [ " c r e a t e " ,   " l i s t " ,   " g e t " ,   " u p d a t e " ]   }   ] } '   - - t y p e = m e r g e `   D o   t h e   s a m e   t o   t h e   s y s t e m : : l e a d e r - l o c k i n g - c l o u d - c o n t r o l l e r - m a n a g e r   r o l e .   k u b e c t l   p a t c h   - n   k u b e - s y s t e m   r o l e   ' s y s t e m : : l e a d e r - l o c k i n g - c l o u d - c o n t r o l l e r - m a n a g e r '   - p   ' { " r u l e s " :   [   { " a p i G r o u p s " : [   " c o o r d i n a t i o n . k 8 s . i o " ] ,   " r e s o u r c e s " :   [ " l e a s e s " ] ,   " r e s o u r c e N a m e s " :   [ " c l o u d - p r o v i d e r - e x t r a c t i o n - m i g r a t i o n " ] ,   " v e r b s " :   [ " c r


Question: What is Initial Leader Migration configuration?

Answer: L e a d e r   M i g r a t i o n   o p t i o n a l l y   t a k e s   a   c o n f i g u r a t i o n   f i l e   r e p r e s e n t i n g   t h e   s t a t e   o f   c o n t r o l l e r - t o - m a n a g e r   a s s i g n m e n t .   A t   t h i s   m o m e n t ,   w i t h   i n - t r e e   c l o u d   p r o v i d e r ,   k u b e - c o n t r o l l e r - m a n a g e r   r u n s   r o u t e ,   s e r v i c e ,   a n d   c l o u d - n o d e - l i f e c y c l e .   T h e   f o l l o w i n g   e x a m p l e   c o n f i g u r a t i o n   s h o w s   t h e   a s s i g n m e n t .   L e a d e r   M i g r a t i o n   c a n   b e   e n a b l e d   w i t h o u t   a   c o n f i g u r a t i o n .   P l e a s e   s e e   D e f a u l t   C o n f i g u r a t i o n   f o r   d e t a i l s .   k i n d :   L e a d e r M i g r a t i o n C o n f i g u r a t i o n   a p i V e r s i o n :   c o n t r o l l e r m a n a g e r . c o n f i g . k 8 s . i o / v 1   l e a d e r N a m e :   c l o u d - p r o v i d e r - e x t r a c t i o n - m i g r a t i o n   r e s o u r c e L o c k :   l e a s e s   c o n t r o l l e r L e a d e r s :   -   n a m e :   r o u t e   c o m p o n e n t :   k u b e - c o n t r o l l e r - m a n a g e r   -   n a m e :   s e r v i c e   c o m p o n e n t :   k u b e - c o n t r o l l e r - m a n a g e r   -   n a m e :   c l o u d - n o d e - l i f e c y c l e   c o m p o n e n t :   k u b e - c o n t r o l l e r - m a n a g e r   A l t e r n a t i v e l y ,   b e c a u s e   t h e   c o n t r o l l e r s   c a n   r u n   u n d e r   e i t h e r   c o n t r o l l e r   m a n a g e r s ,   s e t t i n g   c o m p o n e n t   t o   *   f o r   b o t h   s i d e s   m a k e s   t h e   c o n f i g u r a t i o n   f i l e   c o n s i s t e n t   b e t w e e n   b o t h   p a r t i e s   o f   t h e   m i g r a t i o n .   #   w i l d c a r d   v e r s i o n   k i n d :   L e a d e r M i g r a t i o n C o n f i g u r a t i o n   a p i V e r s i o n :   c o n t r o l l e r


Question: What is Deploy Cloud Controller Manager?

Answer: I n   v e r s i o n   N   +   1 ,   t h e   d e s i r e d   s t a t e   o f   c o n t r o l l e r - t o - m a n a g e r   a s s i g n m e n t   c a n   b e   r e p r e s e n t e d   b y   a   n e w   c o n f i g u r a t i o n   f i l e ,   s h o w n   a s   f o l l o w s .   P l e a s e   n o t e   c o m p o n e n t   f i e l d   o f   e a c h   c o n t r o l l e r L e a d e r s   c h a n g i n g   f r o m   k u b e - c o n t r o l l e r - m a n a g e r   t o   c l o u d - c o n t r o l l e r - m a n a g e r .   A l t e r n a t i v e l y ,   u s e   t h e   w i l d c a r d   v e r s i o n   m e n t i o n e d   a b o v e ,   w h i c h   h a s   t h e   s a m e   e f f e c t .   k i n d :   L e a d e r M i g r a t i o n C o n f i g u r a t i o n   a p i V e r s i o n :   c o n t r o l l e r m a n a g e r . c o n f i g . k 8 s . i o / v 1   l e a d e r N a m e :   c l o u d - p r o v i d e r - e x t r a c t i o n - m i g r a t i o n   r e s o u r c e L o c k :   l e a s e s   c o n t r o l l e r L e a d e r s :   -   n a m e :   r o u t e   c o m p o n e n t :   c l o u d - c o n t r o l l e r - m a n a g e r   -   n a m e :   s e r v i c e   c o m p o n e n t :   c l o u d - c o n t r o l l e r - m a n a g e r   -   n a m e :   c l o u d - n o d e - l i f e c y c l e   c o m p o n e n t :   c l o u d - c o n t r o l l e r - m a n a g e r   W h e n   c r e a t i n g   c o n t r o l   p l a n e   n o d e s   o f   v e r s i o n   N   +   1 ,   t h e   c o n t e n t   s h o u l d   b e   d e p l o y e d   t o   / e t c / l e a d e r m i g r a t i o n . c o n f .   T h e   m a n i f e s t   o f   c l o u d - c o n t r o l l e r - m a n a g e r   s h o u l d   b e   u p d a t e d   t o   m o u n t   t h e   c o n f i g u r a t i o n   f i l e   i n   t h e   s a m e   m a n n e r   a s   k u b e - c o n t r o l l e r - m a n a g e r   o f   v e r s i o n   N .   S i m i l a r l y ,   a d d   - - e n a b l e - l e a d e r - m i g r a t i o n   a n d   - - l e a d e r - m i


Question: What is Upgrade Control Plane?

Answer: T h e   c o n t r o l   p l a n e   n o w   c o n t a i n s   n o d e s   o f   b o t h   v e r s i o n   N   a n d   N   +   1 .   T h e   n o d e s   o f   v e r s i o n   N   r u n   k u b e - c o n t r o l l e r - m a n a g e r   o n l y ,   a n d   t h e s e   o f   v e r s i o n   N   +   1   r u n   b o t h   k u b e - c o n t r o l l e r - m a n a g e r   a n d   c l o u d - c o n t r o l l e r - m a n a g e r .   T h e   m i g r a t e d   c o n t r o l l e r s ,   a s   s p e c i f i e d   i n   t h e   c o n f i g u r a t i o n ,   a r e   r u n n i n g   u n d e r   e i t h e r   k u b e - c o n t r o l l e r - m a n a g e r   o f   v e r s i o n   N   o r   c l o u d - c o n t r o l l e r - m a n a g e r   o f   v e r s i o n   N   +   1   d e p e n d i n g   o n   w h i c h   c o n t r o l l e r   m a n a g e r   h o l d s   t h e   m i g r a t i o n   l e a s e .   N o   c o n t r o l l e r   w i l l   e v e r   b e   r u n n i n g   u n d e r   b o t h   c o n t r o l l e r   m a n a g e r s   a t   a n y   t i m e .   I n   a   r o l l i n g   m a n n e r ,   c r e a t e   a   n e w   c o n t r o l   p l a n e   n o d e   o f   v e r s i o n   N   +   1   a n d   b r i n g   d o w n   o n e   o f   v e r s i o n   N   u n t i l   t h e   c o n t r o l   p l a n e   c o n t a i n s   o n l y   n o d e s   o f   v e r s i o n   N   +   1 .   I f   a   r o l l b a c k   f r o m   v e r s i o n   N   +   1   t o   N   i s   r e q u i r e d ,   a d d   n o d e s   o f   v e r s i o n   N   w i t h   L e a d e r   M i g r a t i o n   e n a b l e d   f o r   k u b e - c o n t r o l l e r - m a n a g e r   b a c k   t o   t h e   c o n t r o l   p l a n e ,   r e p l a c i n g   o n e   o f   v e r s i o n   N   +   1   e a c h   t i m e   u n t i l   t h e r e   a r e   o n l y   n o d e s   o f   v e r s i o n   N .


Question: What is (Optional) Disable Leader Migration?

Answer: N o w   t h a t   t h e   c o n t r o l   p l a n e   h a s   b e e n   u p g r a d e d   t o   r u n   b o t h   k u b e - c o n t r o l l e r - m a n a g e r   a n d   c l o u d - c o n t r o l l e r - m a n a g e r   o f   v e r s i o n   N   +   1 ,   L e a d e r   M i g r a t i o n   h a s   f i n i s h e d   i t s   j o b   a n d   c a n   b e   s a f e l y   d i s a b l e d   t o   s a v e   o n e   L e a s e   r e s o u r c e .   I t   i s   s a f e   t o   r e - e n a b l e   L e a d e r   M i g r a t i o n   f o r   t h e   r o l l b a c k   i n   t h e   f u t u r e .   I n   a   r o l l i n g   m a n a g e r ,   u p d a t e   m a n i f e s t   o f   c l o u d - c o n t r o l l e r - m a n a g e r   t o   u n s e t   b o t h   - - e n a b l e - l e a d e r - m i g r a t i o n   a n d   - - l e a d e r - m i g r a t i o n - c o n f i g =   f l a g ,   a l s o   r e m o v e   t h e   m o u n t   o f   / e t c / l e a d e r m i g r a t i o n . c o n f ,   a n d   f i n a l l y   r e m o v e   / e t c / l e a d e r m i g r a t i o n . c o n f .   T o   r e - e n a b l e   L e a d e r   M i g r a t i o n ,   r e c r e a t e   t h e   c o n f i g u r a t i o n   f i l e   a n d   a d d   i t s   m o u n t   a n d   t h e   f l a g s   t h a t   e n a b l e   L e a d e r   M i g r a t i o n   b a c k   t o   c l o u d - c o n t r o l l e r - m a n a g e r .


Question: What is Default Configuration?

Answer: S t a r t i n g   K u b e r n e t e s   1 . 2 2 ,   L e a d e r   M i g r a t i o n   p r o v i d e s   a   d e f a u l t   c o n f i g u r a t i o n   s u i t a b l e   f o r   t h e   d e f a u l t   c o n t r o l l e r - t o - m a n a g e r   a s s i g n m e n t .   T h e   d e f a u l t   c o n f i g u r a t i o n   c a n   b e   e n a b l e d   b y   s e t t i n g   - - e n a b l e - l e a d e r - m i g r a t i o n   b u t   w i t h o u t   - - l e a d e r - m i g r a t i o n - c o n f i g = .   F o r   k u b e - c o n t r o l l e r - m a n a g e r   a n d   c l o u d - c o n t r o l l e r - m a n a g e r ,   i f   t h e r e   a r e   n o   f l a g s   t h a t   e n a b l e   a n y   i n - t r e e   c l o u d   p r o v i d e r   o r   c h a n g e   o w n e r s h i p   o f   c o n t r o l l e r s ,   t h e   d e f a u l t   c o n f i g u r a t i o n   c a n   b e   u s e d   t o   a v o i d   m a n u a l   c r e a t i o n   o f   t h e   c o n f i g u r a t i o n   f i l e .


Question: What is Special case: migrating the Node IPAM controller?

Answer: I f   y o u r   c l o u d   p r o v i d e r   p r o v i d e s   a n   i m p l e m e n t a t i o n   o f   N o d e   I P A M   c o n t r o l l e r ,   y o u   s h o u l d   s w i t c h   t o   t h e   i m p l e m e n t a t i o n   i n   c l o u d - c o n t r o l l e r - m a n a g e r .   D i s a b l e   N o d e   I P A M   c o n t r o l l e r   i n   k u b e - c o n t r o l l e r - m a n a g e r   o f   v e r s i o n   N   +   1   b y   a d d i n g   - - c o n t r o l l e r s = * , - n o d e i p a m   t o   i t s   f l a g s .   T h e n   a d d   n o d e i p a m   t o   t h e   l i s t   o f   m i g r a t e d   c o n t r o l l e r s .   #   w i l d c a r d   v e r s i o n ,   w i t h   n o d e i p a m   k i n d :   L e a d e r M i g r a t i o n C o n f i g u r a t i o n   a p i V e r s i o n :   c o n t r o l l e r m a n a g e r . c o n f i g . k 8 s . i o / v 1   l e a d e r N a m e :   c l o u d - p r o v i d e r - e x t r a c t i o n - m i g r a t i o n   r e s o u r c e L o c k :   l e a s e s   c o n t r o l l e r L e a d e r s :   -   n a m e :   r o u t e   c o m p o n e n t :   *   -   n a m e :   s e r v i c e   c o m p o n e n t :   *   -   n a m e :   c l o u d - n o d e - l i f e c y c l e   c o m p o n e n t :   *   -   n a m e :   n o d e i p a m   -   c o m p o n e n t :   *


Question: What is What's next?

Answer: R e a d   t h e   C o n t r o l l e r   M a n a g e r   L e a d e r   M i g r a t i o n   e n h a n c e m e n t   p r o p o s a l .


Question: What is 2.30 - Operating etcd clusters for Kubernetes?

Answer: e t c d   i s   a   c o n s i s t e n t   a n d   h i g h l y - a v a i l a b l e   k e y   v a l u e   s t o r e   u s e d   a s   K u b e r n e t e s '   b a c k i n g   s t o r e   f o r   a l l   c l u s t e r   d a t a .   e t c d   i s   a   c o n s i s t e n t   a n d   h i g h l y - a v a i l a b l e   k e y   v a l u e   s t o r e   u s e d   a s   K u b e r n e t e s '   b a c k i n g   s t o r e   f o r   a l l   c l u s t e r   d a t a .   I f   y o u r   K u b e r n e t e s   c l u s t e r   u s e s   e t c d   a s   i t s   b a c k i n g   s t o r e ,   m a k e   s u r e   y o u   h a v e   a   b a c k   u p   p l a n   f o r   t h e   d a t a .   Y o u   c a n   f i n d   i n - d e p t h   i n f o r m a t i o n   a b o u t   e t c d   i n   t h e   o f f i c i a l   d o c u m e n t a t i o n .


Question: What is Before you begin?

Answer: B e f o r e   y o u   f o l l o w   s t e p s   i n   t h i s   p a g e   t o   d e p l o y ,   m a n a g e ,   b a c k   u p   o r   r e s t o r e   e t c d ,   y o u   n e e d   t o   u n d e r s t a n d   t h e   t y p i c a l   e x p e c t a t i o n s   f o r   o p e r a t i n g   a n   e t c d   c l u s t e r .   R e f e r   t o   t h e   e t c d   d o c u m e n t a t i o n   f o r   m o r e   c o n t e x t .   K e y   d e t a i l s   i n c l u d e :   T h e   m i n i m u m   r e c o m m e n d e d   e t c d   v e r s i o n s   t o   r u n   i n   p r o d u c t i o n   a r e   3 . 4 . 2 2 +   a n d   3 . 5 . 6 + . e t c d   i s   a   l e a d e r - b a s e d   d i s t r i b u t e d   s y s t e m .   E n s u r e   t h a t   t h e   l e a d e r   p e r i o d i c a l l y   s e n d   h e a r t b e a t s   o n   t i m e   t o   a l l   f o l l o w e r s   t o   k e e p   t h e   c l u s t e r   s t a b l e . Y o u   s h o u l d   r u n   e t c d   a s   a   c l u s t e r   w i t h   a n   o d d   n u m b e r   o f   m e m b e r s . A i m   t o   e n s u r e   t h a t   n o   r e s o u r c e   s t a r v a t i o n   o c c u r s . P e r f o r m a n c e   a n d   s t a b i l i t y   o f   t h e   c l u s t e r   i s   s e n s i t i v e   t o   n e t w o r k   a n d   d i s k   I / O .   A n y   r e s o u r c e   s t a r v a t i o n   c a n   l e a d   t o   h e a r t b e a t   t i m e o u t ,   c a u s i n g   i n s t a b i l i t y   o f   t h e   c l u s t e r .   A n   u n s t a b l e   e t c d   i n d i c a t e s   t h a t   n o   l e a d e r   i s   e l e c t e d .   U n d e r   s u c h   c i r c u m s t a n c e s ,   a   c l u s t e r   c a n n o t   m a k e   a n y   c h a n g e s   t o   i t s   c u r r e n t   s t a t e ,   w h i c h   i m p l i e s   n o   n e w   p o d s   c a n   b e   s c h e d u l e d .   T h e   m i n i m u m   r e c o m m e n d e d   e t c d   v e r s i o n s   t o   r u n   i n   p r o d u c t i o n   a r e   3 . 4 . 2 2 +   a n d   3 . 5


Question: What is Resource requirements for etcd?

Answer: O p e r a t i n g   e t c d   w i t h   l i m i t e d   r e s o u r c e s   i s   s u i t a b l e   o n l y   f o r   t e s t i n g   p u r p o s e s .   F o r   d e p l o y i n g   i n   p r o d u c t i o n ,   a d v a n c e d   h a r d w a r e   c o n f i g u r a t i o n   i s   r e q u i r e d .   B e f o r e   d e p l o y i n g   e t c d   i n   p r o d u c t i o n ,   s e e   r e s o u r c e   r e q u i r e m e n t   r e f e r e n c e .   K e e p i n g   e t c d   c l u s t e r s   s t a b l e   i s   c r i t i c a l   t o   t h e   s t a b i l i t y   o f   K u b e r n e t e s   c l u s t e r s .   T h e r e f o r e ,   r u n   e t c d   c l u s t e r s   o n   d e d i c a t e d   m a c h i n e s   o r   i s o l a t e d   e n v i r o n m e n t s   f o r   g u a r a n t e e d   r e s o u r c e   r e q u i r e m e n t s .


Question: What is Tools?

Answer: D e p e n d i n g   o n   w h i c h   s p e c i f i c   o u t c o m e   y o u ' r e   w o r k i n g   o n ,   y o u   w i l l   n e e d   t h e   e t c d c t l   t o o l   o r   t h e   e t c d u t l   t o o l   ( y o u   m a y   n e e d   b o t h ) .


Question: What is Understanding etcdctl and etcdutl?

Answer: e t c d c t l   a n d   e t c d u t l   a r e   c o m m a n d - l i n e   t o o l s   u s e d   t o   i n t e r a c t   w i t h   e t c d   c l u s t e r s ,   b u t   t h e y   s e r v e   d i f f e r e n t   p u r p o s e s :   e t c d c t l :   T h i s   i s   t h e   p r i m a r y   c o m m a n d - l i n e   c l i e n t   f o r   i n t e r a c t i n g   w i t h   e t c d   o v e r   a   n e t w o r k .   I t   i s   u s e d   f o r   d a y - t o - d a y   o p e r a t i o n s   s u c h   a s   m a n a g i n g   k e y s   a n d   v a l u e s ,   a d m i n i s t e r i n g   t h e   c l u s t e r ,   c h e c k i n g   h e a l t h ,   a n d   m o r e . e t c d u t l :   T h i s   i s   a n   a d m i n i s t r a t i o n   u t i l i t y   d e s i g n e d   t o   o p e r a t e   d i r e c t l y   o n   e t c d   d a t a   f i l e s ,   i n c l u d i n g   m i g r a t i n g   d a t a   b e t w e e n   e t c d   v e r s i o n s ,   d e f r a g m e n t i n g   t h e   d a t a b a s e ,   r e s t o r i n g   s n a p s h o t s ,   a n d   v a l i d a t i n g   d a t a   c o n s i s t e n c y .   F o r   n e t w o r k   o p e r a t i o n s ,   e t c d c t l   s h o u l d   b e   u s e d .   e t c d c t l :   T h i s   i s   t h e   p r i m a r y   c o m m a n d - l i n e   c l i e n t   f o r   i n t e r a c t i n g   w i t h   e t c d   o v e r   a   n e t w o r k .   I t   i s   u s e d   f o r   d a y - t o - d a y   o p e r a t i o n s   s u c h   a s   m a n a g i n g   k e y s   a n d   v a l u e s ,   a d m i n i s t e r i n g   t h e   c l u s t e r ,   c h e c k i n g   h e a l t h ,   a n d   m o r e .   e t c d u t l :   T h i s   i s   a n   a d m i n i s t r a t i o n   u t i l i t y   d e s i g n e d   t o   o p e r a t e   d i r e c t l y   o n   e t c d   d a t a   f i l e s ,   i n c l u d i n g   m i g r a t i n g   d a t a   b e t w e e n   e t c d   v e r s i o n s ,   d e f r a g m e n t i n g   t h e   d a t a b a s e ,   r e s t o r i n g   s n a p s h


Question: What is Starting etcd clusters?

Answer: T h i s   s e c t i o n   c o v e r s   s t a r t i n g   a   s i n g l e - n o d e   a n d   m u l t i - n o d e   e t c d   c l u s t e r .   T h i s   g u i d e   a s s u m e s   t h a t   e t c d   i s   a l r e a d y   i n s t a l l e d .


Question: What is Single-node etcd cluster?

Answer: U s e   a   s i n g l e - n o d e   e t c d   c l u s t e r   o n l y   f o r   t e s t i n g   p u r p o s e s .   R u n   t h e   f o l l o w i n g : e t c d   - - l i s t e n - c l i e n t - u r l s = h t t p : / / $ P R I V A T E _ I P : 2 3 7 9   \   - - a d v e r t i s e - c l i e n t - u r l s = h t t p : / / $ P R I V A T E _ I P : 2 3 7 9   S t a r t   t h e   K u b e r n e t e s   A P I   s e r v e r   w i t h   t h e   f l a g   - - e t c d - s e r v e r s = $ P R I V A T E _ I P : 2 3 7 9 . M a k e   s u r e   P R I V A T E _ I P   i s   s e t   t o   y o u r   e t c d   c l i e n t   I P .   R u n   t h e   f o l l o w i n g :   e t c d   - - l i s t e n - c l i e n t - u r l s = h t t p : / / $ P R I V A T E _ I P : 2 3 7 9   \   - - a d v e r t i s e - c l i e n t - u r l s = h t t p : / / $ P R I V A T E _ I P : 2 3 7 9   S t a r t   t h e   K u b e r n e t e s   A P I   s e r v e r   w i t h   t h e   f l a g   - - e t c d - s e r v e r s = $ P R I V A T E _ I P : 2 3 7 9 .   M a k e   s u r e   P R I V A T E _ I P   i s   s e t   t o   y o u r   e t c d   c l i e n t   I P .


Question: What is Multi-node etcd cluster?

Answer: F o r   d u r a b i l i t y   a n d   h i g h   a v a i l a b i l i t y ,   r u n   e t c d   a s   a   m u l t i - n o d e   c l u s t e r   i n   p r o d u c t i o n   a n d   b a c k   i t   u p   p e r i o d i c a l l y .   A   f i v e - m e m b e r   c l u s t e r   i s   r e c o m m e n d e d   i n   p r o d u c t i o n .   F o r   m o r e   i n f o r m a t i o n ,   s e e   F A Q   d o c u m e n t a t i o n .   A s   y o u ' r e   u s i n g   K u b e r n e t e s ,   y o u   h a v e   t h e   o p t i o n   t o   r u n   e t c d   a s   a   c o n t a i n e r   i n s i d e   o n e   o r   m o r e   P o d s .   T h e   k u b e a d m   t o o l   s e t s   u p   e t c d   s t a t i c   p o d s   b y   d e f a u l t ,   o r   y o u   c a n   d e p l o y   a   s e p a r a t e   c l u s t e r   a n d   i n s t r u c t   k u b e a d m   t o   u s e   t h a t   e t c d   c l u s t e r   a s   t h e   c o n t r o l   p l a n e ' s   b a c k i n g   s t o r e .   Y o u   c o n f i g u r e   a n   e t c d   c l u s t e r   e i t h e r   b y   s t a t i c   m e m b e r   i n f o r m a t i o n   o r   b y   d y n a m i c   d i s c o v e r y .   F o r   m o r e   i n f o r m a t i o n   o n   c l u s t e r i n g ,   s e e   e t c d   c l u s t e r i n g   d o c u m e n t a t i o n .   F o r   a n   e x a m p l e ,   c o n s i d e r   a   f i v e - m e m b e r   e t c d   c l u s t e r   r u n n i n g   w i t h   t h e   f o l l o w i n g   c l i e n t   U R L s :   h t t p : / / $ I P 1 : 2 3 7 9 ,   h t t p : / / $ I P 2 : 2 3 7 9 ,   h t t p : / / $ I P 3 : 2 3 7 9 ,   h t t p : / / $ I P 4 : 2 3 7 9 ,   a n d   h t t p : / / $ I P 5 : 2 3 7 9 .   T o   s t a r t   a   K u b e r n e t e s   A P I   s e r v e r :   R u n   t h e   f o l l o w i n g : e t c d   - - l i s t e n - c l i e n t - u r l s = h t t p : / / $ I P 1 : 2 3 7 9 , h t t p : / / $ I P 2 : 2 3 7 9 , h t t p : / / $ I P 3 : 2 3 7 9 , h t t p : / / $ I P 4 : 2 3 7 9 , h t t p : / / $ I P 5 : 2 3 7 9   - - a


Question: What is Multi-node etcd cluster with load balancer?

Answer: T o   r u n   a   l o a d   b a l a n c i n g   e t c d   c l u s t e r :   S e t   u p   a n   e t c d   c l u s t e r . C o n f i g u r e   a   l o a d   b a l a n c e r   i n   f r o n t   o f   t h e   e t c d   c l u s t e r .   F o r   e x a m p l e ,   l e t   t h e   a d d r e s s   o f   t h e   l o a d   b a l a n c e r   b e   $ L B . S t a r t   K u b e r n e t e s   A P I   S e r v e r s   w i t h   t h e   f l a g   - - e t c d - s e r v e r s = $ L B : 2 3 7 9 .


Question: What is Securing etcd clusters?

Answer: A c c e s s   t o   e t c d   i s   e q u i v a l e n t   t o   r o o t   p e r m i s s i o n   i n   t h e   c l u s t e r   s o   i d e a l l y   o n l y   t h e   A P I   s e r v e r   s h o u l d   h a v e   a c c e s s   t o   i t .   C o n s i d e r i n g   t h e   s e n s i t i v i t y   o f   t h e   d a t a ,   i t   i s   r e c o m m e n d e d   t o   g r a n t   p e r m i s s i o n   t o   o n l y   t h o s e   n o d e s   t h a t   r e q u i r e   a c c e s s   t o   e t c d   c l u s t e r s .   T o   s e c u r e   e t c d ,   e i t h e r   s e t   u p   f i r e w a l l   r u l e s   o r   u s e   t h e   s e c u r i t y   f e a t u r e s   p r o v i d e d   b y   e t c d .   e t c d   s e c u r i t y   f e a t u r e s   d e p e n d   o n   x 5 0 9   P u b l i c   K e y   I n f r a s t r u c t u r e   ( P K I ) .   T o   b e g i n ,   e s t a b l i s h   s e c u r e   c o m m u n i c a t i o n   c h a n n e l s   b y   g e n e r a t i n g   a   k e y   a n d   c e r t i f i c a t e   p a i r .   F o r   e x a m p l e ,   u s e   k e y   p a i r s   p e e r . k e y   a n d   p e e r . c e r t   f o r   s e c u r i n g   c o m m u n i c a t i o n   b e t w e e n   e t c d   m e m b e r s ,   a n d   c l i e n t . k e y   a n d   c l i e n t . c e r t   f o r   s e c u r i n g   c o m m u n i c a t i o n   b e t w e e n   e t c d   a n d   i t s   c l i e n t s .   S e e   t h e   e x a m p l e   s c r i p t s   p r o v i d e d   b y   t h e   e t c d   p r o j e c t   t o   g e n e r a t e   k e y   p a i r s   a n d   C A   f i l e s   f o r   c l i e n t   a u t h e n t i c a t i o n .


Question: What is Securing communication?

Answer: T o   c o n f i g u r e   e t c d   w i t h   s e c u r e   p e e r   c o m m u n i c a t i o n ,   s p e c i f y   f l a g s   - - p e e r - k e y - f i l e = p e e r . k e y   a n d   - - p e e r - c e r t - f i l e = p e e r . c e r t ,   a n d   u s e   H T T P S   a s   t h e   U R L   s c h e m a .   S i m i l a r l y ,   t o   c o n f i g u r e   e t c d   w i t h   s e c u r e   c l i e n t   c o m m u n i c a t i o n ,   s p e c i f y   f l a g s   - - k e y = k 8 s c l i e n t . k e y   a n d   - - c e r t = k 8 s c l i e n t . c e r t ,   a n d   u s e   H T T P S   a s   t h e   U R L   s c h e m a .   H e r e   i s   a n   e x a m p l e   o n   a   c l i e n t   c o m m a n d   t h a t   u s e s   s e c u r e   c o m m u n i c a t i o n :   E T C D C T L _ A P I = 3   e t c d c t l   - - e n d p o i n t s   1 0 . 2 . 0 . 9 : 2 3 7 9   \   - - c e r t = / e t c / k u b e r n e t e s / p k i / e t c d / s e r v e r . c r t   \   - - k e y = / e t c / k u b e r n e t e s / p k i / e t c d / s e r v e r . k e y   \   - - c a c e r t = / e t c / k u b e r n e t e s / p k i / e t c d / c a . c r t   \   m e m b e r   l i s t


Question: What is Limiting access of etcd clusters?

Answer: A f t e r   c o n f i g u r i n g   s e c u r e   c o m m u n i c a t i o n ,   r e s t r i c t   t h e   a c c e s s   o f   t h e   e t c d   c l u s t e r   t o   o n l y   t h e   K u b e r n e t e s   A P I   s e r v e r s   u s i n g   T L S   a u t h e n t i c a t i o n .   F o r   e x a m p l e ,   c o n s i d e r   k e y   p a i r s   k 8 s c l i e n t . k e y   a n d   k 8 s c l i e n t . c e r t   t h a t   a r e   t r u s t e d   b y   t h e   C A   e t c d . c a .   W h e n   e t c d   i s   c o n f i g u r e d   w i t h   - - c l i e n t - c e r t - a u t h   a l o n g   w i t h   T L S ,   i t   v e r i f i e s   t h e   c e r t i f i c a t e s   f r o m   c l i e n t s   b y   u s i n g   s y s t e m   C A s   o r   t h e   C A   p a s s e d   i n   b y   - - t r u s t e d - c a - f i l e   f l a g .   S p e c i f y i n g   f l a g s   - - c l i e n t - c e r t - a u t h = t r u e   a n d   - - t r u s t e d - c a - f i l e = e t c d . c a   w i l l   r e s t r i c t   t h e   a c c e s s   t o   c l i e n t s   w i t h   t h e   c e r t i f i c a t e   k 8 s c l i e n t . c e r t .   O n c e   e t c d   i s   c o n f i g u r e d   c o r r e c t l y ,   o n l y   c l i e n t s   w i t h   v a l i d   c e r t i f i c a t e s   c a n   a c c e s s   i t .   T o   g i v e   K u b e r n e t e s   A P I   s e r v e r s   t h e   a c c e s s ,   c o n f i g u r e   t h e m   w i t h   t h e   f l a g s   - - e t c d - c e r t f i l e = k 8 s c l i e n t . c e r t ,   - - e t c d - k e y f i l e = k 8 s c l i e n t . k e y   a n d   - - e t c d - c a f i l e = c a . c e r t .


Question: What is Replacing a failed etcd member?

Answer: e t c d   c l u s t e r   a c h i e v e s   h i g h   a v a i l a b i l i t y   b y   t o l e r a t i n g   m i n o r   m e m b e r   f a i l u r e s .   H o w e v e r ,   t o   i m p r o v e   t h e   o v e r a l l   h e a l t h   o f   t h e   c l u s t e r ,   r e p l a c e   f a i l e d   m e m b e r s   i m m e d i a t e l y .   W h e n   m u l t i p l e   m e m b e r s   f a i l ,   r e p l a c e   t h e m   o n e   b y   o n e .   R e p l a c i n g   a   f a i l e d   m e m b e r   i n v o l v e s   t w o   s t e p s :   r e m o v i n g   t h e   f a i l e d   m e m b e r   a n d   a d d i n g   a   n e w   m e m b e r .   T h o u g h   e t c d   k e e p s   u n i q u e   m e m b e r   I D s   i n t e r n a l l y ,   i t   i s   r e c o m m e n d e d   t o   u s e   a   u n i q u e   n a m e   f o r   e a c h   m e m b e r   t o   a v o i d   h u m a n   e r r o r s .   F o r   e x a m p l e ,   c o n s i d e r   a   t h r e e - m e m b e r   e t c d   c l u s t e r .   L e t   t h e   U R L s   b e ,   m e m b e r 1 = h t t p : / / 1 0 . 0 . 0 . 1 ,   m e m b e r 2 = h t t p : / / 1 0 . 0 . 0 . 2 ,   a n d   m e m b e r 3 = h t t p : / / 1 0 . 0 . 0 . 3 .   W h e n   m e m b e r 1   f a i l s ,   r e p l a c e   i t   w i t h   m e m b e r 4 = h t t p : / / 1 0 . 0 . 0 . 4 .   G e t   t h e   m e m b e r   I D   o f   t h e   f a i l e d   m e m b e r 1 : e t c d c t l   - - e n d p o i n t s = h t t p : / / 1 0 . 0 . 0 . 2 , h t t p : / / 1 0 . 0 . 0 . 3   m e m b e r   l i s t   T h e   f o l l o w i n g   m e s s a g e   i s   d i s p l a y e d : 8 2 1 1 f 1 d 0 f 6 4 f 3 2 6 9 ,   s t a r t e d ,   m e m b e r 1 ,   h t t p : / / 1 0 . 0 . 0 . 1 : 2 3 8 0 ,   h t t p : / / 1 0 . 0 . 0 . 1 : 2 3 7 9   9 1 b c 3 c 3 9 8 f b 3 c 1 4 6 ,   s t a r t e d ,   m e m b e r 2 ,   h t t p : / / 1 0 . 0 . 0 . 2 : 2 3 8 0 ,   h t t p : / / 1 0 . 0 . 0 . 2 : 2 3 7 9   f d 4 2 2 3 7 9 f d a 5 0 e 4 8 ,   s t a r t e d ,   m e m b e r 3 ,   h t t p : / / 1 0 . 0 . 0 .


Question: What is Backing up an etcd cluster?

Answer: A l l   K u b e r n e t e s   o b j e c t s   a r e   s t o r e d   i n   e t c d .   P e r i o d i c a l l y   b a c k i n g   u p   t h e   e t c d   c l u s t e r   d a t a   i s   i m p o r t a n t   t o   r e c o v e r   K u b e r n e t e s   c l u s t e r s   u n d e r   d i s a s t e r   s c e n a r i o s ,   s u c h   a s   l o s i n g   a l l   c o n t r o l   p l a n e   n o d e s .   T h e   s n a p s h o t   f i l e   c o n t a i n s   a l l   t h e   K u b e r n e t e s   s t a t e   a n d   c r i t i c a l   i n f o r m a t i o n .   I n   o r d e r   t o   k e e p   t h e   s e n s i t i v e   K u b e r n e t e s   d a t a   s a f e ,   e n c r y p t   t h e   s n a p s h o t   f i l e s .   B a c k i n g   u p   a n   e t c d   c l u s t e r   c a n   b e   a c c o m p l i s h e d   i n   t w o   w a y s :   e t c d   b u i l t - i n   s n a p s h o t   a n d   v o l u m e   s n a p s h o t .


Question: What is Built-in snapshot?

Answer: e t c d   s u p p o r t s   b u i l t - i n   s n a p s h o t .   A   s n a p s h o t   m a y   e i t h e r   b e   c r e a t e d   f r o m   a   l i v e   m e m b e r   w i t h   t h e   e t c d c t l   s n a p s h o t   s a v e   c o m m a n d   o r   b y   c o p y i n g   t h e   m e m b e r / s n a p / d b   f i l e   f r o m   a n   e t c d   d a t a   d i r e c t o r y   t h a t   i s   n o t   c u r r e n t l y   u s e d   b y   a n   e t c d   p r o c e s s .   C r e a t i n g   t h e   s n a p s h o t   w i l l   n o t   a f f e c t   t h e   p e r f o r m a n c e   o f   t h e   m e m b e r .   B e l o w   i s   a n   e x a m p l e   f o r   c r e a t i n g   a   s n a p s h o t   o f   t h e   k e y s p a c e   s e r v e d   b y   $ E N D P O I N T   t o   t h e   f i l e   s n a p s h o t . d b :   E T C D C T L _ A P I = 3   e t c d c t l   - - e n d p o i n t s   $ E N D P O I N T   s n a p s h o t   s a v e   s n a p s h o t . d b   V e r i f y   t h e   s n a p s h o t :   T h e   b e l o w   e x a m p l e   d e p i c t s   t h e   u s a g e   o f   t h e   e t c d u t l   t o o l   f o r   v e r i f y i n g   a   s n a p s h o t : e t c d u t l   - - w r i t e - o u t = t a b l e   s n a p s h o t   s t a t u s   s n a p s h o t . d b   T h i s   s h o u l d   g e n e r a t e   a n   o u t p u t   r e s e m b l i n g   t h e   e x a m p l e   p r o v i d e d   b e l o w : + - - - - - - - - - - + - - - - - - - - - - + - - - - - - - - - - - - + - - - - - - - - - - - - +   |   H A S H   |   R E V I S I O N   |   T O T A L   K E Y S   |   T O T A L   S I Z E   |   + - - - - - - - - - - + - - - - - - - - - - + - - - - - - - - - - - - + - - - - - - - - - - - - +   |   f e 0 1 c f 5 7   |   1 0   |   7   |   2 . 1   M B   |   + - - - - - - - - - - + - - - - - - - - - - + - - - - - - - - - - - - + - - - - - - - - - - - - +   T h e   b e l o w   e x a m p l e   d e p i c t s   t h e   u s a g e   o f   t h e   e t c d u t l   t o o l   f o r   v e r i f y i


Question: What is Note:?

Answer: T h e   b e l o w   e x a m p l e   d e p i c t s   t h e   u s a g e   o f   t h e   e t c d c t l   t o o l   f o r   v e r i f y i n g   a   s n a p s h o t :   e x p o r t   E T C D C T L _ A P I = 3   e t c d c t l   - - w r i t e - o u t = t a b l e   s n a p s h o t   s t a t u s   s n a p s h o t . d b   T h i s   s h o u l d   g e n e r a t e   a n   o u t p u t   r e s e m b l i n g   t h e   e x a m p l e   p r o v i d e d   b e l o w :   D e p r e c a t e d :   U s e   ` e t c d u t l   s n a p s h o t   s t a t u s `   i n s t e a d .   + - - - - - - - - - - + - - - - - - - - - - + - - - - - - - - - - - - + - - - - - - - - - - - - +   |   H A S H   |   R E V I S I O N   |   T O T A L   K E Y S   |   T O T A L   S I Z E   |   + - - - - - - - - - - + - - - - - - - - - - + - - - - - - - - - - - - + - - - - - - - - - - - - +   |   f e 0 1 c f 5 7   |   1 0   |   7   |   2 . 1   M B   |   + - - - - - - - - - - + - - - - - - - - - - + - - - - - - - - - - - - + - - - - - - - - - - - - +


Question: What is Volume snapshot?

Answer: I f   e t c d   i s   r u n n i n g   o n   a   s t o r a g e   v o l u m e   t h a t   s u p p o r t s   b a c k u p ,   s u c h   a s   A m a z o n   E l a s t i c   B l o c k   S t o r e ,   b a c k   u p   e t c d   d a t a   b y   c r e a t i n g   a   s n a p s h o t   o f   t h e   s t o r a g e   v o l u m e .


Question: What is Snapshot using etcdctl options?

Answer: W e   c a n   a l s o   c r e a t e   t h e   s n a p s h o t   u s i n g   v a r i o u s   o p t i o n s   g i v e n   b y   e t c d c t l .   F o r   e x a m p l e :   E T C D C T L _ A P I = 3   e t c d c t l   - h   w i l l   l i s t   v a r i o u s   o p t i o n s   a v a i l a b l e   f r o m   e t c d c t l .   F o r   e x a m p l e ,   y o u   c a n   c r e a t e   a   s n a p s h o t   b y   s p e c i f y i n g   t h e   e n d p o i n t ,   c e r t i f i c a t e s   a n d   k e y   a s   s h o w n   b e l o w :   E T C D C T L _ A P I = 3   e t c d c t l   - - e n d p o i n t s = h t t p s : / / 1 2 7 . 0 . 0 . 1 : 2 3 7 9   \   - - c a c e r t = < t r u s t e d - c a - f i l e >   - - c e r t = < c e r t - f i l e >   - - k e y = < k e y - f i l e >   \   s n a p s h o t   s a v e   < b a c k u p - f i l e - l o c a t i o n >   w h e r e   t r u s t e d - c a - f i l e ,   c e r t - f i l e   a n d   k e y - f i l e   c a n   b e   o b t a i n e d   f r o m   t h e   d e s c r i p t i o n   o f   t h e   e t c d   P o d .


Question: What is Scaling out etcd clusters?

Answer: S c a l i n g   o u t   e t c d   c l u s t e r s   i n c r e a s e s   a v a i l a b i l i t y   b y   t r a d i n g   o f f   p e r f o r m a n c e .   S c a l i n g   d o e s   n o t   i n c r e a s e   c l u s t e r   p e r f o r m a n c e   n o r   c a p a b i l i t y .   A   g e n e r a l   r u l e   i s   n o t   t o   s c a l e   o u t   o r   i n   e t c d   c l u s t e r s .   D o   n o t   c o n f i g u r e   a n y   a u t o   s c a l i n g   g r o u p s   f o r   e t c d   c l u s t e r s .   I t   i s   s t r o n g l y   r e c o m m e n d e d   t o   a l w a y s   r u n   a   s t a t i c   f i v e - m e m b e r   e t c d   c l u s t e r   f o r   p r o d u c t i o n   K u b e r n e t e s   c l u s t e r s   a t   a n y   o f f i c i a l l y   s u p p o r t e d   s c a l e .   A   r e a s o n a b l e   s c a l i n g   i s   t o   u p g r a d e   a   t h r e e - m e m b e r   c l u s t e r   t o   a   f i v e - m e m b e r   o n e ,   w h e n   m o r e   r e l i a b i l i t y   i s   d e s i r e d .   S e e   e t c d   r e c o n f i g u r a t i o n   d o c u m e n t a t i o n   f o r   i n f o r m a t i o n   o n   h o w   t o   a d d   m e m b e r s   i n t o   a n   e x i s t i n g   c l u s t e r .


Question: What is Caution:?

Answer: I f   a n y   A P I   s e r v e r s   a r e   r u n n i n g   i n   y o u r   c l u s t e r ,   y o u   s h o u l d   n o t   a t t e m p t   t o   r e s t o r e   i n s t a n c e s   o f   e t c d .   I n s t e a d ,   f o l l o w   t h e s e   s t e p s   t o   r e s t o r e   e t c d :   s t o p   a l l   A P I   s e r v e r   i n s t a n c e s r e s t o r e   s t a t e   i n   a l l   e t c d   i n s t a n c e s r e s t a r t   a l l   A P I   s e r v e r   i n s t a n c e s   T h e   K u b e r n e t e s   p r o j e c t   a l s o   r e c o m m e n d s   r e s t a r t i n g   K u b e r n e t e s   c o m p o n e n t s   ( k u b e - s c h e d u l e r ,   k u b e - c o n t r o l l e r - m a n a g e r ,   k u b e l e t )   t o   e n s u r e   t h a t   t h e y   d o n ' t   r e l y   o n   s o m e   s t a l e   d a t a .   I n   p r a c t i c e   t h e   r e s t o r e   t a k e s   a   b i t   o f   t i m e .   D u r i n g   t h e   r e s t o r a t i o n ,   c r i t i c a l   c o m p o n e n t s   w i l l   l o s e   l e a d e r   l o c k   a n d   r e s t a r t   t h e m s e l v e s .   e t c d   s u p p o r t s   r e s t o r i n g   f r o m   s n a p s h o t s   t h a t   a r e   t a k e n   f r o m   a n   e t c d   p r o c e s s   o f   t h e   m a j o r . m i n o r   v e r s i o n .   R e s t o r i n g   a   v e r s i o n   f r o m   a   d i f f e r e n t   p a t c h   v e r s i o n   o f   e t c d   i s   a l s o   s u p p o r t e d .   A   r e s t o r e   o p e r a t i o n   i s   e m p l o y e d   t o   r e c o v e r   t h e   d a t a   o f   a   f a i l e d   c l u s t e r .   B e f o r e   s t a r t i n g   t h e   r e s t o r e   o p e r a t i o n ,   a   s n a p s h o t   f i l e   m u s t   b e   p r e s e n t .   I t   c a n   e i t h e r   b e   a   s n a p s h o t   f i l e   f r o m   a   p r e v i o u s   b a c k u p   o p e r a t i o n ,   o r   f r o m   a   r e m a i n i n g   d a t a   d i r e c t o r y .   W h e n   r e s t o r i n g   t h e


Question: What is Note:?

Answer: T h e   b e l o w   e x a m p l e   d e p i c t s   t h e   u s a g e   o f   t h e   e t c d c t l   t o o l   f o r   t h e   r e s t o r e   o p e r a t i o n :   e x p o r t   E T C D C T L _ A P I = 3   e t c d c t l   - - d a t a - d i r   < d a t a - d i r - l o c a t i o n >   s n a p s h o t   r e s t o r e   s n a p s h o t . d b   I f   < d a t a - d i r - l o c a t i o n >   i s   t h e   s a m e   f o l d e r   a s   b e f o r e ,   d e l e t e   i t   a n d   s t o p   t h e   e t c d   p r o c e s s   b e f o r e   r e s t o r i n g   t h e   c l u s t e r .   O t h e r w i s e ,   c h a n g e   e t c d   c o n f i g u r a t i o n   a n d   r e s t a r t   t h e   e t c d   p r o c e s s   a f t e r   r e s t o r a t i o n   t o   h a v e   i t   u s e   t h e   n e w   d a t a   d i r e c t o r y :   f i r s t   c h a n g e   / e t c / k u b e r n e t e s / m a n i f e s t s / e t c d . y a m l ' s   v o l u m e s . h o s t P a t h . p a t h   f o r   n a m e :   e t c d - d a t a   t o   < d a t a - d i r - l o c a t i o n > ,   t h e n   e x e c u t e   k u b e c t l   - n   k u b e - s y s t e m   d e l e t e   p o d   < n a m e - o f - e t c d - p o d >   o r   s y s t e m c t l   r e s t a r t   k u b e l e t . s e r v i c e   ( o r   b o t h ) .   F o r   m o r e   i n f o r m a t i o n   a n d   e x a m p l e s   o n   r e s t o r i n g   a   c l u s t e r   f r o m   a   s n a p s h o t   f i l e ,   s e e   e t c d   d i s a s t e r   r e c o v e r y   d o c u m e n t a t i o n .   I f   t h e   a c c e s s   U R L s   o f   t h e   r e s t o r e d   c l u s t e r   a r e   c h a n g e d   f r o m   t h e   p r e v i o u s   c l u s t e r ,   t h e   K u b e r n e t e s   A P I   s e r v e r   m u s t   b e   r e c o n f i g u r e d   a c c o r d i n g l y .   I n   t h i s   c a s e ,   r e s t a r t   K u b e r n e t e s   A P I   s e r v e r s   w i t h   t h e   f l a g   - - e t c d - s e r v e r s = $ N E W _ E T C D _ C L U S T E R


Question: What is Caution:?

Answer: F o r   d e t a i l s   o n   e t c d   u p g r a d e ,   r e f e r   t o   t h e   e t c d   u p g r a d e s   d o c u m e n t a t i o n .


Question: What is Maintaining etcd clusters?

Answer: F o r   m o r e   d e t a i l s   o n   e t c d   m a i n t e n a n c e ,   p l e a s e   r e f e r   t o   t h e   e t c d   m a i n t e n a n c e   d o c u m e n t a t i o n .


Question: What is Cluster defragmentation?

Answer: D e f r a g m e n t a t i o n   i s   a n   e x p e n s i v e   o p e r a t i o n ,   s o   i t   s h o u l d   b e   e x e c u t e d   a s   i n f r e q u e n t l y   a s   p o s s i b l e .   O n   t h e   o t h e r   h a n d ,   i t ' s   a l s o   n e c e s s a r y   t o   m a k e   s u r e   a n y   e t c d   m e m b e r   w i l l   n o t   e x c e e d   t h e   s t o r a g e   q u o t a .   T h e   K u b e r n e t e s   p r o j e c t   r e c o m m e n d s   t h a t   w h e n   y o u   p e r f o r m   d e f r a g m e n t a t i o n ,   y o u   u s e   a   t o o l   s u c h   a s   e t c d - d e f r a g .   Y o u   c a n   a l s o   r u n   t h e   d e f r a g m e n t a t i o n   t o o l   a s   a   K u b e r n e t e s   C r o n J o b ,   t o   m a k e   s u r e   t h a t   d e f r a g m e n t a t i o n   h a p p e n s   r e g u l a r l y .   S e e   e t c d - d e f r a g - c r o n j o b . y a m l   f o r   d e t a i l s .


Question: What is 2.31 - Reserve Compute Resources for System Daemons?

Answer: K u b e r n e t e s   n o d e s   c a n   b e   s c h e d u l e d   t o   C a p a c i t y .   P o d s   c a n   c o n s u m e   a l l   t h e   a v a i l a b l e   c a p a c i t y   o n   a   n o d e   b y   d e f a u l t .   T h i s   i s   a n   i s s u e   b e c a u s e   n o d e s   t y p i c a l l y   r u n   q u i t e   a   f e w   s y s t e m   d a e m o n s   t h a t   p o w e r   t h e   O S   a n d   K u b e r n e t e s   i t s e l f .   U n l e s s   r e s o u r c e s   a r e   s e t   a s i d e   f o r   t h e s e   s y s t e m   d a e m o n s ,   p o d s   a n d   s y s t e m   d a e m o n s   c o m p e t e   f o r   r e s o u r c e s   a n d   l e a d   t o   r e s o u r c e   s t a r v a t i o n   i s s u e s   o n   t h e   n o d e .   T h e   k u b e l e t   e x p o s e s   a   f e a t u r e   n a m e d   ' N o d e   A l l o c a t a b l e '   t h a t   h e l p s   t o   r e s e r v e   c o m p u t e   r e s o u r c e s   f o r   s y s t e m   d a e m o n s .   K u b e r n e t e s   r e c o m m e n d s   c l u s t e r   a d m i n i s t r a t o r s   t o   c o n f i g u r e   ' N o d e   A l l o c a t a b l e '   b a s e d   o n   t h e i r   w o r k l o a d   d e n s i t y   o n   e a c h   n o d e .


Question: What is Before you begin?

Answer: Y o u   n e e d   t o   h a v e   a   K u b e r n e t e s   c l u s t e r ,   a n d   t h e   k u b e c t l   c o m m a n d - l i n e   t o o l   m u s t   b e   c o n f i g u r e d   t o   c o m m u n i c a t e   w i t h   y o u r   c l u s t e r .   I t   i s   r e c o m m e n d e d   t o   r u n   t h i s   t u t o r i a l   o n   a   c l u s t e r   w i t h   a t   l e a s t   t w o   n o d e s   t h a t   a r e   n o t   a c t i n g   a s   c o n t r o l   p l a n e   h o s t s .   I f   y o u   d o   n o t   a l r e a d y   h a v e   a   c l u s t e r ,   y o u   c a n   c r e a t e   o n e   b y   u s i n g   m i n i k u b e   o r   y o u   c a n   u s e   o n e   o f   t h e s e   K u b e r n e t e s   p l a y g r o u n d s :   i x i m i u z   L a b s K i l l e r c o d a K o d e K l o u d P l a y   w i t h   K u b e r n e t e s   Y o u   c a n   c o n f i g u r e   b e l o w   k u b e l e t   c o n f i g u r a t i o n   s e t t i n g s   u s i n g   t h e   k u b e l e t   c o n f i g u r a t i o n   f i l e .


Question: What is Node Allocatable?

Answer: ' A l l o c a t a b l e '   o n   a   K u b e r n e t e s   n o d e   i s   d e f i n e d   a s   t h e   a m o u n t   o f   c o m p u t e   r e s o u r c e s   t h a t   a r e   a v a i l a b l e   f o r   p o d s .   T h e   s c h e d u l e r   d o e s   n o t   o v e r - s u b s c r i b e   ' A l l o c a t a b l e ' .   ' C P U ' ,   ' m e m o r y '   a n d   ' e p h e m e r a l - s t o r a g e '   a r e   s u p p o r t e d   a s   o f   n o w .   N o d e   A l l o c a t a b l e   i s   e x p o s e d   a s   p a r t   o f   v 1 . N o d e   o b j e c t   i n   t h e   A P I   a n d   a s   p a r t   o f   k u b e c t l   d e s c r i b e   n o d e   i n   t h e   C L I .   R e s o u r c e s   c a n   b e   r e s e r v e d   f o r   t w o   c a t e g o r i e s   o f   s y s t e m   d a e m o n s   i n   t h e   k u b e l e t .


Question: What is Enabling QoS and Pod level cgroups?

Answer: T o   p r o p e r l y   e n f o r c e   n o d e   a l l o c a t a b l e   c o n s t r a i n t s   o n   t h e   n o d e ,   y o u   m u s t   e n a b l e   t h e   n e w   c g r o u p   h i e r a r c h y   v i a   t h e   c g r o u p s P e r Q O S   s e t t i n g .   T h i s   s e t t i n g   i s   e n a b l e d   b y   d e f a u l t .   W h e n   e n a b l e d ,   t h e   k u b e l e t   w i l l   p a r e n t   a l l   e n d - u s e r   p o d s   u n d e r   a   c g r o u p   h i e r a r c h y   m a n a g e d   b y   t h e   k u b e l e t .


Question: What is Configuring a cgroup driver?

Answer: T h e   k u b e l e t   s u p p o r t s   m a n i p u l a t i o n   o f   t h e   c g r o u p   h i e r a r c h y   o n   t h e   h o s t   u s i n g   a   c g r o u p   d r i v e r .   T h e   d r i v e r   i s   c o n f i g u r e d   v i a   t h e   c g r o u p D r i v e r   s e t t i n g .   T h e   s u p p o r t e d   v a l u e s   a r e   t h e   f o l l o w i n g :   c g r o u p f s   i s   t h e   d e f a u l t   d r i v e r   t h a t   p e r f o r m s   d i r e c t   m a n i p u l a t i o n   o f   t h e   c g r o u p   f i l e s y s t e m   o n   t h e   h o s t   i n   o r d e r   t o   m a n a g e   c g r o u p   s a n d b o x e s . s y s t e m d   i s   a n   a l t e r n a t i v e   d r i v e r   t h a t   m a n a g e s   c g r o u p   s a n d b o x e s   u s i n g   t r a n s i e n t   s l i c e s   f o r   r e s o u r c e s   t h a t   a r e   s u p p o r t e d   b y   t h a t   i n i t   s y s t e m .   D e p e n d i n g   o n   t h e   c o n f i g u r a t i o n   o f   t h e   a s s o c i a t e d   c o n t a i n e r   r u n t i m e ,   o p e r a t o r s   m a y   h a v e   t o   c h o o s e   a   p a r t i c u l a r   c g r o u p   d r i v e r   t o   e n s u r e   p r o p e r   s y s t e m   b e h a v i o r .   F o r   e x a m p l e ,   i f   o p e r a t o r s   u s e   t h e   s y s t e m d   c g r o u p   d r i v e r   p r o v i d e d   b y   t h e   c o n t a i n e r d   r u n t i m e ,   t h e   k u b e l e t   m u s t   b e   c o n f i g u r e d   t o   u s e   t h e   s y s t e m d   c g r o u p   d r i v e r .


Question: What is Kube Reserved?

Answer: K u b e l e t C o n f i g u r a t i o n   S e t t i n g :   k u b e R e s e r v e d :   { } .   E x a m p l e   v a l u e   { c p u :   1 0 0 m ,   m e m o r y :   1 0 0 M i ,   e p h e m e r a l - s t o r a g e :   1 G i ,   p i d = 1 0 0 0 } K u b e l e t C o n f i g u r a t i o n   S e t t i n g :   k u b e R e s e r v e d C g r o u p :   " "   k u b e R e s e r v e d   i s   m e a n t   t o   c a p t u r e   r e s o u r c e   r e s e r v a t i o n   f o r   k u b e r n e t e s   s y s t e m   d a e m o n s   l i k e   t h e   k u b e l e t ,   c o n t a i n e r   r u n t i m e ,   e t c .   I t   i s   n o t   m e a n t   t o   r e s e r v e   r e s o u r c e s   f o r   s y s t e m   d a e m o n s   t h a t   a r e   r u n   a s   p o d s .   k u b e R e s e r v e d   i s   t y p i c a l l y   a   f u n c t i o n   o f   p o d   d e n s i t y   o n   t h e   n o d e s .   I n   a d d i t i o n   t o   c p u ,   m e m o r y ,   a n d   e p h e m e r a l - s t o r a g e ,   p i d   m a y   b e   s p e c i f i e d   t o   r e s e r v e   t h e   s p e c i f i e d   n u m b e r   o f   p r o c e s s   I D s   f o r   k u b e r n e t e s   s y s t e m   d a e m o n s .   T o   o p t i o n a l l y   e n f o r c e   k u b e R e s e r v e d   o n   k u b e r n e t e s   s y s t e m   d a e m o n s ,   s p e c i f y   t h e   p a r e n t   c o n t r o l   g r o u p   f o r   k u b e   d a e m o n s   a s   t h e   v a l u e   f o r   k u b e R e s e r v e d C g r o u p   s e t t i n g ,   a n d   a d d   k u b e - r e s e r v e d   t o   e n f o r c e N o d e A l l o c a t a b l e .   I t   i s   r e c o m m e n d e d   t h a t   t h e   k u b e r n e t e s   s y s t e m   d a e m o n s   a r e   p l a c e d   u n d e r   a   t o p   l e v e l   c o n t r o l   g r o u p   ( r u n t i m e . s l i c e   o n   s y s t e m d   m a c h i n e s   f o r   e x a m p l e ) .   E a c h   s y s t e m   d a e m o n   s h o u l d   i d e a l l y   r u n   w i t h i n   i t s   o w


Question: What is System Reserved?

Answer: K u b e l e t C o n f i g u r a t i o n   S e t t i n g :   s y s t e m R e s e r v e d :   { } .   E x a m p l e   v a l u e   { c p u :   1 0 0 m ,   m e m o r y :   1 0 0 M i ,   e p h e m e r a l - s t o r a g e :   1 G i ,   p i d = 1 0 0 0 } K u b e l e t C o n f i g u r a t i o n   S e t t i n g :   s y s t e m R e s e r v e d C g r o u p :   " "   s y s t e m R e s e r v e d   i s   m e a n t   t o   c a p t u r e   r e s o u r c e   r e s e r v a t i o n   f o r   O S   s y s t e m   d a e m o n s   l i k e   s s h d ,   u d e v ,   e t c .   s y s t e m R e s e r v e d   s h o u l d   r e s e r v e   m e m o r y   f o r   t h e   k e r n e l   t o o   s i n c e   k e r n e l   m e m o r y   i s   n o t   a c c o u n t e d   t o   p o d s   i n   K u b e r n e t e s   a t   t h i s   t i m e .   R e s e r v i n g   r e s o u r c e s   f o r   u s e r   l o g i n   s e s s i o n s   i s   a l s o   r e c o m m e n d e d   ( u s e r . s l i c e   i n   s y s t e m d   w o r l d ) .   I n   a d d i t i o n   t o   c p u ,   m e m o r y ,   a n d   e p h e m e r a l - s t o r a g e ,   p i d   m a y   b e   s p e c i f i e d   t o   r e s e r v e   t h e   s p e c i f i e d   n u m b e r   o f   p r o c e s s   I D s   f o r   O S   s y s t e m   d a e m o n s .   T o   o p t i o n a l l y   e n f o r c e   s y s t e m R e s e r v e d   o n   s y s t e m   d a e m o n s ,   s p e c i f y   t h e   p a r e n t   c o n t r o l   g r o u p   f o r   O S   s y s t e m   d a e m o n s   a s   t h e   v a l u e   f o r   s y s t e m R e s e r v e d C g r o u p   s e t t i n g ,   a n d   a d d   s y s t e m - r e s e r v e d   t o   e n f o r c e N o d e A l l o c a t a b l e .   I t   i s   r e c o m m e n d e d   t h a t   t h e   O S   s y s t e m   d a e m o n s   a r e   p l a c e d   u n d e r   a   t o p   l e v e l   c o n t r o l   g r o u p   ( s y s t e m . s l i c e   o n   s y s t e m d   m a c h i n e s   f o r   e x a m p l e ) .   N o t e   t h a t


Question: What is Explicitly Reserved CPU List?

Answer: K u b e l e t C o n f i g u r a t i o n   S e t t i n g :   r e s e r v e d S y s t e m C P U s : .   E x a m p l e   v a l u e   0 - 3   r e s e r v e d S y s t e m C P U s   i s   m e a n t   t o   d e f i n e   a n   e x p l i c i t   C P U   s e t   f o r   O S   s y s t e m   d a e m o n s   a n d   k u b e r n e t e s   s y s t e m   d a e m o n s .   r e s e r v e d S y s t e m C P U s   i s   f o r   s y s t e m s   t h a t   d o   n o t   i n t e n d   t o   d e f i n e   s e p a r a t e   t o p   l e v e l   c g r o u p s   f o r   O S   s y s t e m   d a e m o n s   a n d   k u b e r n e t e s   s y s t e m   d a e m o n s   w i t h   r e g a r d   t o   c p u s e t   r e s o u r c e .   I f   t h e   K u b e l e t   d o e s   n o t   h a v e   k u b e R e s e r v e d C g r o u p   a n d   s y s t e m R e s e r v e d C g r o u p ,   t h e   e x p l i c i t   c p u s e t   p r o v i d e d   b y   r e s e r v e d S y s t e m C P U s   w i l l   t a k e   p r e c e d e n c e   o v e r   t h e   C P U s   d e f i n e d   b y   k u b e R e s e r v e d C g r o u p   a n d   s y s t e m R e s e r v e d C g r o u p   o p t i o n s .   T h i s   o p t i o n   i s   s p e c i f i c a l l y   d e s i g n e d   f o r   T e l c o / N F V   u s e   c a s e s   w h e r e   u n c o n t r o l l e d   i n t e r r u p t s / t i m e r s   m a y   i m p a c t   t h e   w o r k l o a d   p e r f o r m a n c e .   y o u   c a n   u s e   t h i s   o p t i o n   t o   d e f i n e   t h e   e x p l i c i t   c p u s e t   f o r   t h e   s y s t e m / k u b e r n e t e s   d a e m o n s   a s   w e l l   a s   t h e   i n t e r r u p t s / t i m e r s ,   s o   t h e   r e s t   C P U s   o n   t h e   s y s t e m   c a n   b e   u s e d   e x c l u s i v e l y   f o r   w o r k l o a d s ,   w i t h   l e s s   i m p a c t   f r o m   u n c o n t r o l l e d   i n t e r r u p t s / t i m e r s .   T o   m o v e   t h e   s y s t e m   d a e m o n ,   k u b e r n e t e s   d a e


Question: What is Eviction Thresholds?

Answer: K u b e l e t C o n f i g u r a t i o n   S e t t i n g :   e v i c t i o n H a r d :   { m e m o r y . a v a i l a b l e :   " 1 0 0 M i " ,   n o d e f s . a v a i l a b l e :   " 1 0 % " ,   n o d e f s . i n o d e s F r e e :   " 5 % " ,   i m a g e f s . a v a i l a b l e :   " 1 5 % " } .   E x a m p l e   v a l u e :   { m e m o r y . a v a i l a b l e :   " < 5 0 0 M i " }   M e m o r y   p r e s s u r e   a t   t h e   n o d e   l e v e l   l e a d s   t o   S y s t e m   O O M s   w h i c h   a f f e c t s   t h e   e n t i r e   n o d e   a n d   a l l   p o d s   r u n n i n g   o n   i t .   N o d e s   c a n   g o   o f f l i n e   t e m p o r a r i l y   u n t i l   m e m o r y   h a s   b e e n   r e c l a i m e d .   T o   a v o i d   ( o r   r e d u c e   t h e   p r o b a b i l i t y   o f )   s y s t e m   O O M s   k u b e l e t   p r o v i d e s   o u t   o f   r e s o u r c e   m a n a g e m e n t .   E v i c t i o n s   a r e   s u p p o r t e d   f o r   m e m o r y   a n d   e p h e m e r a l - s t o r a g e   o n l y .   B y   r e s e r v i n g   s o m e   m e m o r y   v i a   e v i c t i o n H a r d   s e t t i n g ,   t h e   k u b e l e t   a t t e m p t s   t o   e v i c t   p o d s   w h e n e v e r   m e m o r y   a v a i l a b i l i t y   o n   t h e   n o d e   d r o p s   b e l o w   t h e   r e s e r v e d   v a l u e .   H y p o t h e t i c a l l y ,   i f   s y s t e m   d a e m o n s   d i d   n o t   e x i s t   o n   a   n o d e ,   p o d s   c a n n o t   u s e   m o r e   t h a n   c a p a c i t y   -   e v i c t i o n - h a r d .   F o r   t h i s   r e a s o n ,   r e s o u r c e s   r e s e r v e d   f o r   e v i c t i o n s   a r e   n o t   a v a i l a b l e   f o r   p o d s .


Question: What is Enforcing Node Allocatable?

Answer: K u b e l e t C o n f i g u r a t i o n   s e t t i n g :   e n f o r c e N o d e A l l o c a t a b l e :   [ p o d s ] .   E x a m p l e   v a l u e :   [ p o d s , s y s t e m - r e s e r v e d , k u b e - r e s e r v e d ]   T h e   s c h e d u l e r   t r e a t s   ' A l l o c a t a b l e '   a s   t h e   a v a i l a b l e   c a p a c i t y   f o r   p o d s .   k u b e l e t   e n f o r c e   ' A l l o c a t a b l e '   a c r o s s   p o d s   b y   d e f a u l t .   E n f o r c e m e n t   i s   p e r f o r m e d   b y   e v i c t i n g   p o d s   w h e n e v e r   t h e   o v e r a l l   u s a g e   a c r o s s   a l l   p o d s   e x c e e d s   ' A l l o c a t a b l e ' .   M o r e   d e t a i l s   o n   e v i c t i o n   p o l i c y   c a n   b e   f o u n d   o n   t h e   n o d e   p r e s s u r e   e v i c t i o n   p a g e .   T h i s   e n f o r c e m e n t   i s   c o n t r o l l e d   b y   s p e c i f y i n g   p o d s   v a l u e   t o   t h e   K u b e l e t C o n f i g u r a t i o n   s e t t i n g   e n f o r c e N o d e A l l o c a t a b l e .   O p t i o n a l l y ,   k u b e l e t   c a n   b e   m a d e   t o   e n f o r c e   k u b e R e s e r v e d   a n d   s y s t e m R e s e r v e d   b y   s p e c i f y i n g   k u b e - r e s e r v e d   &   s y s t e m - r e s e r v e d   v a l u e s   i n   t h e   s a m e   s e t t i n g .   N o t e   t h a t   t o   e n f o r c e   k u b e R e s e r v e d   o r   s y s t e m R e s e r v e d ,   k u b e R e s e r v e d C g r o u p   o r   s y s t e m R e s e r v e d C g r o u p   n e e d s   t o   b e   s p e c i f i e d   r e s p e c t i v e l y .


Question: What is General Guidelines?

Answer: S y s t e m   d a e m o n s   a r e   e x p e c t e d   t o   b e   t r e a t e d   s i m i l a r   t o   G u a r a n t e e d   p o d s .   S y s t e m   d a e m o n s   c a n   b u r s t   w i t h i n   t h e i r   b o u n d i n g   c o n t r o l   g r o u p s   a n d   t h i s   b e h a v i o r   n e e d s   t o   b e   m a n a g e d   a s   p a r t   o f   k u b e r n e t e s   d e p l o y m e n t s .   F o r   e x a m p l e ,   k u b e l e t   s h o u l d   h a v e   i t s   o w n   c o n t r o l   g r o u p   a n d   s h a r e   k u b e R e s e r v e d   r e s o u r c e s   w i t h   t h e   c o n t a i n e r   r u n t i m e .   H o w e v e r ,   K u b e l e t   c a n n o t   b u r s t   a n d   u s e   u p   a l l   a v a i l a b l e   N o d e   r e s o u r c e s   i f   k u b e R e s e r v e d   i s   e n f o r c e d .   B e   e x t r a   c a r e f u l   w h i l e   e n f o r c i n g   s y s t e m R e s e r v e d   r e s e r v a t i o n   s i n c e   i t   c a n   l e a d   t o   c r i t i c a l   s y s t e m   s e r v i c e s   b e i n g   C P U   s t a r v e d ,   O O M   k i l l e d ,   o r   u n a b l e   t o   f o r k   o n   t h e   n o d e .   T h e   r e c o m m e n d a t i o n   i s   t o   e n f o r c e   s y s t e m R e s e r v e d   o n l y   i f   a   u s e r   h a s   p r o f i l e d   t h e i r   n o d e s   e x h a u s t i v e l y   t o   c o m e   u p   w i t h   p r e c i s e   e s t i m a t e s   a n d   i s   c o n f i d e n t   i n   t h e i r   a b i l i t y   t o   r e c o v e r   i f   a n y   p r o c e s s   i n   t h a t   g r o u p   i s   o o m - k i l l e d .   T o   b e g i n   w i t h   e n f o r c e   ' A l l o c a t a b l e '   o n   p o d s . O n c e   a d e q u a t e   m o n i t o r i n g   a n d   a l e r t i n g   i s   i n   p l a c e   t o   t r a c k   k u b e   s y s t e m   d a e m o n s ,   a t t e m p t   t o   e n f o r c e   k u b e R e s e r v e d   b a s e d   o n   u s a g e   h e u r i s t i c s . I f   a b s


Question: What is Example Scenario?

Answer: H e r e   i s   a n   e x a m p l e   t o   i l l u s t r a t e   N o d e   A l l o c a t a b l e   c o m p u t a t i o n :   N o d e   h a s   3 2 G i   o f   m e m o r y ,   1 6   C P U s   a n d   1 0 0 G i   o f   S t o r a g e k u b e R e s e r v e d   i s   s e t   t o   { c p u :   1 0 0 0 m ,   m e m o r y :   2 G i ,   e p h e m e r a l - s t o r a g e :   1 G i } s y s t e m R e s e r v e d   i s   s e t   t o   { c p u :   5 0 0 m ,   m e m o r y :   1 G i ,   e p h e m e r a l - s t o r a g e :   1 G i } e v i c t i o n H a r d   i s   s e t   t o   { m e m o r y . a v a i l a b l e :   " < 5 0 0 M i " ,   n o d e f s . a v a i l a b l e :   " < 1 0 % " }   U n d e r   t h i s   s c e n a r i o ,   ' A l l o c a t a b l e '   w i l l   b e   1 4 . 5   C P U s ,   2 8 . 5 G i   o f   m e m o r y   a n d   8 8 G i   o f   l o c a l   s t o r a g e .   S c h e d u l e r   e n s u r e s   t h a t   t h e   t o t a l   m e m o r y   r e q u e s t s   a c r o s s   a l l   p o d s   o n   t h i s   n o d e   d o e s   n o t   e x c e e d   2 8 . 5 G i   a n d   s t o r a g e   d o e s n ' t   e x c e e d   8 8 G i .   K u b e l e t   e v i c t s   p o d s   w h e n e v e r   t h e   o v e r a l l   m e m o r y   u s a g e   a c r o s s   p o d s   e x c e e d s   2 8 . 5 G i ,   o r   i f   o v e r a l l   d i s k   u s a g e   e x c e e d s   8 8 G i .   I f   a l l   p r o c e s s e s   o n   t h e   n o d e   c o n s u m e   a s   m u c h   C P U   a s   t h e y   c a n ,   p o d s   t o g e t h e r   c a n n o t   c o n s u m e   m o r e   t h a n   1 4 . 5   C P U s .   I f   k u b e R e s e r v e d   a n d / o r   s y s t e m R e s e r v e d   i s   n o t   e n f o r c e d   a n d   s y s t e m   d a e m o n s   e x c e e d   t h e i r   r e s e r v a t i o n ,   k u b e l e t   e v i c t s   p o d s   w h e n e v e r   t h e   o v e r a l l   n o d e   m e m o r y   u s a g e   i s   h i g h e r   t h a n   3 1 . 5 G i   o r   s t o r a g e   i s   g r


Question: What is 2.32 - Running Kubernetes Node Components as a Non-root User?

Answer: T h i s   d o c u m e n t   d e s c r i b e s   h o w   t o   r u n   K u b e r n e t e s   N o d e   c o m p o n e n t s   s u c h   a s   k u b e l e t ,   C R I ,   O C I ,   a n d   C N I   w i t h o u t   r o o t   p r i v i l e g e s ,   b y   u s i n g   a   u s e r   n a m e s p a c e .   T h i s   t e c h n i q u e   i s   a l s o   k n o w n   a s   r o o t l e s s   m o d e .


Question: What is Note:?

Answer: T h i s   d o c u m e n t   d e s c r i b e s   h o w   t o   r u n   K u b e r n e t e s   N o d e   c o m p o n e n t s   ( a n d   h e n c e   p o d s )   a s   a   n o n - r o o t   u s e r .   I f   y o u   a r e   j u s t   l o o k i n g   f o r   h o w   t o   r u n   a   p o d   a s   a   n o n - r o o t   u s e r ,   s e e   S e c u r i t y C o n t e x t .


Question: What is Before you begin?

Answer: Y o u r   K u b e r n e t e s   s e r v e r   m u s t   b e   a t   o r   l a t e r   t h a n   v e r s i o n   1 . 2 2 .   T o   c h e c k   t h e   v e r s i o n ,   e n t e r   k u b e c t l   v e r s i o n .   E n a b l e   C g r o u p   v 2 E n a b l e   s y s t e m d   w i t h   u s e r   s e s s i o n C o n f i g u r e   s e v e r a l   s y s c t l   v a l u e s ,   d e p e n d i n g   o n   h o s t   L i n u x   d i s t r i b u t i o n E n s u r e   t h a t   y o u r   u n p r i v i l e g e d   u s e r   i s   l i s t e d   i n   / e t c / s u b u i d   a n d   / e t c / s u b g i d E n a b l e   t h e   K u b e l e t I n U s e r N a m e s p a c e   f e a t u r e   g a t e


Question: What is kind?

Answer: k i n d   s u p p o r t s   r u n n i n g   K u b e r n e t e s   i n s i d e   R o o t l e s s   D o c k e r   o r   R o o t l e s s   P o d m a n .   S e e   R u n n i n g   k i n d   w i t h   R o o t l e s s   D o c k e r .


Question: What is minikube?

Answer: m i n i k u b e   a l s o   s u p p o r t s   r u n n i n g   K u b e r n e t e s   i n s i d e   R o o t l e s s   D o c k e r   o r   R o o t l e s s   P o d m a n .   S e e   t h e   M i n i k u b e   d o c u m e n t a t i o n :   R o o t l e s s   D o c k e r R o o t l e s s   P o d m a n


Question: What is sysbox?

Answer: S y s b o x   i s   a n   o p e n - s o u r c e   c o n t a i n e r   r u n t i m e   ( s i m i l a r   t o   " r u n c " )   t h a t   s u p p o r t s   r u n n i n g   s y s t e m - l e v e l   w o r k l o a d s   s u c h   a s   D o c k e r   a n d   K u b e r n e t e s   i n s i d e   u n p r i v i l e g e d   c o n t a i n e r s   i s o l a t e d   w i t h   t h e   L i n u x   u s e r   n a m e s p a c e .   S e e   S y s b o x   Q u i c k   S t a r t   G u i d e :   K u b e r n e t e s - i n - D o c k e r   f o r   m o r e   i n f o .   S y s b o x   s u p p o r t s   r u n n i n g   K u b e r n e t e s   i n s i d e   u n p r i v i l e g e d   c o n t a i n e r s   w i t h o u t   r e q u i r i n g   C g r o u p   v 2   a n d   w i t h o u t   t h e   K u b e l e t I n U s e r N a m e s p a c e   f e a t u r e   g a t e .   I t   d o e s   t h i s   b y   e x p o s i n g   s p e c i a l l y   c r a f t e d   / p r o c   a n d   / s y s   f i l e s y s t e m s   i n s i d e   t h e   c o n t a i n e r   p l u s   s e v e r a l   o t h e r   a d v a n c e d   O S   v i r t u a l i z a t i o n   t e c h n i q u e s .


Question: What is K3s?

Answer: K 3 s   e x p e r i m e n t a l l y   s u p p o r t s   r o o t l e s s   m o d e .   S e e   R u n n i n g   K 3 s   w i t h   R o o t l e s s   m o d e   f o r   t h e   u s a g e .


Question: What is Usernetes?

Answer: U s e r n e t e s   i s   a   r e f e r e n c e   d i s t r i b u t i o n   o f   K u b e r n e t e s   t h a t   c a n   b e   i n s t a l l e d   u n d e r   $ H O M E   d i r e c t o r y   w i t h o u t   t h e   r o o t   p r i v i l e g e .   U s e r n e t e s   s u p p o r t s   b o t h   c o n t a i n e r d   a n d   C R I - O   a s   C R I   r u n t i m e s .   U s e r n e t e s   s u p p o r t s   m u l t i - n o d e   c l u s t e r s   u s i n g   F l a n n e l   ( V X L A N ) .   S e e   t h e   U s e r n e t e s   r e p o   f o r   t h e   u s a g e .


Question: What is Manually deploy a node that runs the kubelet in a user namespace?

Answer: T h i s   s e c t i o n   p r o v i d e s   h i n t s   f o r   r u n n i n g   K u b e r n e t e s   i n   a   u s e r   n a m e s p a c e   m a n u a l l y .


Question: What is Creating a user namespace?

Answer: T h e   f i r s t   s t e p   i s   t o   c r e a t e   a   u s e r   n a m e s p a c e .   I f   y o u   a r e   t r y i n g   t o   r u n   K u b e r n e t e s   i n   a   u s e r - n a m e s p a c e d   c o n t a i n e r   s u c h   a s   R o o t l e s s   D o c k e r / P o d m a n   o r   L X C / L X D ,   y o u   a r e   a l l   s e t ,   a n d   y o u   c a n   g o   t o   t h e   n e x t   s u b s e c t i o n .   O t h e r w i s e   y o u   h a v e   t o   c r e a t e   a   u s e r   n a m e s p a c e   b y   y o u r s e l f ,   b y   c a l l i n g   u n s h a r e ( 2 )   w i t h   C L O N E _ N E W U S E R .   A   u s e r   n a m e s p a c e   c a n   b e   a l s o   u n s h a r e d   b y   u s i n g   c o m m a n d   l i n e   t o o l s   s u c h   a s :   u n s h a r e ( 1 ) R o o t l e s s K i t b e c o m e - r o o t   A f t e r   u n s h a r i n g   t h e   u s e r   n a m e s p a c e ,   y o u   w i l l   a l s o   h a v e   t o   u n s h a r e   o t h e r   n a m e s p a c e s   s u c h   a s   m o u n t   n a m e s p a c e .   Y o u   d o   n o t   n e e d   t o   c a l l   c h r o o t ( )   n o r   p i v o t _ r o o t ( )   a f t e r   u n s h a r i n g   t h e   m o u n t   n a m e s p a c e ,   h o w e v e r ,   y o u   h a v e   t o   m o u n t   w r i t a b l e   f i l e s y s t e m s   o n   s e v e r a l   d i r e c t o r i e s   i n   t h e   n a m e s p a c e .   A t   l e a s t ,   t h e   f o l l o w i n g   d i r e c t o r i e s   n e e d   t o   b e   w r i t a b l e   i n   t h e   n a m e s p a c e   ( n o t   o u t s i d e   t h e   n a m e s p a c e ) :   / e t c / r u n / v a r / l o g s / v a r / l i b / k u b e l e t / v a r / l i b / c n i / v a r / l i b / c o n t a i n e r d   ( f o r   c o n t a i n e r d ) / v a r / l i b / c o n t a i n e r s   ( f o r   C R I - O )


Question: What is Creating a delegated cgroup tree?

Answer: I n   a d d i t i o n   t o   t h e   u s e r   n a m e s p a c e ,   y o u   a l s o   n e e d   t o   h a v e   a   w r i t a b l e   c g r o u p   t r e e   w i t h   c g r o u p   v 2 .


Question: What is Note:?

Answer: I f   y o u   a r e   t r y i n g   t o   r u n   K u b e r n e t e s   i n   R o o t l e s s   D o c k e r / P o d m a n   o r   L X C / L X D   o n   a   s y s t e m d - b a s e d   h o s t ,   y o u   a r e   a l l   s e t .   O t h e r w i s e   y o u   h a v e   t o   c r e a t e   a   s y s t e m d   u n i t   w i t h   D e l e g a t e = y e s   p r o p e r t y   t o   d e l e g a t e   a   c g r o u p   t r e e   w i t h   w r i t a b l e   p e r m i s s i o n .   O n   y o u r   n o d e ,   s y s t e m d   m u s t   a l r e a d y   b e   c o n f i g u r e d   t o   a l l o w   d e l e g a t i o n ;   f o r   m o r e   d e t a i l s ,   s e e   c g r o u p   v 2   i n   t h e   R o o t l e s s   C o n t a i n e r s   d o c u m e n t a t i o n .


Question: What is Configuring network?

Answer: T h e   n e t w o r k   n a m e s p a c e   o f   t h e   N o d e   c o m p o n e n t s   h a s   t o   h a v e   a   n o n - l o o p b a c k   i n t e r f a c e ,   w h i c h   c a n   b e   f o r   e x a m p l e   c o n f i g u r e d   w i t h   s l i r p 4 n e t n s ,   V P N K i t ,   o r   l x c - u s e r - n i c ( 1 ) .   T h e   n e t w o r k   n a m e s p a c e s   o f   t h e   P o d s   c a n   b e   c o n f i g u r e d   w i t h   r e g u l a r   C N I   p l u g i n s .   F o r   m u l t i - n o d e   n e t w o r k i n g ,   F l a n n e l   ( V X L A N ,   8 4 7 2 / U D P )   i s   k n o w n   t o   w o r k .   P o r t s   s u c h   a s   t h e   k u b e l e t   p o r t   ( 1 0 2 5 0 / T C P )   a n d   N o d e P o r t   s e r v i c e   p o r t s   h a v e   t o   b e   e x p o s e d   f r o m   t h e   N o d e   n e t w o r k   n a m e s p a c e   t o   t h e   h o s t   w i t h   a n   e x t e r n a l   p o r t   f o r w a r d e r ,   s u c h   a s   R o o t l e s s K i t ,   s l i r p 4 n e t n s ,   o r   s o c a t ( 1 ) .   Y o u   c a n   u s e   t h e   p o r t   f o r w a r d e r   f r o m   K 3 s .   S e e   R u n n i n g   K 3 s   i n   R o o t l e s s   M o d e   f o r   m o r e   d e t a i l s .   T h e   i m p l e m e n t a t i o n   c a n   b e   f o u n d   i n   t h e   p k g / r o o t l e s s p o r t s   p a c k a g e   o f   k 3 s .


Question: What is Configuring CRI?

Answer: T h e   k u b e l e t   r e l i e s   o n   a   c o n t a i n e r   r u n t i m e .   Y o u   s h o u l d   d e p l o y   a   c o n t a i n e r   r u n t i m e   s u c h   a s   c o n t a i n e r d   o r   C R I - O   a n d   e n s u r e   t h a t   i t   i s   r u n n i n g   w i t h i n   t h e   u s e r   n a m e s p a c e   b e f o r e   t h e   k u b e l e t   s t a r t s .   R u n n i n g   C R I   p l u g i n   o f   c o n t a i n e r d   i n   a   u s e r   n a m e s p a c e   i s   s u p p o r t e d   s i n c e   c o n t a i n e r d   1 . 4 . R u n n i n g   c o n t a i n e r d   w i t h i n   a   u s e r   n a m e s p a c e   r e q u i r e s   t h e   f o l l o w i n g   c o n f i g u r a t i o n s . v e r s i o n   =   2   [ p l u g i n s . " i o . c o n t a i n e r d . g r p c . v 1 . c r i " ]   #   D i s a b l e   A p p A r m o r   d i s a b l e _ a p p a r m o r   =   t r u e   #   I g n o r e   a n   e r r o r   d u r i n g   s e t t i n g   o o m _ s c o r e _ a d j   r e s t r i c t _ o o m _ s c o r e _ a d j   =   t r u e   #   D i s a b l e   h u g e t l b   c g r o u p   v 2   c o n t r o l l e r   ( b e c a u s e   s y s t e m d   d o e s   n o t   s u p p o r t   d e l e g a t i n g   h u g e t l b   c o n t r o l l e r )   d i s a b l e _ h u g e t l b _ c o n t r o l l e r   =   t r u e   [ p l u g i n s . " i o . c o n t a i n e r d . g r p c . v 1 . c r i " . c o n t a i n e r d ]   #   U s i n g   n o n - f u s e   o v e r l a y f s   i s   a l s o   p o s s i b l e   f o r   k e r n e l   > =   5 . 1 1 ,   b u t   r e q u i r e s   S E L i n u x   t o   b e   d i s a b l e d   s n a p s h o t t e r   =   " f u s e - o v e r l a y f s "   [ p l u g i n s . " i o . c o n t a i n e r d . g r p c . v 1 . c r i " . c o n t a i n e r d . r u n t i m e s . r u n c . o p t i o n s ]   #   W e   u s e   c g r o u p f s   t h a t   i s   d e l e g a t e d   b y   s y s t e m d ,   s o   w e   d o   n o t   u s e   S y s t e m d C g r o u p   d r


Question: What is Configuring kubelet?

Answer: R u n n i n g   k u b e l e t   i n   a   u s e r   n a m e s p a c e   r e q u i r e s   t h e   f o l l o w i n g   c o n f i g u r a t i o n :   a p i V e r s i o n :   k u b e l e t . c o n f i g . k 8 s . i o / v 1 b e t a 1   k i n d :   K u b e l e t C o n f i g u r a t i o n   f e a t u r e G a t e s :   K u b e l e t I n U s e r N a m e s p a c e :   t r u e   #   W e   u s e   c g r o u p f s   t h a t   i s   d e l e g a t e d   b y   s y s t e m d ,   s o   w e   d o   n o t   u s e   " s y s t e m d "   d r i v e r   #   ( u n l e s s   y o u   r u n   a n o t h e r   s y s t e m d   i n   t h e   n a m e s p a c e )   c g r o u p D r i v e r :   " c g r o u p f s "   W h e n   t h e   K u b e l e t I n U s e r N a m e s p a c e   f e a t u r e   g a t e   i s   e n a b l e d ,   t h e   k u b e l e t   i g n o r e s   e r r o r s   t h a t   m a y   h a p p e n   d u r i n g   s e t t i n g   t h e   f o l l o w i n g   s y s c t l   v a l u e s   o n   t h e   n o d e .   v m . o v e r c o m m i t _ m e m o r y v m . p a n i c _ o n _ o o m k e r n e l . p a n i c k e r n e l . p a n i c _ o n _ o o p s k e r n e l . k e y s . r o o t _ m a x k e y s k e r n e l . k e y s . r o o t _ m a x b y t e s .   W i t h i n   a   u s e r   n a m e s p a c e ,   t h e   k u b e l e t   a l s o   i g n o r e s   a n y   e r r o r   r a i s e d   f r o m   t r y i n g   t o   o p e n   / d e v / k m s g .   T h i s   f e a t u r e   g a t e   a l s o   a l l o w s   k u b e - p r o x y   t o   i g n o r e   a n   e r r o r   d u r i n g   s e t t i n g   R L I M I T _ N O F I L E .   T h e   K u b e l e t I n U s e r N a m e s p a c e   f e a t u r e   g a t e   w a s   i n t r o d u c e d   i n   K u b e r n e t e s   v 1 . 2 2   w i t h   " a l p h a "   s t a t u s .   R u n n i n g   k u b e l e t   i n   a   u s e r   n a m e s p a c e   w i t h o u t   u s i n g   t h i s   f e a t u r e   g a t e   i s   a l s o   p o s s i b l e   b y   m o u n t i n g


Question: What is Configuring kube-proxy?

Answer: R u n n i n g   k u b e - p r o x y   i n   a   u s e r   n a m e s p a c e   r e q u i r e s   t h e   f o l l o w i n g   c o n f i g u r a t i o n :   a p i V e r s i o n :   k u b e p r o x y . c o n f i g . k 8 s . i o / v 1 a l p h a 1   k i n d :   K u b e P r o x y C o n f i g u r a t i o n   m o d e :   " i p t a b l e s "   #   o r   " u s e r s p a c e "   c o n n t r a c k :   #   S k i p   s e t t i n g   s y s c t l   v a l u e   " n e t . n e t f i l t e r . n f _ c o n n t r a c k _ m a x "   m a x P e r C o r e :   0   #   S k i p   s e t t i n g   " n e t . n e t f i l t e r . n f _ c o n n t r a c k _ t c p _ t i m e o u t _ e s t a b l i s h e d "   t c p E s t a b l i s h e d T i m e o u t :   0 s   #   S k i p   s e t t i n g   " n e t . n e t f i l t e r . n f _ c o n n t r a c k _ t c p _ t i m e o u t _ c l o s e "   t c p C l o s e W a i t T i m e o u t :   0 s


Question: What is Caveats?

Answer: M o s t   o f   " n o n - l o c a l "   v o l u m e   d r i v e r s   s u c h   a s   n f s   a n d   i s c s i   d o   n o t   w o r k .   L o c a l   v o l u m e s   l i k e   l o c a l ,   h o s t P a t h ,   e m p t y D i r ,   c o n f i g M a p ,   s e c r e t ,   a n d   d o w n w a r d A P I   a r e   k n o w n   t o   w o r k . S o m e   C N I   p l u g i n s   m a y   n o t   w o r k .   F l a n n e l   ( V X L A N )   i s   k n o w n   t o   w o r k .   M o s t   o f   " n o n - l o c a l "   v o l u m e   d r i v e r s   s u c h   a s   n f s   a n d   i s c s i   d o   n o t   w o r k .   L o c a l   v o l u m e s   l i k e   l o c a l ,   h o s t P a t h ,   e m p t y D i r ,   c o n f i g M a p ,   s e c r e t ,   a n d   d o w n w a r d A P I   a r e   k n o w n   t o   w o r k .   S o m e   C N I   p l u g i n s   m a y   n o t   w o r k .   F l a n n e l   ( V X L A N )   i s   k n o w n   t o   w o r k .   F o r   m o r e   o n   t h i s ,   s e e   t h e   C a v e a t s   a n d   F u t u r e   w o r k   p a g e   o n   t h e   r o o t l e s s c o n t a i n e . r s   w e b s i t e .


Question: What is See Also?

Answer: r o o t l e s s c o n t a i n e . r s R o o t l e s s   C o n t a i n e r s   2 0 2 0   ( K u b e C o n   N A   2 0 2 0 ) R u n n i n g   k i n d   w i t h   R o o t l e s s   D o c k e r U s e r n e t e s R u n n i n g   K 3 s   w i t h   r o o t l e s s   m o d e K E P - 2 0 3 3 :   K u b e l e t - i n - U s e r N S   ( a k a   R o o t l e s s   m o d e )


Question: What is 2.33 - Safely Drain a Node?

Answer: T h i s   p a g e   s h o w s   h o w   t o   s a f e l y   d r a i n   a   n o d e ,   o p t i o n a l l y   r e s p e c t i n g   t h e   P o d D i s r u p t i o n B u d g e t   y o u   h a v e   d e f i n e d .


Question: What is Before you begin?

Answer: T h i s   t a s k   a s s u m e s   t h a t   y o u   h a v e   m e t   t h e   f o l l o w i n g   p r e r e q u i s i t e s :   Y o u   d o   n o t   r e q u i r e   y o u r   a p p l i c a t i o n s   t o   b e   h i g h l y   a v a i l a b l e   d u r i n g   t h e   n o d e   d r a i n ,   o r Y o u   h a v e   r e a d   a b o u t   t h e   P o d D i s r u p t i o n B u d g e t   c o n c e p t ,   a n d   h a v e   c o n f i g u r e d   P o d D i s r u p t i o n B u d g e t s   f o r   a p p l i c a t i o n s   t h a t   n e e d   t h e m .


Question: What is (Optional) Configure a disruption budget?

Answer: T o   e n s u r e   t h a t   y o u r   w o r k l o a d s   r e m a i n   a v a i l a b l e   d u r i n g   m a i n t e n a n c e ,   y o u   c a n   c o n f i g u r e   a   P o d D i s r u p t i o n B u d g e t .   I f   a v a i l a b i l i t y   i s   i m p o r t a n t   f o r   a n y   a p p l i c a t i o n s   t h a t   r u n   o r   c o u l d   r u n   o n   t h e   n o d e ( s )   t h a t   y o u   a r e   d r a i n i n g ,   c o n f i g u r e   a   P o d D i s r u p t i o n B u d g e t s   f i r s t   a n d   t h e n   c o n t i n u e   f o l l o w i n g   t h i s   g u i d e .   I t   i s   r e c o m m e n d e d   t o   s e t   A l w a y s A l l o w   U n h e a l t h y   P o d   E v i c t i o n   P o l i c y   t o   y o u r   P o d D i s r u p t i o n B u d g e t s   t o   s u p p o r t   e v i c t i o n   o f   m i s b e h a v i n g   a p p l i c a t i o n s   d u r i n g   a   n o d e   d r a i n .   T h e   d e f a u l t   b e h a v i o r   i s   t o   w a i t   f o r   t h e   a p p l i c a t i o n   p o d s   t o   b e c o m e   h e a l t h y   b e f o r e   t h e   d r a i n   c a n   p r o c e e d .


Question: What is Use kubectl drain to remove a node from service?

Answer: Y o u   c a n   u s e   k u b e c t l   d r a i n   t o   s a f e l y   e v i c t   a l l   o f   y o u r   p o d s   f r o m   a   n o d e   b e f o r e   y o u   p e r f o r m   m a i n t e n a n c e   o n   t h e   n o d e   ( e . g .   k e r n e l   u p g r a d e ,   h a r d w a r e   m a i n t e n a n c e ,   e t c . ) .   S a f e   e v i c t i o n s   a l l o w   t h e   p o d ' s   c o n t a i n e r s   t o   g r a c e f u l l y   t e r m i n a t e   a n d   w i l l   r e s p e c t   t h e   P o d D i s r u p t i o n B u d g e t s   y o u   h a v e   s p e c i f i e d .


Question: What is Note:?

Answer: W h e n   k u b e c t l   d r a i n   r e t u r n s   s u c c e s s f u l l y ,   t h a t   i n d i c a t e s   t h a t   a l l   o f   t h e   p o d s   ( e x c e p t   t h e   o n e s   e x c l u d e d   a s   d e s c r i b e d   i n   t h e   p r e v i o u s   p a r a g r a p h )   h a v e   b e e n   s a f e l y   e v i c t e d   ( r e s p e c t i n g   t h e   d e s i r e d   g r a c e f u l   t e r m i n a t i o n   p e r i o d ,   a n d   r e s p e c t i n g   t h e   P o d D i s r u p t i o n B u d g e t   y o u   h a v e   d e f i n e d ) .   I t   i s   t h e n   s a f e   t o   b r i n g   d o w n   t h e   n o d e   b y   p o w e r i n g   d o w n   i t s   p h y s i c a l   m a c h i n e   o r ,   i f   r u n n i n g   o n   a   c l o u d   p l a t f o r m ,   d e l e t i n g   i t s   v i r t u a l   m a c h i n e .


Question: What is Note:?

Answer: I f   a n y   n e w   P o d s   t o l e r a t e   t h e   n o d e . k u b e r n e t e s . i o / u n s c h e d u l a b l e   t a i n t ,   t h e n   t h o s e   P o d s   m i g h t   b e   s c h e d u l e d   t o   t h e   n o d e   y o u   h a v e   d r a i n e d .   A v o i d   t o l e r a t i n g   t h a t   t a i n t   o t h e r   t h a n   f o r   D a e m o n S e t s .   I f   y o u   o r   a n o t h e r   A P I   u s e r   d i r e c t l y   s e t   t h e   n o d e N a m e   f i e l d   f o r   a   P o d   ( b y p a s s i n g   t h e   s c h e d u l e r ) ,   t h e n   t h e   P o d   i s   b o u n d   t o   t h e   s p e c i f i e d   n o d e   a n d   w i l l   r u n   t h e r e ,   e v e n   t h o u g h   y o u   h a v e   d r a i n e d   t h a t   n o d e   a n d   m a r k e d   i t   u n s c h e d u l a b l e .   F i r s t ,   i d e n t i f y   t h e   n a m e   o f   t h e   n o d e   y o u   w i s h   t o   d r a i n .   Y o u   c a n   l i s t   a l l   o f   t h e   n o d e s   i n   y o u r   c l u s t e r   w i t h   k u b e c t l   g e t   n o d e s   N e x t ,   t e l l   K u b e r n e t e s   t o   d r a i n   t h e   n o d e :   k u b e c t l   d r a i n   - - i g n o r e - d a e m o n s e t s   < n o d e   n a m e >   I f   t h e r e   a r e   p o d s   m a n a g e d   b y   a   D a e m o n S e t ,   y o u   w i l l   n e e d   t o   s p e c i f y   - - i g n o r e - d a e m o n s e t s   w i t h   k u b e c t l   t o   s u c c e s s f u l l y   d r a i n   t h e   n o d e .   T h e   k u b e c t l   d r a i n   s u b c o m m a n d   o n   i t s   o w n   d o e s   n o t   a c t u a l l y   d r a i n   a   n o d e   o f   i t s   D a e m o n S e t   p o d s :   t h e   D a e m o n S e t   c o n t r o l l e r   ( p a r t   o f   t h e   c o n t r o l   p l a n e )   i m m e d i a t e l y   r e p l a c e s   m i s s i n g   P o d s   w i t h   n e w   e q u i v a l e n t   P o d s .   T h e   D a e m o n S e t   c o n t r o l l e r   a l s o   c r


Question: What is Draining multiple nodes in parallel?

Answer: T h e   k u b e c t l   d r a i n   c o m m a n d   s h o u l d   o n l y   b e   i s s u e d   t o   a   s i n g l e   n o d e   a t   a   t i m e .   H o w e v e r ,   y o u   c a n   r u n   m u l t i p l e   k u b e c t l   d r a i n   c o m m a n d s   f o r   d i f f e r e n t   n o d e s   i n   p a r a l l e l ,   i n   d i f f e r e n t   t e r m i n a l s   o r   i n   t h e   b a c k g r o u n d .   M u l t i p l e   d r a i n   c o m m a n d s   r u n n i n g   c o n c u r r e n t l y   w i l l   s t i l l   r e s p e c t   t h e   P o d D i s r u p t i o n B u d g e t   y o u   s p e c i f y .   F o r   e x a m p l e ,   i f   y o u   h a v e   a   S t a t e f u l S e t   w i t h   t h r e e   r e p l i c a s   a n d   h a v e   s e t   a   P o d D i s r u p t i o n B u d g e t   f o r   t h a t   s e t   s p e c i f y i n g   m i n A v a i l a b l e :   2 ,   k u b e c t l   d r a i n   o n l y   e v i c t s   a   p o d   f r o m   t h e   S t a t e f u l S e t   i f   a l l   t h r e e   r e p l i c a s   p o d s   a r e   h e a l t h y ;   i f   t h e n   y o u   i s s u e   m u l t i p l e   d r a i n   c o m m a n d s   i n   p a r a l l e l ,   K u b e r n e t e s   r e s p e c t s   t h e   P o d D i s r u p t i o n B u d g e t   a n d   e n s u r e s   t h a t   o n l y   1   ( c a l c u l a t e d   a s   r e p l i c a s   -   m i n A v a i l a b l e )   P o d   i s   u n a v a i l a b l e   a t   a n y   g i v e n   t i m e .   A n y   d r a i n s   t h a t   w o u l d   c a u s e   t h e   n u m b e r   o f   h e a l t h y   r e p l i c a s   t o   f a l l   b e l o w   t h e   s p e c i f i e d   b u d g e t   a r e   b l o c k e d .


Question: What is The Eviction API?

Answer: I f   y o u   p r e f e r   n o t   t o   u s e   k u b e c t l   d r a i n   ( s u c h   a s   t o   a v o i d   c a l l i n g   t o   a n   e x t e r n a l   c o m m a n d ,   o r   t o   g e t   f i n e r   c o n t r o l   o v e r   t h e   p o d   e v i c t i o n   p r o c e s s ) ,   y o u   c a n   a l s o   p r o g r a m m a t i c a l l y   c a u s e   e v i c t i o n s   u s i n g   t h e   e v i c t i o n   A P I .   F o r   m o r e   i n f o r m a t i o n ,   s e e   A P I - i n i t i a t e d   e v i c t i o n .


Question: What is What's next?

Answer: F o l l o w   s t e p s   t o   p r o t e c t   y o u r   a p p l i c a t i o n   b y   c o n f i g u r i n g   a   P o d   D i s r u p t i o n   B u d g e t .


Question: What is 2.34 - Securing a Cluster?

Answer: T h i s   d o c u m e n t   c o v e r s   t o p i c s   r e l a t e d   t o   p r o t e c t i n g   a   c l u s t e r   f r o m   a c c i d e n t a l   o r   m a l i c i o u s   a c c e s s   a n d   p r o v i d e s   r e c o m m e n d a t i o n s   o n   o v e r a l l   s e c u r i t y .


Question: What is Before you begin?

Answer: Y o u   n e e d   t o   h a v e   a   K u b e r n e t e s   c l u s t e r ,   a n d   t h e   k u b e c t l   c o m m a n d - l i n e   t o o l   m u s t   b e   c o n f i g u r e d   t o   c o m m u n i c a t e   w i t h   y o u r   c l u s t e r .   I t   i s   r e c o m m e n d e d   t o   r u n   t h i s   t u t o r i a l   o n   a   c l u s t e r   w i t h   a t   l e a s t   t w o   n o d e s   t h a t   a r e   n o t   a c t i n g   a s   c o n t r o l   p l a n e   h o s t s .   I f   y o u   d o   n o t   a l r e a d y   h a v e   a   c l u s t e r ,   y o u   c a n   c r e a t e   o n e   b y   u s i n g   m i n i k u b e   o r   y o u   c a n   u s e   o n e   o f   t h e s e   K u b e r n e t e s   p l a y g r o u n d s : i x i m i u z   L a b s K i l l e r c o d a K o d e K l o u d P l a y   w i t h   K u b e r n e t e s T o   c h e c k   t h e   v e r s i o n ,   e n t e r   k u b e c t l   v e r s i o n .   Y o u   n e e d   t o   h a v e   a   K u b e r n e t e s   c l u s t e r ,   a n d   t h e   k u b e c t l   c o m m a n d - l i n e   t o o l   m u s t   b e   c o n f i g u r e d   t o   c o m m u n i c a t e   w i t h   y o u r   c l u s t e r .   I t   i s   r e c o m m e n d e d   t o   r u n   t h i s   t u t o r i a l   o n   a   c l u s t e r   w i t h   a t   l e a s t   t w o   n o d e s   t h a t   a r e   n o t   a c t i n g   a s   c o n t r o l   p l a n e   h o s t s .   I f   y o u   d o   n o t   a l r e a d y   h a v e   a   c l u s t e r ,   y o u   c a n   c r e a t e   o n e   b y   u s i n g   m i n i k u b e   o r   y o u   c a n   u s e   o n e   o f   t h e s e   K u b e r n e t e s   p l a y g r o u n d s :   i x i m i u z   L a b s K i l l e r c o d a K o d e K l o u d P l a y   w i t h   K u b e r n e t e s   T o   c h e c k   t h e   v e r s i o n ,   e n t e r   k u b e c t l   v e r s i o n .


Question: What is Controlling access to the Kubernetes API?

Answer: A s   K u b e r n e t e s   i s   e n t i r e l y   A P I - d r i v e n ,   c o n t r o l l i n g   a n d   l i m i t i n g   w h o   c a n   a c c e s s   t h e   c l u s t e r   a n d   w h a t   a c t i o n s   t h e y   a r e   a l l o w e d   t o   p e r f o r m   i s   t h e   f i r s t   l i n e   o f   d e f e n s e .


Question: What is Use Transport Layer Security (TLS) for all API traffic?

Answer: K u b e r n e t e s   e x p e c t s   t h a t   a l l   A P I   c o m m u n i c a t i o n   i n   t h e   c l u s t e r   i s   e n c r y p t e d   b y   d e f a u l t   w i t h   T L S ,   a n d   t h e   m a j o r i t y   o f   i n s t a l l a t i o n   m e t h o d s   w i l l   a l l o w   t h e   n e c e s s a r y   c e r t i f i c a t e s   t o   b e   c r e a t e d   a n d   d i s t r i b u t e d   t o   t h e   c l u s t e r   c o m p o n e n t s .   N o t e   t h a t   s o m e   c o m p o n e n t s   a n d   i n s t a l l a t i o n   m e t h o d s   m a y   e n a b l e   l o c a l   p o r t s   o v e r   H T T P   a n d   a d m i n i s t r a t o r s   s h o u l d   f a m i l i a r i z e   t h e m s e l v e s   w i t h   t h e   s e t t i n g s   o f   e a c h   c o m p o n e n t   t o   i d e n t i f y   p o t e n t i a l l y   u n s e c u r e d   t r a f f i c .


Question: What is API Authentication?

Answer: C h o o s e   a n   a u t h e n t i c a t i o n   m e c h a n i s m   f o r   t h e   A P I   s e r v e r s   t o   u s e   t h a t   m a t c h e s   t h e   c o m m o n   a c c e s s   p a t t e r n s   w h e n   y o u   i n s t a l l   a   c l u s t e r .   F o r   i n s t a n c e ,   s m a l l ,   s i n g l e - u s e r   c l u s t e r s   m a y   w i s h   t o   u s e   a   s i m p l e   c e r t i f i c a t e   o r   s t a t i c   B e a r e r   t o k e n   a p p r o a c h .   L a r g e r   c l u s t e r s   m a y   w i s h   t o   i n t e g r a t e   a n   e x i s t i n g   O I D C   o r   L D A P   s e r v e r   t h a t   a l l o w   u s e r s   t o   b e   s u b d i v i d e d   i n t o   g r o u p s .   A l l   A P I   c l i e n t s   m u s t   b e   a u t h e n t i c a t e d ,   e v e n   t h o s e   t h a t   a r e   p a r t   o f   t h e   i n f r a s t r u c t u r e   l i k e   n o d e s ,   p r o x i e s ,   t h e   s c h e d u l e r ,   a n d   v o l u m e   p l u g i n s .   T h e s e   c l i e n t s   a r e   t y p i c a l l y   s e r v i c e   a c c o u n t s   o r   u s e   x 5 0 9   c l i e n t   c e r t i f i c a t e s ,   a n d   t h e y   a r e   c r e a t e d   a u t o m a t i c a l l y   a t   c l u s t e r   s t a r t u p   o r   a r e   s e t u p   a s   p a r t   o f   t h e   c l u s t e r   i n s t a l l a t i o n .   C o n s u l t   t h e   a u t h e n t i c a t i o n   r e f e r e n c e   d o c u m e n t   f o r   m o r e   i n f o r m a t i o n .


Question: What is API Authorization?

Answer: O n c e   a u t h e n t i c a t e d ,   e v e r y   A P I   c a l l   i s   a l s o   e x p e c t e d   t o   p a s s   a n   a u t h o r i z a t i o n   c h e c k .   K u b e r n e t e s   s h i p s   a n   i n t e g r a t e d   R o l e - B a s e d   A c c e s s   C o n t r o l   ( R B A C )   c o m p o n e n t   t h a t   m a t c h e s   a n   i n c o m i n g   u s e r   o r   g r o u p   t o   a   s e t   o f   p e r m i s s i o n s   b u n d l e d   i n t o   r o l e s .   T h e s e   p e r m i s s i o n s   c o m b i n e   v e r b s   ( g e t ,   c r e a t e ,   d e l e t e )   w i t h   r e s o u r c e s   ( p o d s ,   s e r v i c e s ,   n o d e s )   a n d   c a n   b e   n a m e s p a c e - s c o p e d   o r   c l u s t e r - s c o p e d .   A   s e t   o f   o u t - o f - t h e - b o x   r o l e s   a r e   p r o v i d e d   t h a t   o f f e r   r e a s o n a b l e   d e f a u l t   s e p a r a t i o n   o f   r e s p o n s i b i l i t y   d e p e n d i n g   o n   w h a t   a c t i o n s   a   c l i e n t   m i g h t   w a n t   t o   p e r f o r m .   I t   i s   r e c o m m e n d e d   t h a t   y o u   u s e   t h e   N o d e   a n d   R B A C   a u t h o r i z e r s   t o g e t h e r ,   i n   c o m b i n a t i o n   w i t h   t h e   N o d e R e s t r i c t i o n   a d m i s s i o n   p l u g i n .   A s   w i t h   a u t h e n t i c a t i o n ,   s i m p l e   a n d   b r o a d   r o l e s   m a y   b e   a p p r o p r i a t e   f o r   s m a l l e r   c l u s t e r s ,   b u t   a s   m o r e   u s e r s   i n t e r a c t   w i t h   t h e   c l u s t e r ,   i t   m a y   b e c o m e   n e c e s s a r y   t o   s e p a r a t e   t e a m s   i n t o   s e p a r a t e   n a m e s p a c e s   w i t h   m o r e   l i m i t e d   r o l e s .   W i t h   a u t h o r i z a t i o n ,   i t   i s   i m p o r t a n t   t o   u n d e r s t a n d   h o w   u p d a t e s   o n   o n e   o b j e c t   m a y   c a u s e   a c t i o n s   i n   o t h e r   p l