Kubeflow v1.14.1 **镜像

由于国内网络问题，因此对于kubeflow源码安装的过程过于不友好。这里将kubeflow官方源码拉了下来，然后对代码中所有部署用到的的gcr.io镜像进行了阿里云替换。官方源代码地址：https://github.com/kubeflow/manifests.git

这里我没有使用release版本，直接pull的源代码，时间为2022/1/17日。

做国内镜像很辛苦，如果我的工作对你有用，大家都知道该怎么办吧。

安装

环境

kubernetes 1.21.8。这里注意下，我在编译的时候，发现kubeflow大量使用了k8s测试版的API，目前要求k8s版本需要介于[1.17, 1.22)。
kustomize(3.x)，我用的k8s自带的kustomize，不要用4.x的kustomize，官方说有bug。
nvidia驱动，k8s nvidia插件yaml。
存储sc，不管是local还是nfs，都需要提前创建好并指定为默认存储sc。

kustomize安装

按照官方的一键安装或分步安装即可。由于我对每个模块均进行了调试，因此我是用的单步安装。需要提出的是，代码有可能有bug，如在执行过程中，出现

error: unable to recognize "STDIN": no matches for kind "Image" in version "caching.internal.knative.dev/v1alpha1"

这是knative安装过程中出现的bug，根据网上提供的解决方案，执行

kubectl apply -f ./patch/knative_serving_releases_download_v0.17.1_serving-crds.yaml

如出现

error: unable to recognize "STDIN": no matches for kind "CompositeController" in version "metacontroller.k8s.io/v1alpha1"

这个问题是在启动pipeline组件时文件顺序执行太快了，没有等待CRD服务创建好就开始进行引用，把pipeline创建组件的明令再执行一遍。

一键安装命令

while ! kubectl kustomize example | kubectl apply -f -; do echo "Retrying to apply resources"; sleep 10; done

分步安装命令参考官方

补丁

按照官方安装方式，安装好后会出现jupyter启动不起来，PVC无法创建等问题，查看日志会提示认证权限不够，会提示如下错误

Could not find CSRF cookie XSRF-TOKEN in the request. http://xx.xx.x.xxx/jupyter/api/namespaces/kubeflow-user/notebooks

其根本原因是每个component中启用了https认证，但是istio却没有启用https网关。因此解决思路有两种(下面方法二者择其一即可)

关闭每个component中的https认证，尤其是在调试时

此方法有两种方式：

a. 在安装之前，可参考该issue进行修改，关闭每个模块的https鉴权

b. 如果已经启动服务，则可以直接kubectl edit deploy xxx -n kubeflow进行修改，修改后再进行kubectl rollout restart deploy xxx -n kubeflow即可

启用istio https网关（私有化部署适用，公有云需要https证书）

为了直接使用，在此将istio网关设为https。可以参考crud-web-apps 1.3 Could not find CSRF cookie XSRF-TOKEN in the request · Issue #5803 · kubeflow/kubeflow (github.com)

其中，Certificate文件位于./patch/gateways-issuer.yaml，

然后执行下面代码

$ kubectl edit gateway/kubeflow-gateway -n kubeflow

# Please edit the object below. Lines beginning with a '#' will be ignored,
# and an empty file will abort the edit. If an error occurs while saving this file will be
# reopened with the relevant failures.
#
apiVersion: networking.istio.io/v1beta1
kind: Gateway
metadata:
  annotations:
    kubectl.kubernetes.io/last-applied-configuration: |
      {"apiVersion":"networking.istio.io/v1alpha3","kind":"Gateway","metadata":{"annotations":{},"name":"kubeflow-gateway","namespace":"kubeflow"},"spec":{"selector":{"istio":"ingressgateway"},"servers":[{"hosts":["*"],"port":{"name":"http","number":80,"protocol":"HTTP"}}]}}
  creationTimestamp: ""
  generation: 
  name: kubeflow-gateway
  namespace: kubeflow
  resourceVersion: ""
  uid: 
spec:
  selector:
    istio: ingressgateway
  servers:
  - hosts:
    - '*'
    port:
      name: http
      number: 80
      protocol: HTTP
    # Add your codes here, upgrade HTTP to HTTPS
    tls:
      httpsRedirect: true
  - hosts:
    - '*'
    port:
      name: https
      number: 443
      protocol: HTTPS
    tls:
      credentialName: kubeflow-ingressgateway-certs
      mode: SIMPLE

CONTACT

QQ 744483644

dlfld / kubeflow-manifest-mirror

Kubeflow v1.14.1 **镜像

安装

环境

kustomize安装

补丁

CONTACT

About

Languages