人工智能成为Kubernetes的下一个主要挑战

人工智能(AI)成为Kubecon + CloudNativeCon欧洲会议的主要主题，因为数据科学团队越来越明显地遇到了云原生应用程序开发人员已经经历过的同样的复杂性挑战。

目前使用的大多数生成式AI平台都是基于Kubernetes集群的。面临的挑战是，这些平台的提供者只有一小群软件工程师来运行它们。

微软首席项目经理Lachlan Evenson表示，对于其他所有人来说，在Kubernetes集群上构建和部署人工智能应用程序还不够容易。他指出，事实上，人工智能工程正在成为一种管理数据科学团队和IT运营团队之间工作流的工作职能，就像DevOps工程师为经常部署和更新应用程序的组织所做的工作一样。

微软正在预览开源Kubernetes AI工具链运营商(KAITO)工具，以帮助组织实现这一目标。

云原生计算基金会(CNCF)执行董事Priyanka Sharma补充说，IT组织已经成功地通过定义工作流程来应对类似的挑战，以确保对IT团队中不同成员所面临的挑战保持同理心。

Red Hat OpenShift产品营销高级总监Chuck Dubuque补充说，组织需要将定义DevOps工作流程的相同原则应用于人工智能应用程序，以最大限度地提高合作。

然而，Kubernetes技术监督委员会仍然需要解决一些技术挑战。

例如，Oracle Cloud Infrastructure (OCI)负责OCI开发者平台的高级副总裁Sudha Raghavan指出，从长远来看，需要有数据科学团队可以使用的模板，而不需要IT运营团队的干预。

她补充说，随着处理器的进步，IT团队也应该能够无缝地转移到新的硬件平台，以确保人工智能推理引擎部署在正确的机器上。此外，来自经过Kubernetes集群优化培训的生成式人工智能平台的数据反馈应使IT团队能够不断优化流程，Raghavan说。

然而，英特尔副总裁兼开放生态系统总经理、云原生计算基金会(CNCF)董事会主席阿伦•古普塔指出，在构建这些模板之前，Kubernetes核心平台需要有一套标准的应用程序编程接口(api)。如今，在Kubernetes上运行AI工作负载的组织已经扩展了平台本身，以适应Kubernetes从未设计运行的一组工作负载。

就在Kubernetes集群上部署AI工作负载而言，现在还处于早期阶段。尽管如此，随着越来越多的组织希望实现人工智能技术的运营，数据科学家被添加到定期结合他们的专业知识来构建和部署任何企业级应用程序的角色组合中只是时间问题。与往常一样，问题是要减少不同文化冲突时产生的不可避免的摩擦。

原文《AI Emerges as Next Major Kubernetes Challenge》