大模型的数智算力东风席卷全球,一些行业已开始基于大模型重构。协同系统在数智未来的操作世界里,ai 无疑将扮演重要角色。数智算力通过与不同基础技术及产品的协同系统结合,ai 将促进各领域技术的操作持续创新,作为核心基础软件的数智算力操作系统也不例外。“崛起数字时代,协同系统引领数智未来。操作”在操作系统大会 & openeuler summit 2023 上,数智算力我们发现面向数智未来,协同系统openeuler 已提前进行布局。操作
一直以来,数智算力openeuler 聚焦根技术的协同系统投入,为千行百业构建坚实的操作软件根基。目前 openeuler 系累计装机量已超过 610 万套,成为首个改变软件操作系统格局的开源操作系统。据 idc 预测,2023 年 openeuler 系在中国服务器操作系统市场份额第一,达到 36.8%。面向数智未来,openeuler 与 ai 全面结合,打造面向数字基础设施全场景操作系统,为更多用户提供技术便捷。
面向智能新时代,openeuler 使能 ai 更高效
在过去的四年里,openeuler 社区快速发展。据开放原子开源基金会 toc 副主席、openeuler 委员会执行总监熊伟回顾,openeuler 社区建立之初,每天活跃的开发者仅两三百人,但如今已汇聚 16800 名开源贡献者,日活用户超 4259 人。开发者在系统特性、创新及漏洞修复方面提供了大量的帮助。此外,openeuler 社区积累超过 1300 的企业和凯发k8网页登录的合作伙伴。
开放原子开源基金会 toc 副主席、openeuler 委员会执行总监熊伟
当诸多的用户和凯发k8网页登录的合作伙伴加入 openeuler 社区,那么未来的 openeuler 将会走向何方呢?在过去,openeuler 有两个技术支柱,全场景和多样性算力。伴随大模型等新技术的不断发展,openeuler 增加第三个技术支柱 —— 智能化,数字 openeuler 将逐步演化为智慧 openeuler,成长为面向多样性算力和智能时代的下一代 os。
智能的边界在持续拓展,作为连接硬件和应用之间的桥梁,操作系统拥抱数智未来,与 ai 结合是一种必然趋势。
openeuler 技术委员会主席胡欣蔚表示,在当前硬件趋势下,有越来越多智能的多样性算力需要做高效协同,也有越来越多泛在智能应用需要快速介入。为了实现这样的愿景,openeuler 希望做到 0 门槛、0 损耗和 0 介入的效果。对于普通用户部署和安装智能应用,帮助用户做到“0”门槛;对于智能应用在多样性算力上运行,操作系统让智能算力“0”损耗;在智能应用日常运维过程中,系统管理员对系统日常工作“0”介入。
因此,openeuler 通过“openeuler for ai”和“ai for openeuler”两点,实现 ai 全栈使能,打造容器化的、开箱即得即用的方案。
“openeuler for ai”是一种对于生态边界的拓展,未来 openeuler 全面增强对于 ai 的契合度,支持更多主流的智能应用和语言大模型,实现智能能力升级。ai 的生态构建并不容易,当下我们可以看到一些 ai 产品、技术生态、基础设施等各自为战,但随着市场的逐渐成熟,ai 全栈使能是未来发展的一种必然结果。
全栈使能将让 openeuler 的用户在未来使用智能应用时,通过 openeuler 提供的容器化方案开箱即用,同时也可以自动适配硬件环境,达到性能最优。openeuler 的全栈使能还包括两层含义。首先是对各类应用、模型、工具、框架的支持优化,如 aquiladb 等向量数据库,llama、chatglm 等业内流行的大模型,cuda、rocm、openvino 等工具链,以及 pytorch、tensorflow 等 ai 框架。此外,由于 ai 硬件的复杂性,openeuler 也针对 ai 硬件亲和等提供了广泛支持,一系列的升级将会极大地提升用户的 ai 开发使用效率。
其次是对于开发者的支持,openeuler 在 ai 可用性、适配性方面不断优化,并对训练及推理推环境的容器化封装、镜像一键拉取等进行了升级,为开发者提供了即得即用的能力,实现 ai 环境部署的“0”门槛。
当前,我们进入多样性算力的时代,软硬件的共同发展给操作系统调度重新设计的空间。通过 cpu 的 smt 架构,给操作系统预先部署任务的机会,而 gpu 也可通过硬件 warp 切换来避免暂停等问题。因此,如何将独立的异构设备汇聚在一起,统一调配资源,解决算力浪费和异构内存编程的复杂性是个重要课题。
在传统意义上,不同的异构算力对于内存的管理是完全割裂的,相互之间也很难形成共享。而“openeuler for ai”的另一个重要价值就是异构融合,其核心思路是将独立的异构设备汇聚在一起,统一调配资源,解决算力浪费严重和异构内存编程复杂两个问题。通过在 openeuler 中引入的异构内核管理,可以在 cpu 和 npu 通过共享页表的方式实现统一编址,使得双方可以互用内存,达成内存“透明”扩容、超分,这样可以提升推理场景吞吐量提升 50%,并极大的简化内存管理的需求成本,以往多套内存接口简化为一套,异构驱动代码也能从万行下降到百行。
大模型与 os 协同成趋势,ai 赋能 openeuler 更智能
从今年的技术发展来看,大模型让更多人看到操作系统新的可能。举例来看,2023 年,微软宣布将 gpt-4 大模型嵌入到 windows 里,实现操作系统从图形交互升级到自然语言交互,这将有望改变沿用近三十年的系统交互方式。windows copilot 将登陆 windows 11 中的任务栏,帮助用户更加轻松的查找和变更设置,避免繁琐选项和操作流程桎梏。
在云上,传统复杂的运维工作也有望被大模型改变。基于大模型实现的云上故障根因分析和消减措施制定表现出色,得到超过 7 成运维人员的认可;在任务协同方面,将软件开放 api 提供给 ai 来控制完成复杂任务,实现超出助手和工具的出色表现,这可以让整体系统价值实现提升。
当大模型、大算力为代表的人工智能创新技术不断发展,ai 持续加速进入千行百业,操作系统也需要不断向 ai 演进。在这一背景下,大模型与 os 协同优化已成趋势,操作系统将出现大变局,数字 openeuler 将演化为智慧 openeuler。
智慧 openeuler 带来了系统交互的变革。例如,开发者在日常工作中,可能会使用各种编程语言,但无论哪种都很难像我们的母语一样自然、便捷。那么,是否有可能通过工具实现自然语言和操作系统交互,进而减轻写脚本、配置参数或者调试等方面的工作强度呢?openeuler 使用 chatglm 基础模型,基于大量 openeuler 的代码和数据,训练出 eulercopilot,初步实现代码辅助生成、问题智能分析、系统辅助运维等功能,让 openeuler 更智能。eulercopilot 将会使得人和机器之间的交互发生巨大变化,而这也是“ai for openeuler”的一项重要改变。
如果说“openeuler for ai”带来了新的生命力,那么“ai for openeuler”注入了新的活力。基于 openeuler 社区已积累的技术,eulercopilot 为用户提供更便捷的人工智能能力和丰富的作业入口,用户可以通过公众号、web 界面、shell、ide 等方式进行互动。eulercopilot 集成 os 领域的海量知识,可以回答开发者的各类专业问题,自动补齐未完成的代码段,甚至能够完成“系统性能诊断”等诉求,并自动生成诊断报告和调优意见。
值得想象的广袤空间
在数智未来里,openeuler 将会作为一个载体,把 ai 的能力不断的输入到服务器、云、边缘计算、嵌入式等多应用场景之中,推动千行百业实现数字化升级。当然,数智未来需要有不一样的基础设施,openeuler 开源社区技术委员会委员吴峰光表示:“在 ai 的时代,社区在迈向智能化协作,我们正在探索用 ai 赋能社区的协作。”openeuler 打造了基础设施 2.0,支持全球化开发,全场景构建,全链路协作,以帮助更多人获取 ai 能力。
此外,openeuler 的重要发展方向是出海和全球化。吴峰光表示,openeuler 建立之初就决定全面全球化,在立足国内做好自主创新之后,就要走向海外汇聚全球开发者,来 openeuler 社区做原生开发。因此,开放原子基金会和很多基金会组织及上游社区项目等形成了连接,互相进行版本认证,互相完成项目工作。这样才能持续汇聚全球开源力量,为世界开源贡献中国智慧。
由于 os 源代码采用了新的架构,因此需要从 spec 转为 yaml,这将会有助于全场景能力构建。yaml 的优点是通用性好且门槛低。这意味着其开发者基础更好,几乎人人会用,可以快速获取群众基础。通用的配置语言,也可以用于打造开箱即用的定制能力,支持任意 yaml 字段定制,适配众多格式的上游软件,而且 os 支持分层定制,通过 eulermaker 和 eulertest 构建面向多场景的软件。
为解决上游软件推广给用户困难以及用户声音传递给上游不畅的问题,openeuler 在基础设施方面通过应用软件平台,打通了从上游到用户的链路,实现了真正意义上的全链路协作。这显然不是 openeuler 的终极形态,预计在 2024 年 5 月,openeuler 还将会发布全新内核的 24.03lts 版本,进一步提升全场景能力。以 linux6.6 作为内核,实现生态统一。打造全新的 eevdf 调度器和 folio 内存管理机制,进一步提升调度和内存使用效率,在 io 管理、新网络标准支持以及对 cxl 的支持上有着全面的提升。
面向不同的使用场景,24.03lts 版本也将提供不同的优化升级。在云计算场景下,通过 cpu 聚合调度,将低负载算力智能聚合,实现负载与算力协同;提供 openeuler 配套的云原生最小集发行版,支持一键部署;在嵌入式场景将发布面向服务器 bmc 的原创开源项目 metabmc,提供原生内置 openeuler 的标准化开发板“openeuler 派”及工业机器人框架“openeuler 臂”。
当然,在 ai 方面,openeuler 还将继续进化。除了 eulercopilot,还将实现操作系统“自优化”的智能调优,这对于开发者而言将提供巨大帮助,在应用运行中通过感知业务特征,动态调整调度优先级、配置参数等优化策略,可实现场景化性能 15% 以上的提升。
极目登高处,有朋远方来。ai 的发展从来不是一家企业、一个社区就能推动的。而 openeuler 将通过成立学习小组、制定新的规格等举措推进行业发展,致力于成为 ai 领域的领导者。当 ai 与 os 互相成就,未来的开发者将有望创造更大的价值,完成更多的技术创新。
广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,it之家所有文章均包含本声明。