发布日期 : 2024/06/04

丽台科技助力 AI 全民化,COMPUTEX 推出多场景液冷 AI系统与 AIDMS


丽台科技(Leadtek)自6月4日起至6月7日于 COMPUTEX 2024 展出一系列液冷 AI 工作站和 AI 服务器,以及 AIDMS(AI 开发管理平台)助力产业 AI 落地,推动 AI 全民化。

过去,AI 似乎是大企业的专利,需要昂贵的设备和专业的技术,但随着生成式 AI和 AIDMS no-code AI 管理平台等工具的亲民化,现在普通人也能轻松运用 AI 技术,创造出无限的可能性。

(图:丽台于 COMPUTEX 展采用液冷技术的AI服务器和工作站)

不同规模 AI 训练适用的液冷系统

在丽台科技展位最显眼的就是采用 D2C 液冷技术的 AI 服务器和工作站。丽台推出的 AI 系统,支持最新的 Intel/AMD 平台、PCIe Gen5,可以搭配从单个到十个的 NVIDIA GPU,可用于不同规模的加速运算和多 GPU 协同合作,包括生成式 AI、大型语言训练、数字孪生以及工业元宇宙等应用领域。

这次曝光的新品 WinFast Mini AI 工作站专为全民 AI 化打造。最高可支持 2 张高端 NVIDIA RTX™ Ada Lovelace GPU,同时提供更高瓦数电源供应器,为下一代 NVIDIA GPU 做好准备。再加上液冷散热技术,能更有效降低 GPU 温度并提供安静的运作环境,适合没有独立大型机房的场景使用。集高效、安静、高弹性于一机,WinFast Mini AI 工作站将会是全民 AI 化的优选 AI 工作站。

(图:丽台 WinFast Mini AI 工作站专为全民 AI 化打造)

WS2050L 则采用 5U 机架式塔式设计,一体式液冷设计无需外接液冷管道,可容纳多达 4 张液冷式 NVIDIA RTX™ GPU,并搭载双 Intel Xeon 第 5 代可扩充处理器,提供高达 128 个处理器核心。部署时可直立于机房或安装于服务器机柜中,达到节省空间、易于维护和提高管理效率的目的。

(图:丽台 WS2050L AI 工作站采用 5U 机架式塔式设计)

(图:丽台 WS2050L AI 工作站为一体式液冷设计)

同场展出的液冷 AI 服务器 GS4850T 为 4U 外型,可安装 10 张双插槽 GPU;搭载 Dual Root 系统,拥有 Peer to Peer 高效率 GPU 间数据传输。支持 PCIe 5.0,提供每秒 128 GB 总带宽。

(图:丽台液冷 AI 服务器 GS4850T 为 4U 外型)

(图:丽台液冷 AI 服务器 GS4850T)

值得一提的是,丽台为 AI 系统提供了兼容性高的 Leadtek RTX AI Software Pack 与 GDMS (GPU Docker Management System) GPU 资源分配与管理系统。让客户在取得硬设备后,无需额外投入时间来选择与调试相关 NVIDIA Library 与 Framework、驱动程序以及 Docker 等环境,即可轻松开始 AI 应用的开发工作与 GPU 资源的分配及管理。

MLOps no-code 平台,AI 落地的最后推手

丽台科技自主研发的 AIDMS(AI开发管理系统),是一个底层专为团队协作而生的 MLOps 管理平台。

在养殖渔界享有盛名的光速点苗(LumiGood)开发团队光速海盗,在丽台展位分享了水产养殖业的 AI 转型之路。在丽台 AIDMS 的帮助下,光速海盗从一开始的毫无头绪到享受 AI 带来的便利,只用了短短 6 个月时间。

光速海盗总监朱禹诺分享道:“台湾养殖渔业世界排名 20,年产值 300 亿,但仍依赖人工点苗交易。面对缺工少子化挑战,我们把这视为转型契机,推出光速点苗 LumiGood APP,以 AI 技术解决视觉精确性、人力短缺以及交易诚信依据等问题,助力养殖业提升竞争力。”

LumiGood 的操作十分方便,只需用手机拍照,即可快速掌握鱼苗数量。而且通过每次的再训练,AI 自主学习让准确度再优化,即使是面对体型不同、颜色不同的鱼苗或是虾苗,都能保持准确度在 97% 以上,成功解决养殖渔业的痛点。

在便民的点苗服务背后,是一间热血的新创公司。光速海盗团队负责人孙伟强补充道:“对新创来说,开发时间攸关胜败,AIDMS 在提升开发速度上超乎我们预期,并有效降低开发成本与难度。在点苗系统的开发中,我们需要训练大量的鱼苗模型,AIDMS 帮助我们将时间缩短至预期的四分之一。另得益于 AIDMS 的 no-code 降低 AI 门坎,刚踏足 AI 开发的团队可以直接跳过繁琐和复杂的 AI 环境设定以及程序撰写时间,成功地训练出适用的模型,并且根据结果进行修正与优化,使开发过程更顺畅。”

(图:光速点苗(LumiGood)开发团队光速海盗通过丽台 AIDMS 进行水产养殖业 AI 转型)

丽台科技于 6/4-6/7 在台北国际计算机展(COMPUTEX 2024)展示了覆盖各种 AI 训练规模的 AI 硬件和 AIDMS 等 AI 管理软件,为各种场景 AI 落地提供强大支持。此外,在丽台的 NVIDIA 认证讲师将于现场助参观者踏出 AI 转型的第一步。想要了解更多丽台的产品和合作机会,欢迎至南港展览馆一馆四楼 M 区,丽台科技展位(展位号码M1001a)与我们深入交流。

(图:丽台科技于 COMPUTEX 展示覆盖各种 AI 训练规模的 AI 硬件和软件)

(图:丽台科技展位号M1001a)