arzh-CNenfrdejakoplptesuk
搜索找到4120  社会讨论  tg2 f2 lin2 in2 X 图标 3 y2  p2 TIK steam2

利用华硕 AI Cache Boost 提升 AMD Ryzen 系统性能

大型语言模型 (LLM) 需要大量内存,以至于 AI 爱好者经常使用多 GPU 配置来增加 AI 应用程序的可用显存。然而,由于 LLM 的规模极其庞大,即使是这种方法也存在局限性。在某些情况下,GPU (GPU)将计算转移到中央处理器(CPU),然后 CPU 缓存和随机存取存储器 (DRAM) 的性能就凸显出来了。这意味着,对于 AI 应用的效率而言,不仅 GPU以及整个连接链 GPU с CPU 以及 DRAM 模块。因此,有机会优化这些组件以提高性能。

人工智能增强 1

这正是华硕研发实验室使用最新 AMD Ryzen 处理器进行研究时所证实的。AMD 近期推出了两款搭载 AMD 3D V-Cache 技术的全新 Ryzen 处理器——AMD Ryzen 9 9950X3D 和 AMD Ryzen 9 9900X3D,将 Ryzen 系列提升到了一个新的高度。在广泛测试了各种工作负载下的各种优化后,我们确定了一组能够为 AI 应用带来切实优势的设置。这些研究成果体现在一项新的 BIOS 功能——AI Cache Boost 中。在实际运行大型 LLM 的场景中,AI Cache Boost 可将性能提升高达 12,75%。

适用于采用 AMD 3D V-Cache 技术的 AMD Ryzen 处理器

要启用 AI Cache Boost,您需要华硕 AMD 800 系列主板和 AMD Ryzen 9000 Granite Ridge 处理器。在 UEFI BIOS 中,前往“ Extreme 调整并启用相应的功能 - 系统将准备工作。

AI Cache Boost 功能可实现多项优化,包括将 Infinity Fabric 时钟 (FCLK) 频率超频至 2100 MHz。提高 FCLK 频率至关重要,因为它可以增加核心之间的带宽。 CPU、缓存和内存模块——这对于处理大型 LLM 尤其重要。

对于使用同一系统同时运行 AI 应用程序和游戏的用户,请注意:启用 AI Cache Boost 几乎不会对游戏性能产生任何影响。在不同类型的负载之间切换时,可以保持该功能启用。如果需要,可以在启用后手动将 FCLK 频率降低到更保守的值,以提高游戏稳定性。

AI Cache Boost 带来性能提升

测试配置使用了 ROG Crosshair X870E Hero 主板、NVIDIA GeForce RTX 5090 显卡和 2x16 GB DDR5 内存。测试了多款配备 AMD 3D V-Cache 的处理器:Ryzen 9 9950X3D、9900X3D 和 9800X3D。第一个测试是使用 ONNX DirectML 框架的 Geekbench AI,用于测量性能 GPU.

人工智能增强 2

根据配置不同,性能提升幅度在 4% 到 8% 之间。这对于每天处理 AI 工作负载的用户来说意义重大,尤其是考虑到该功能的易用性。

由于 NVIDIA RTX 50 系列是新上市的,因此对上一代显卡进行了额外的测试 - 特别是 NVIDIA RTX 4090.

在 Geekbench AI 测试中 RTX 4090 激活 AI Cache Boost 后,性能提升高达 7,57%, AMD Ryzen 7 9800X3D,在测试的处理器中取得了最高的成绩。

UL Procyon AI 计算机视觉基准测试也显示出了类似的动态,其中 Ryzen 7 9800X3D 启用该功能后,性能提高了 12,75%。

添加 Turbo 游戏模式

高分 Ryzen 7 9800X3D 测试表明,AMD 3D V-Cache 在某些 AI 场景下比核心数更高的 Ryzen 9 9950X3D 和 9900X3D 更具优势。为了进行更详细的分析,我们在启用 AI Cache Boost 和 Turbo 游戏模式的情况下进行了额外的测试。

人工智能增强 3

华硕 AM5 主板上的 Turbo 游戏模式可以通过两种方式优化系统:

  1. 禁用第二个 CCD(核心复合芯片) - 适用于具有两个 CCD 的处理器。这可以减少未使用所有核心的应用程序的延迟。
  2. 关闭 SMT (同步多线程)——同步多线程。在某些情况下,禁用 SMT 允许提高不需要大量线程的负载的效率。

由于对多线程性能有显著影响,建议仅在必要时启用 Turbo 游戏模式。

启用 AI Cache Boost 和 Turbo 游戏模式后,Ryzen 9 9950X3D 在所有测试选项中实现了最高的性能提升,比基本设置高出 19,85%。

这些结果表明,对于没有利用所有可用流的 AI 应用程序用户来说, CPU结合两种 BIOS 功能非常有益。这两种功能均可在选项卡 Extreme Tweaker BIOS,即使对于经验不足的用户来说也非常方便使用。

华硕与 AI Cache Boost 助力 AI 雄心迈向新高度

AMD 锐龙 9 9950X3D 和 9900X3D 处理器为 PC 爱好者开辟了全新的可能性。它们分别拥有 32 个和 24 个线程,可提供强大的多线程性能,并受益于 AMD 3D V-Cache 技术。

人工智能增强 4

华硕 AMD 800 系列主板通过 BIOS 优化,帮助最大限度地发挥这些处理器的潜力。尤其是 AI Cache Boost,它是一款非常有效的工具,可以提升使用 LLM 的 AI 工作流程的性能。

为了充分利用 AMD 的新处理器,值得查看华硕 AM5 主板的完整系列,从旗舰 X870E 和 X870 到更实惠的 B850 和 B840。