经15个案例测试,BOMLLM(本地)平均得分8.89,击败Zai(云端)的8.04分。尤其在LINE_QA类别中,本地模型领先高达1.41倍,使机内新闻处理速度和准确性明显优于云端。
为什么本地LLM适合交易新闻阅读
在高波动市场中交易,信息接收速度是最关键的因素。我们发现,依赖云端API进行实时新闻扫描往往存在网络延迟问题,且费用逐日累积增加。在本地运行AI可显著降低整体响应时间,因为无需来回传输数据;同时也解决了数据安全顾虑——我们不必将策略或敏感交易数据发送到其他公司的服务器上存储。在个人数据存储设备上安装小型但高效的模型,正成为追求速度和隐私的交易者越来越有吸引力的选择。
BOMLLM与Zai新闻分析对比结果
我们使用从重要新闻中精选的15个案例数据集(n_cases)对系统进行了系统性测试。结果显示,本地模型BOMLLM平均得分为8.89,高于竞争对手Zai的8.04分,比值为1.1,可自信地判定为通过(PASS)。令人印象深刻的是,在LINE_QA类别中——该类别测试10轮对话上下文理解能力——BOMLLM平均得分8.93,远超Zai的6.33分,比值高达1.41,系统判定为"Thai_verdict: 通过"。这清楚地表明,在某些情况下,该本地模型对新闻语境和泰语的理解优于一般云端系统。
在我们机器上的实际测试
团队进行了大量测试运行,以验证在配备48GB RAM的Mac mini M4(Mac16,11)上的实际性能,通过SSH进行远程控制。根据实际运行结果,我们记录到首轮平均比值为0.80,次轮为0.84,均属于良好可用范围。系统每次可处理平均(avg_toks)68.7和25.3个令牌,每次处理平均耗时(avg_wall_s)约6.8至12.5秒。我们用于模型选择决策的指令是"qwen wins or ties",这促使我们决定停用Typhoon模型,释放18GB内存空间,并改用32k上下文深度,从而在不影响机器整体速度的情况下,提升了处理的精细度和历史数据关联能力。
安全性与风险数据过滤
除性能外,使用安全性对交易者同样重要。在BOMLLM的15个案例测试中,我们发现存在安全顾虑的案例数(bomllm_safety_concern_cases)为0,这意味着模型在所有测试案例中均未生成有使用风险或内容不当的回答。本地模型无需依赖云服务提供商的安全层即可有效过滤数据,这让我们确信导入分析的新闻数据不会被自动审查,也不会被记录用于我们自身交易之外的其他用途。这是将本地AI投入实际使用的又一明显优势。
资源管理与故障的经验教训
在初期阶段
如需现成的黄金分析工具,可访问我们的系统 cafefx.ai。想尝试真实黄金交易的人,可通过我们的合作伙伴开设XM账户。