索尼PlayStation 5原本是为电子游戏设计的主机，但一项开源开发项目正在尝试挖掘这台游戏设备的另一种用途：运行本地人工智能大语言模型。开发者通过破解PS5的系统限制，将开源推理引擎llama.cpp移植到主机上，并进一步利用其GPU运行大模型。最新演示显示，一台破解后的普通PS5已经能够运行拥有270亿参数的Qwen 3.8模型，在采用低比特量化的情况下，文本生成速度达到每秒约20个Token。 阅读全文