Tether 推出 QVAC SDK:本地 AI 应用无需云端
Tether 推出 QVAC SDK,开源工具包支持 AI 应用多平台本地运行,涵盖文本、语音、视觉和翻译,并支持点对点模型分发及去中心化训练。
Tether 推出了 QVAC SDK,这是一款开源软件开发工具包,旨在让人工智能应用能够在智能手机、笔记本电脑、台式机和服务器等多种设备上本地运行,支持 iOS、Android、Windows、macOS 和 Linux 等主流操作系统。 该 SDK 基于 QVAC Fabric(llama.cpp 的分支)构建,支持文本生成、嵌入、多模态任务、语音处理、视觉识别和翻译。它集成了 whisper.cpp、Parakeet 和 Bergamot 等专用引擎,并通过统一接口访问。 QVAC SDK 允许在本地设备上直接构建、训练和部署 AI 模型,无需云服务器,利用 Holepunch 协议实现点对点模型分发和委托推理。Tether 还计划扩展该工具包,增加去中心化训练、微调以及面向机器人和脑机接口的模块,提升隐私、降低延迟,推动去中心化 AI 基础设施发展。