Tether launcht QVAC SDK für lokale KI-Anwendungen

Tether launcht QVAC SDK: Open-Source-Toolkit für lokale KI-Anwendungen auf allen Plattformen, unterstützt Text, Sprache, Vision und Übersetzung, mit Peer-to-Peer-Modellverteilung.

Tether hat das QVAC SDK vorgestellt, ein Open-Source-Toolkit, das die lokale Ausführung von KI-Anwendungen auf Geräten wie Smartphones, Laptops, Desktops und Servern ermöglicht. Unterstützt werden die wichtigsten Betriebssysteme, darunter iOS, Android, Windows, macOS und Linux. Das SDK basiert auf QVAC Fabric, einem Fork von llama.cpp, und unterstützt Textgenerierung, Embeddings, multimodale Workloads, Sprachverarbeitung, visuelle Erkennung und Übersetzung. Es integriert spezialisierte Engines wie whisper.cpp, Parakeet und Bergamot, die über eine einheitliche Schnittstelle zugänglich sind. QVAC SDK macht Cloud-Server überflüssig, da KI-Modelle direkt auf den Geräten erstellt, trainiert und bereitgestellt werden können. Über das Holepunch-Protokoll werden Peer-to-Peer-Modellverteilung und delegierte Inferenz ermöglicht. Tether plant Erweiterungen für dezentrales Training, Feinabstimmung und spezialisierte Module für Robotik und Gehirn-Computer-Schnittstellen. Ziel ist es, Privatsphäre zu stärken, Latenz zu reduzieren und KI-Dienste auch bei eingeschränkter Konnektivität bereitzustellen.