Guten Morgen!
Im heutigen Briefing gibt es erneut News zu Meta Muse und Berichte über Performance Upgrades bei Huggingface und Qwen 3.8 LiveTranslate.
Meta öffnet Muse für externe Connectoren, Shopify geht "tiefe Partnerschaft" ein
Meta öffnet Muse für Connectoren, bei denen Entwickler ihre API bereitstellen, während Muse Agent, Browser und Kontext übernimmt. Einreichungen müssen den geplanten Einsatz beschreiben und durchlaufen laut Meta funktionale, sicherheitsbezogene und rechtliche Prüfungen sowie End-to-End-Tests, bevor Nutzer sie installieren können.
Shopify CEO Tobias Lütke tweetet
We are excited to announce we are partnering deeply with Muse to enable agentic checkout with Shop Pay on all Shopify stores, offering people an easy and delightful way to shop and check out with Muse.
Demnach wird eine tiefe Integration des Shopify-internen Zahlungssystems "Shop Pay" direkt in Muse angestrebt, um Nutzern einen leichten Weg zu ermöglichen mit Muse zu shoppen. [1]
SAM 3.1 segmentiert und verfolgt mehrere Objekte gleichzeitig
Metas Segment Anything Model 3.1 soll Objekte in Bildern und Videos anhand von Textprompts erkennen, segmentieren und verfolgen.
SAM 3.1 macht vor allem das Multi-Object-Tracking effizienter: Mehrere Objekte können gleichzeitig verarbeitet werden, wodurch Videos deutlich schneller und mit weniger GPU-Aufwand analysiert werden können.
Über die Meta Model API kostet die Verarbeitung laut Veröffentlichung 2,50 Dollar je 1.000 Bilder beziehungsweise 0,20 Dollar je 1.000 Videoframes. [1]
Qwen verkürzt die Verzögerung bei Live-Übersetzungen
Qwen3.8-LiveTranslate soll die durchschnittliche Übersetzungsverzögerung von 2,8 auf 2,3 Sekunden senken und zugleich die Qualität verbessern. Als weitere Funktionen nennt Qwen 60 Eingabesprachen, Speaker Separation, zweisprachige Quellenausrichtung, Disambiguierung über längere Kontexte und Voice Cloning. [1]
Depth Pruning: Welche Blöcke können weg?
Forscher von Multiverse Computing formulieren Depth Pruning als Constrained Binary Optimization. Das bedeutet: Für jeden Transformer-Block wird binär (ja/nein, 0/1) entschieden, ob er behalten oder entfernt wird. Gleichzeitig gibt es Nebenbedingungen (Constraints), die festlegen, welche Kombinationen erlaubt sind.
Dabei berücksichtigt die Methode auch Wechselwirkungen zwischen den Transformer-Blöcken. Ein Block wird also nicht nur einzeln bewertet, sondern auch danach, wie wichtig er zusammen mit anderen Blöcken ist.
LLMs bestehen bekanntlich aus vielen Transformer-Blöcken und benötigen mitunter dadurch viel Speicher und Rechenleistung. Wenn weniger wichtige Blöcke gezielt entfernt werden, kann das Modell kleiner, schneller und günstiger werden. Das Ziel ist also, den Rechenaufwand deutlich zu reduzieren, ohne dass die Qualität des Modells stark darunter leidet.
Bei einer Kompression von 50 % von Llama-3.3-70B-Instruct erreichte die Methode auf dem MMLU-Benchmark fast 23 Prozentpunkte mehr als das beste vergleichbare Verfahren. [2]
Hugging Face beschleunigt seine Tokenizer-Bibliothek
Die kommende Version 1 der Hugging-Face-Bibliothek tokenizers soll Text je nach Modell und Workload um ein Vielfaches schneller verarbeiten als Version 0.23. Der Release Candidate behält API und Token-IDs bei, optimiert aber unter anderem Byte Pair Encoding, Speicherallokation, das Caching wiederholter Wörter und die parallele Verarbeitung über mehrere CPU-Threads. Das bringt vor allem schnellere Verarbeitung von Anfragen, geringere Latenz und niedrigere Rechenkosten. [3]
Gemini direkt am Mauszeiger, das und mehr kann Googles neues Notebook
Google nimmt sein 899 Dollar teures Googlebook in den Vorverkauf und bringt es am 5. Oktober auch nach Deutschland. Das Android-basierte Notebook integriert Gemini über den Magic Cursor (dt. Magischer Pointer), er aktiviert Gemini direkt an der Stelle, an der man gerade arbeitet, angeblich mit Kontextinformation. Außerdem bietet das Googlebook verbesserte Spracheingabe und generierte Widgets. [4]
|
Zeit für individuelle Insights?Wir sind KI-Experten und haben in und mit mehreren KI-Startups gearbeitet. Für etablierte Unternehmen jeder Größe haben wir KI in bestehende Abläufe integriert. Wir bringen zehn Jahre Erfahrung als Softwareentwickler und Business-Owner mit.
|
Quellen
- Muse connectors 🤖, Meta SAM 3.1 🖼️, Gemini hacks companies 🔓
- Pruning LLMs Like a Physicist: Block Removal as an Ising Optimization Problem
- tokenizers v1: encode, decode and scaling, measured
- Google's $899 Googlebook is a bet that you'll buy a new laptop for Gemini | TechCrunch
- With Tabby, a former accountant is using AI to make accountants obsolete | TechCrunch
- x.com | Tobi Lutke