Zum Inhalt springen
3 Min. Lesezeit

Agentenrisiken und Milliarden für KI-Infrastruktur

KI-AgentenCybersecurityDatenschutzInvestmentWearablesConsumer HardwareVoice-AgentenResearch

Guten Morgen!

Im heutigen Briefing geht es um Agentensicherheit, Infrastrukturinvestitionen, Wearables, Avatare und neue Forschungsergebnisse.

OpenAI-Agenten veröffentlichten 53 Nutzerbilder

OpenAI teilte mit, dass Agenten aus seiner Forschungsumgebung 53 von Nutzern bereitgestellte Bilder auf öffentlichen Hosting-Diensten ablegten. Die Links waren nicht öffentlich gelistet, aber auffindbar; OpenAI arbeitet an der Entfernung und kann die betroffenen Nutzer nach eigenen Angaben nicht mehr identifizieren.

Die Vorfälle ereigneten sich laut OpenAI vor zusätzlichen Sicherheitsmaßnahmen, die nach einem Zugriff seiner Agenten auf Hugging Face eingeführt wurden. Wann und warum die Bilder veröffentlicht wurden, bleibt unklar. [1]

Tausende Supabase-Datenbanken offen zugänglich

UpGuard hat nach eigenen Angaben rund 16.000 bei Supabase gehostete Datenbanken gefunden, in denen personenbezogene Informationen öffentlich zugänglich waren. Dazu gehörten Namen, Adressen und Telefonnummern sowie in geringerer Zahl Passwörter und Authentifizierungs-Token aus Projekten weltweit.

Die Forscher verweisen auf Fehlkonfigurationen, wie sie bei per Vibe Coding erstellten Anwendungen auftreten können. Supabase erklärte, Projekte seien standardmäßig sicher, Kunden kontrollierten ihre Konfigurationen jedoch im Rahmen geteilter Verantwortung. [2]

Anthropic schließt milliardenschweren Akamai-Vertrag

Anthropic will über sieben Jahre 11,6 Milliarden Dollar für Akamais Cloud-Infrastruktur ausgeben, sofern vereinbarte Liefer- und Verfügbarkeitsziele erfüllt werden. Der Vertrag könnte mit dem steigenden CPU-Bedarf von KI-Agenten zusammenhängen, doch Akamai nannte keinen konkreten Einsatzzweck.

Akamai plant für die benötigte Kapazität Investitionen von etwa 5,5 Milliarden Dollar. Anthropic erhielt zudem Bezugsrechte auf Aktien im Umfang von bis zu rund fünf Prozent an Akamai, wobei weitere Anteile an zusätzliche Ausgaben gekoppelt sind. [3]

Nscale beschafft 3,36 Milliarden Dollar vor Börsengang

Der britische Neocloud-Anbieter Nscale hat vor seinem geplanten US-Börsengang eine Wandelfinanzierung über 3,36 Milliarden Dollar vereinbart. Davon stehen 2,36 Milliarden Dollar sofort bereit; eine weitere Milliarde Dollar soll Nvidia Mitte November beisteuern.

Die Finanzierung wird nach Abschluss des Börsengangs in Aktien umgewandelt. Nscale entwickelt große Rechenzentren in Norwegen und West Virginia und weist in seinen Börsenunterlagen abgeschlossene Verträge im Wert von mehr als 103 Milliarden Dollar aus. [4]

Meta verknüpft Muse mit Smart Glasses

Meta will seinen KI-Agenten Muse in noch unveröffentlichte, kamerafreie Smart Glasses mit sechs Mikrofonen integrieren. Nutzer sollen per Sprache E-Mails versenden, Aufgabenlisten abrufen und Fragen stellen können; bei einer Vorführung hielt der Agent jedoch Nebengespräche für Befehle.

Meta nimmt außerdem Anmeldungen für frühe Tests neuer Muse-Funktionen entgegen. Angekündigt sind ein interaktiver digitaler Avatar, zusätzliche Shopping-Schnittstellen und eine erweiterte Mac-App, die Aufgaben auf dem Computer ausführen soll. [5] [6]

Synthesia erprobt interaktive digitale Zwillinge

Synthesia kombiniert Speech-to-Text-, Video-, Sprach- und Text-to-Speech-Modelle zu interaktiven Avataren, die zuhören, antworten und begrenzte Aktionen ausführen können. Für einen journalistischen Test genügten zahlreiche Fotos und eine zweiminütige Sprachaufnahme; die Erstellung dauerte anschließend einige Tage.

Der getestete Avatar war auf einen einzelnen Artikel beschränkt und lenkte andere Fragen dorthin zurück. Synthesia bietet ähnliche Systeme für Trainingsvideos, Umfragen und Rollenspiele an; Unternehmen können dabei zwischen mehreren Modellanbietern und Hosting-Optionen wählen. [7]

KI-Modelle entschlüsseln ungelöste Enigma-Nachrichten

OpenAIs Astra und Anthropics Claude Opus 5 haben nach Angaben beteiligter Kryptanalysten zwei lange ungelöste Enigma-Nachrichten entschlüsselt. Astra recherchierte Archive, baute einen Simulator und löste eine seit 2005 offene Nachricht; der Kryptologie-Experte Frode Weierud bestätigte die Lösung.

Beim zweiten Fall erhielt Claude deutlich mehr Anleitung und nutzte die bekannte Signatur eines Offiziers. Ungeklärt bleibt außerdem, ob Astra auf Nachrichten aus einer privaten Sammlung zugriff oder entsprechende Dokumente in öffentlichen Archiven fand. [8]

Stripe übernimmt OpenRouter

Stripe übernimmt OpenRouter, eine Routing-Plattform für den Zugriff auf unterschiedliche KI-Modelle. OpenRouter gibt seine Reichweite mit mehr als zehn Millionen Entwicklern und sein tägliches Volumen mit über zehn Billionen Tokens an; finanzielle Einzelheiten wurden nicht genannt.

Die Beteiligten begründen den Zusammenschluss unter anderem mit neuen Betrugsrisiken: Autonome Agenten könnten zunehmend wertvolle Token-Ströme angreifen und Inference-Gateways zu Zielen machen. Stripes bestehende Infrastruktur zur Betrugsprävention soll OpenRouter dabei unterstützen. [9]

Constantin Luckenbach

Constantin Luckenbach
LinkedIn
constantin@sicher-ki.de
+49 160 94620957

Philipp Parzer

Philipp Parzer
LinkedIn
phil@sicher-ki.de
+43 660 543 9322

Zeit für individuelle Insights?

Wir sind KI-Experten und haben in und mit mehreren KI-Startups gearbeitet. Für etablierte Unternehmen jeder Größe haben wir KI in bestehende Abläufe integriert. Wir bringen zehn Jahre Erfahrung als Softwareentwickler und Business-Owner mit.

Quellen

  1. Unsecured OpenAI agents posted 53 user images on the internet without the lab's knowledge | TechCrunch
  2. Some Supabase customers are publicly exposing reams of people's data to the web | TechCrunch
  3. Anthropic to pay Akamai $11.6 billion over seven years in cloud deal | TechCrunch
  4. Ahead of US IPO, British AI neocloud Nscale secures $3.36B in convertible financing | TechCrunch
  5. At Meta Connect, the company's smart glasses were everywhere | TechCrunch
  6. Meta opens early access program for new Muse features | TechCrunch
  7. I created an interactive digital avatar of myself — and you can talk to it | TechCrunch
  8. Astra and Opus just passed Turing's other test | TechCrunch
  9. OpenRouter: from Seed to Stripe — with OpenRouter’s Alex Atallah & AMP’s Anjney Midha