KI-Glossar: das Wörterbuch für alle KI-Begriffe

Klare Verantwortlichkeiten dafür, wer Risiken, Entscheidungen und Kontrollen eines KI-Systems trägt und nachweisen kann.

Ein KI-System, das eigenständig Aufgaben in mehreren Schritten ausführt und dabei Tools, Datenquellen oder APIs nutzt.

Schutzmaßnahmen wie Regeln, Filter, Freigaben und Sicherheitsprüfungen, die ein KI-System in sicheren Grenzen halten.

Wissen und Fähigkeiten, KI sinnvoll, sicher und risikobewusst einzusetzen.

Ein trainiertes Modell, das aus Eingaben Wahrscheinlichkeiten berechnet und daraus Ausgaben erzeugt.

Gezieltes, kritisches Testen, um Schwächen, Sicherheitslücken, Fehlverhalten oder Diskriminierung vor dem Produktivbetrieb zu finden.

Ein Gesamtsystem aus Software und ggf. Hardware, das aus Eingaben Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen ableitet.

Eine Anwendung, die ein bestehendes KI-Modell in ein nutzbares Produkt mit eigener Oberfläche, Workflows und Funktionen verpackt.

Methoden, um Modellverhalten an menschliche Ziele, Regeln und Sicherheitsanforderungen anzupassen.

Automatisierte Weiterleitung von API-Anfragen an unterschiedliche Anbieter oder Endpoints / andere "Backends" anhand definierter Regeln.

Standardisierter Test, mit dem die Leistung verschiedener KI-Modelle vergleichbar gemessen wird.

Systematische Verzerrung in Daten oder Modellen, die zu unfairen oder fehlerhaften Ergebnissen führen kann.

Tokenisierungsverfahren, das häufig auftretende benachbarte Zeichenfolgen schrittweise zu größeren Einheiten zusammenfasst.

Beispiel:

Ohne Zusammenfassen: ["L", "o", "w", "e", "r"]

Wenn L und o häufig vorkommen kann "Lo" zusammengefasst werden: ["Lo", "w", "e", "r"]

und so weiter

Das Zerlegen großer Inhalte in kleinere Abschnitte, damit sie besser gespeichert, gesucht und ins Kontextfenster geladen werden können.

Verfahren, bei dem ein KI-System den bisherigen Gesprächs- und Arbeitsverlauf zusammenfasst, um Platz im Kontextfenster zu schaffen.

Rechenressourcen wie GPU-Zeit und Infrastruktur, die für Training und Betrieb von KI-Modellen benötigt werden.

Teilgebiet der KI, das Bilder und Videos analysiert, um Objekte, Texte oder Muster automatisch zu erkennen.

Optimierungsproblem mit binären Entscheidungsvariablen, bei dem zusätzliche Bedingungen die zulässigen Lösungen einschränken. Man sucht vereinfacht gesagt die beste Kombination aus Ja/Nein-Entscheidungen, wobei bestimmte Regeln eingehalten werden müssen.

Maximale Menge an Tokens, die ein Modell in einer Anfrage gleichzeitig berücksichtigen kann.

Wenn sich Daten oder die Bedeutung der Zielgröße über die Zeit ändern und Modelle dadurch schlechter werden.

Ein Angriff, bei dem Trainings- oder Wissensdaten absichtlich manipuliert werden, damit das System falsche Ergebnisse liefert.

Eine strukturierte Sammlung von Daten, die zum Trainieren, Testen oder Betreiben eines Modells genutzt wird.

Ein spezialisiertes Modell, das strukturierte Entscheidungen, Klassen oder Wahrscheinlichkeiten statt frei formuliertem Text ausgibt.

KI-generierter oder manipulierter Bild-, Audio- oder Video-Content, der echt wirkt.

Organisation oder Person, die ein KI-System unter eigener Verantwortung einsetzt.

Die Phase, in der ein Modell oder eine Anwendung in eine Live-Umgebung gebracht wird.

Kompressionsverfahren, das vollständige Transformer-Blöcke aus einem Modell entfernt, um Speicherbedarf und Inference-Aufwand zu reduzieren.

Ohne Depth Pruning: Eingabe → Block 1 → Block 2 → Block 3 → … → Block 32 → Ausgabe

Beim Depth Pruning stellt man fest, dass einige Transformer-Blöcke nur wenig zum Ergebnis beitragen und entfernt sie: Eingabe → Block 1 → Block 2 → Block 4 → … → Block 30 → Ausgabe

Ein mathematischer Ansatz, der Privatsphärenrisiken messbar reduziert, indem statistisches Rauschen hinzugefügt wird.

Numerische Vektoren, die Inhalte wie Text semantisch darstellen und so Suche, Clustering und ähnlichkeitsbasierte Vergleiche ermöglichen.

Nachtraining eines Basismodells mit spezifischen Daten, um es auf eine konkrete Aufgabe oder Domäne zu spezialisieren.

Softwareentwickler, der direkt in Kundenprozessen arbeitet, konkrete Probleme löst und Erkenntnisse in die Produktentwicklung zurückführt.

Großes, breit trainiertes Ausgangsmodell, das als Basis für viele spezialisierte KI-Anwendungen dient.

Folgenabschätzung vor dem Einsatz bestimmter Hochrisiko-KI, um betroffene Gruppen, Risiken und Gegenmaßnahmen zu dokumentieren.

Ein allgemein einsetzbares KI-Modell, das sich in viele Anwendungen integrieren lässt.

KI, die neue Inhalte erzeugt statt nur zu klassifizieren oder vorherzusagen.

Grafikprozessor, der durch parallele Verarbeitung besonders effizient für KI-Training und Inference ist.

Geprüfte Referenz-Wahrheit, mit der man Modell-Ausgaben vergleichen und Qualität messen kann.

Antworten auf überprüfbare Quellen und Kontext stützen, damit Ergebnisse genauer und belastbarer werden.

Plausibel klingende, aber inhaltlich falsche oder erfundene Modellantwort ohne verifizierbare Grundlage.

Ein KI-System in sensiblen Einsatzbereichen mit zusätzlichen Pflichten und Kontrollen.

So gestalten, dass Menschen wirksam überwachen und eingreifen können, um Risiken zu verhindern oder zu minimieren.

Einstellungen, die man vor oder während des Trainings festlegt und die beeinflussen, wie das Modell lernt.

Die Ausführungsphase eines trainierten Modells, in der es neue Eingaben verarbeitet und Ergebnisse erzeugt.

Unbeabsichtigtes oder absichtliches Abfließen von Informationen in eine Umgebung, der man nicht vertraut.

Spezielle Form von Prompt Injection, die darauf abzielt, Sicherheitsregeln und Einschränkungen des Modells zu umgehen.

Ein Label markiert, was ein Datenpunkt bedeutet; Data Labeling ist das systematische Vergaben dieser Labels.

Großes Sprachmodell, das auf umfangreichen Textdaten trainiert wurde und Aufgaben in natürlicher Sprache löst.

Die Zeit zwischen Anfrage und Ausgabe.

Praktiken und Prozesse für Betrieb, Monitoring, Updates und Qualitätssicherung von LLM-Anwendungen.

Eine Architektur für KI-Modelle, bei der ein Modell aus mehreren spezialisierten Teilmodellen, sogenannten „Experten“, besteht. Für eine Eingabe werden in der Regel nur einige dieser Experten aktiviert. Dadurch kann ein Modell sehr viele Parameter besitzen, ohne bei jeder Anfrage alle davon berechnen zu müssen. Das kann die Rechenkosten senken und gleichzeitig die Leistungsfähigkeit großer Modelle erhöhen.

Praktiken und Prozesse, die Entwicklung und Betrieb von ML-Systemen verbinden.

Steckbrief und Dokumentation eines Modells: Zweck, Grenzen, Tests, bekannte Risiken und geeignete Nutzung.

Die dauerhafte Beobachtung eines Systems in Produktion, um Qualität, Fehler, Drift und Kosten im Blick zu behalten.

Fähigkeit eines Modells, mehrere Datentypen wie Text, Bild, Audio oder Video gemeinsam zu verarbeiten.

Die Fähigkeit, ein System über Logs, Metriken und Traces so zu instrumentieren, dass man Verhalten und Ursachen verstehen kann.

KI-Modell, dessen trainierte Weights (=Gewichte) zur Nutzung, Prüfung oder Anpassung verfügbar sind. Umfang und Lizenzbedingungen können variieren.

Die Steuerlogik um ein Modell herum, die Tools, Datenfluss, State und Abläufe koordiniert.

Bezeichnet Eingaben, deren statistische Verteilung von den Trainingsdaten abweicht und die Generalisierung eines Modells unter veränderten Bedingungen prüft.

Wenn ein Modell Trainingsdaten auswendig lernt und dadurch bei neuen, echten Fällen schlechter wird.

Wenn Menschen oder Prozesse KI-Antworten zu stark vertrauen und dadurch Fehler oder Schäden übersehen.

Interne Modellwerte, die während des Trainings gelernt werden und das Verhalten des Modells bestimmen.

Informationen, die eine Person direkt oder indirekt identifizierbar machen.

Zusätzliche Trainingsphase nach dem Pre-Training, die ein allgemeines Modell auf bestimmte Aufgaben oder gewünschte Verhaltensweisen ausrichtet.

Erstes Grundtraining für ein allgemeines Modell, das später für konkrete Aufgaben angepasst werden kann.

Die Eingabeanweisung an ein Modell, die Ziel, Kontext und gewünschtes Ausgabeformat vorgibt.

Strukturiertes Entwerfen und Iterieren von Prompts, um zuverlässigere und hochwertigere Ergebnisse zu erzielen.

Angriff, bei dem unzuverlässige Eingaben so platziert werden, dass sie den Prompt übernehmen und das System zu unerwünschtem Verhalten bringen.

Organisation oder Person, die ein KI-System oder GPAI-Modell entwickelt oder unter eigenem Namen in Verkehr bringt.

Ansatz, bei dem ein Modell vor der Antwort relevante externe Informationen abruft und in die Generierung einbezieht.

Prozess, bei dem KI-Systeme zur Entwicklung leistungsfähigerer nachfolgender KI-Systeme beitragen und dadurch den technischen Fortschritt beschleunigen.

Lernen durch Versuch und Feedback, bei dem ein System Handlungen ausprobiert und daraus Belohnung oder Strafe ableitet.

Verhalten eines KI-Systems, das eine Belohnungsfunktion formal maximiert, dabei aber das eigentlich beabsichtigte Ziel umgeht oder verfehlt.

Trainingsverfahren, bei dem menschliches Feedback genutzt wird, um Antworten hilfreicher und sicherer zu machen.

Hardware: ein geschützter, von anderen Systemen abgetrennter = isolierter Bereich, in dem sensible Daten und Berechnungen vom übrigen System abgeschirmt verarbeitet werden.

Lernen, bei dem Labels automatisch aus den Daten abgeleitet werden.

Das Risiko, dass ein LLM sensible Informationen wie interne Daten oder Kundendaten ausgibt.

Automatische Zuordnung einzelner Abschnitte einer Audioaufnahme zu unterschiedlichen, zunächst anonymen Sprechern.

Inference-Verfahren, bei dem ein kleineres Modell Token vorschlägt und das Zielmodell diese parallel überprüft, um die Ausgabe zu beschleunigen.

Lernen mit gelabelten Beispielen, bei dem das Modell Eingabe und richtige Antwort sieht.

Künstlich erzeugte Daten, die relevante Muster realer Daten nachbilden und etwa zum Trainieren oder Testen von KI-Systemen dienen.

Grundregeln und Kontext für den Assistenten, etwa Rolle, Grenzen und Ton.

Modellgewichte mit drei möglichen Werten, typischerweise −1, 0 und +1, die Speicherbedarf und Rechenaufwand reduzieren können.

Kleinste Verarbeitungseinheit eines Sprachmodells, meist Wortteile oder Zeichenfolgen.

Ein Tokenizer zerlegt Text in kleinere Einheiten, sogenannte Tokens, und ordnet jedem Token eine numerische ID zu, die das Sprachmodell verarbeiten kann. Zum Beispiel:

Eingabe: „Ich mag Katzen.“

Tokens: „Ich“ | „mag“ | „Katz“ | „en“ | „.“

Token-IDs: [421, 983, 1521, 87, 13]

Wenn ein Modell strukturierte Aufrufe erzeugt, damit eine Anwendung APIs oder Tools ausführen kann.

Lernphase, in der ein Modell anhand von Daten seine Parameter schrittweise anpasst.

Daten, mit denen ein Modell lernt und seine Parameter so anpasst, dass es die gewünschte Aufgabe besser erfüllt.

Dreiteilung von Daten in Trainings-, Validierungs- und Testdaten für Lernen, Kontrolle und finalen Check.

Modellarchitektur mit Attention-Mechanismus, die die Grundlage moderner Sprachmodelle bildet.

Pflichten rund um Kennzeichnung und Information bei KI-generierten oder synthetischen Inhalten.

KI, die im Einsatzkontext als vertrauenswürdig gilt: zuverlässig, sicher, transparent, erklärbar, fair und datenschutzfreundlich.

Lernen ohne Labels, bei dem das Modell selbst Muster oder Gruppen in Daten entdeckt.

Eine Datenbank für Embeddings, die ähnliche Inhalte über Vektorvergleiche findet.

Suche nach ähnlicher Bedeutung statt nach exakt gleichen Wörtern.

Techniken, die anzeigen sollen, ob Content KI-generiert ist und woher er stammt.

KI-Modell, das räumliche oder physikalische Zusammenhänge einer Umgebung abbildet und mögliche Zustände oder Veränderungen simuliert.

Fähigkeit eines Modells, Aufgaben ohne aufgabenspezifisches Nachtraining nur auf Basis der Anweisung zu lösen.