KI-Glossar: 40 Begriffe verständlich erklärt.

KI-Begriffe von A bis Z

Agent

Ein KI-Agent bearbeitet eine Aufgabe, indem er mithilfe eines Modells nächste Schritte auswählt und Werkzeuge nutzt, etwa eine Bestandsabfrage im ERP. Welche Aktionen erlaubt sind und wann ein Mensch freigeben muss, legt die Anwendung fest.KI-Lösungen für Unternehmen ansehen →

Auftragsverarbeitung

Auftragsverarbeitung liegt vor, wenn ein Dienstleister personenbezogene Daten im Auftrag und nach Weisung Ihres Unternehmens verarbeitet. Nutzt er dieselben Daten zusätzlich für eigene Zwecke, muss seine Rolle für diese Nutzung gesondert bewertet werden.

AVV

Ein Auftragsverarbeitungsvertrag, kurz AVV, regelt die Verarbeitung personenbezogener Daten durch einen Dienstleister nach Artikel 28 DSGVO. Er beschreibt unter anderem Weisungen, Schutzmaßnahmen, Unterauftragnehmer und die Rückgabe oder Löschung der Daten.

Batch

Ein Batch ist ein Stapel von Aufgaben, die gesammelt verarbeitet werden, etwa die Klassifikation eingegangener Dokumente über Nacht. Das kann die Hardware besser auslasten; wer auf eine einzelne Antwort wartet, braucht dagegen eine passende Reaktionszeit.KI-Lösungen für Unternehmen ansehen →

Distillation

Bei Distillation wird ein Modell mit Antworten oder anderen Lernsignalen eines meist leistungsfähigeren Modells trainiert. Das kann ein kleineres Modell für eine klar umrissene Aufgabe brauchbar machen, übernimmt aber weder automatisch alle Fähigkeiten noch nur die richtigen Antworten.

DSGVO-Konformität

DSGVO-Konformität bedeutet, dass der konkrete Umgang mit personenbezogenen Daten die Datenschutz-Grundverordnung erfüllt. Dazu gehören unter anderem Rechtsgrundlage, Zweckbindung, Schutzmaßnahmen und Betroffenenrechte; ein EU-Server oder ein AVV allein genügt nicht.KI-Lösungen für Unternehmen ansehen →

Durchsatz

Der Durchsatz beschreibt, wie viel Arbeit ein KI-System pro Zeiteinheit erledigt, etwa Dokumente pro Minute oder erzeugte Token pro Sekunde. Für die Planung zählt die Leistung unter realistischer Last, einschließlich gleichzeitiger Nutzer und typischer Dokumentlängen.Die passende Infrastruktur planen →

Embedding

Ein Embedding bildet einen Text oder anderen Inhalt als Zahlenvektor ab, damit Software Ähnlichkeiten berechnen kann. So lassen sich verwandte Supportfälle finden, auch wenn unterschiedliche Wörter verwendet werden; Ähnlichkeit beweist allerdings keine sachliche Übereinstimmung.KI-Lösungen für Unternehmen ansehen →

EU AI Act

Der EU AI Act ist die europäische KI-Verordnung und legt Anforderungen abhängig von Einsatz, Risiko und Rolle des Unternehmens fest. Ein Assistent für allgemeine Produktfragen ist anders einzuordnen als ein System zur Bewerberbewertung. Welche Pflichten gelten, muss deshalb am konkreten Anwendungsfall geprüft werden.KI-Lösungen für Unternehmen ansehen →

Extraktion

Extraktion bedeutet, bestimmte Informationen aus einem Inhalt herauszulösen und strukturiert abzulegen, etwa Rechnungsnummer, Betrag und Fälligkeit aus einer Rechnung. Fehlende Angaben sollten als fehlend erscheinen; vor der Übernahme ins ERP helfen Formatprüfungen und fachliche Regeln.KI-Lösungen für Unternehmen ansehen →

Fine-Tuning

Fine-Tuning trainiert ein bereits vorhandenes Modell mit zusätzlichen Beispielen weiter und verändert dabei Modellparameter. Es kann wiederkehrende Aufgaben oder Ausgabeformate verbessern; für häufig wechselnde Firmenunterlagen ist eine angebundene Wissenssuche oft leichter aktuell zu halten.KI-Lösungen für Unternehmen ansehen →

Function Calling

Bei Function Calling erzeugt ein Modell einen strukturierten Vorschlag für einen Funktionsaufruf, etwa „Lieferstatus abfragen“ mit einer Auftragsnummer. Die umgebende Software prüft Berechtigungen und Eingaben, führt den Aufruf aus und gibt das Ergebnis zurück.KI mit bestehenden Systemen verbinden →

GPU/VRAM

Eine GPU ist ein Prozessor für stark parallelisierbare Berechnungen; VRAM bezeichnet ihren eigenen Speicher. Beim KI-Betrieb brauchen unter anderem Modellgewichte und Zwischenergebnisse Platz, weshalb Modellgröße, Kontextlänge und gleichzeitige Anfragen gemeinsam betrachtet werden müssen.Die passende Infrastruktur planen →

Guardrails

Guardrails sind technische und organisatorische Begrenzungen für ein KI-System, etwa Eingabeprüfungen, eingeschränkte Werkzeuge oder Freigabeschritte. Sie verringern Risiken, ersetzen aber keine Zugriffskontrolle und garantieren keine fehlerfreien Antworten.KI-Lösungen für Unternehmen ansehen →

Halluzination

Eine Halluzination ist eine plausibel klingende KI-Ausgabe, die sachlich falsch ist oder keine Grundlage in den verfügbaren Quellen hat. Dazu gehören erfundene Vertragsklauseln ebenso wie falsche Artikelnummern; Quellenbelege und Prüfungen senken das Risiko, beseitigen es aber nicht vollständig.KI-Lösungen für Unternehmen ansehen →

Inferenz

Inferenz ist die Anwendung eines trainierten Modells auf neue Eingaben, beispielsweise das Zusammenfassen einer E-Mail. Dabei werden die Modellgewichte normalerweise nicht verändert; ob ein Dienst die Eingaben speichert oder später zum Training nutzt, ist eine separate Frage.

Klassifikation

Klassifikation ordnet Inhalte vorgegebenen Kategorien zu, etwa E-Mails den Bereichen Vertrieb, Support oder Buchhaltung. Für mehrdeutige Fälle braucht es einen definierten Umgang, zum Beispiel mehrere Kategorien oder die Weitergabe an einen Mitarbeiter.KI-Lösungen für Unternehmen ansehen →

Kontextfenster

Das Kontextfenster begrenzt, wie viele Token ein Modell bei einer Verarbeitung berücksichtigen kann, einschließlich Anweisungen, bereitgestellter Inhalte und modellabhängig der Ausgabe. Ein großes Fenster bietet mehr Platz, garantiert aber nicht, dass jede relevante Stelle zuverlässig berücksichtigt wird.

Latenz

Latenz ist die Wartezeit zwischen einer Anfrage und einer Reaktion des Systems. Bei einem Chat sollten die Zeit bis zum ersten sichtbaren Text und die Zeit bis zur vollständigen Antwort getrennt betrachtet werden.

LLM

LLM steht für Large Language Model, auf Deutsch großes Sprachmodell, und bezeichnet ein Modell, das anhand umfangreicher Trainingsdaten sprachliche Muster gelernt hat. Es kann Texte erzeugen, zusammenfassen und bearbeiten, ist aber keine verlässliche Datenbank für aktuelle Fakten oder Ihr internes Firmenwissen.KI-Lösungen für Unternehmen ansehen →

MCP

Das Model Context Protocol, kurz MCP, ist ein offener Standard, über den KI-Anwendungen auf bereitgestellte Werkzeuge und Datenquellen zugreifen können. Es vereinheitlicht die Anbindung, legt aber nicht von selbst fest, welcher Mitarbeiter welche Daten lesen oder verändern darf.KI mit bestehenden Systemen verbinden →

Multimodal

Multimodal bedeutet, dass ein Modell mehrere Arten von Informationen verarbeiten oder erzeugen kann, etwa Text, Bilder und Audio. Welche Kombinationen tatsächlich unterstützt werden und wie gut sie funktionieren, muss für das jeweilige Modell geprüft werden.

OCR

OCR steht für Optical Character Recognition und macht Schrift aus Scans oder Bildern als maschinenlesbaren Text zugänglich. Schiefe Aufnahmen, Handschrift und schlechte Vorlagen können Fehler verursachen; welche Zahl die Rechnungsnummer ist, klärt erst die anschließende Auswertung.KI-Lösungen für Unternehmen ansehen →

On-Premise

On-Premise bezeichnet den Betrieb einer Anwendung auf Infrastruktur am eigenen Unternehmensstandort. Das ermöglicht unmittelbare Kontrolle vor Ort und erfordert einen geregelten Betrieb; ob es besser passt als Cloud-Betrieb, hängt von Daten, Auslastung und vorhandenen Ressourcen ab.Die passende Infrastruktur planen →

Open-Weight-Modell

Bei einem Open-Weight-Modell sind die trainierten Modellgewichte zugänglich, sodass ein eigener Betrieb unter den jeweiligen Lizenzbedingungen möglich ist. Das bedeutet nicht automatisch Open Source oder uneingeschränkte kommerzielle Nutzung, denn Trainingsdaten, Quellcode und Nutzungsrechte können eingeschränkt sein.KI-Lösungen für Unternehmen ansehen →

Private Cloud

Eine Private Cloud ist eine Cloud-Umgebung, die ausschließlich einer Organisation zur Verfügung steht und intern oder durch einen Dienstleister betrieben werden kann. Entscheidend sind die konkret vereinbarte Isolation, Zugriffsrechte, Betriebsverantwortung und Datenstandorte, nicht allein die Bezeichnung.Die passende Infrastruktur planen →

Prompt

Ein Prompt ist die Eingabe, mit der Sie einem KI-Modell eine Aufgabe und den nötigen Kontext geben. „Fassen Sie die Reklamation in drei Punkten zusammen und nennen Sie fehlende Angaben“ ist überprüfbarer als „Bearbeiten Sie diese E-Mail“.

Quantisierung

Quantisierung stellt Modellgewichte oder andere Rechenwerte mit geringerer Zahlenpräzision dar und reduziert dadurch häufig den Speicherbedarf. Sie kann den Betrieb auf kleinerer Hardware ermöglichen, aber Qualität und Geschwindigkeit müssen mit dem konkreten Modell und Einsatzfall geprüft werden.KI-Lösungen für Unternehmen ansehen →

RAG

RAG steht für Retrieval-Augmented Generation: Vor einer Antwort sucht das System passende Inhalte und gibt sie dem Sprachmodell als Kontext mit. So lassen sich aktuelle Handbücher oder interne Dokumente nutzen, ohne das Modell dafür neu zu trainieren. Die Qualität hängt auch von Suche, Quellenstand und Berechtigungen ab.KI-Lösungen für Unternehmen ansehen →

Reranking

Reranking bewertet bereits gefundene Suchtreffer erneut und bringt sie in eine passendere Reihenfolge zur konkreten Frage. Bei ähnlichen Handbüchern kann dadurch die richtige Passage weiter nach oben rücken, allerdings mit zusätzlichem Rechenaufwand und Wartezeit.KI-Lösungen für Unternehmen ansehen →

Sampling

Sampling bezeichnet die Auswahl des nächsten Tokens aus den vom Modell berechneten Möglichkeiten anhand ihrer Wahrscheinlichkeiten. Verfahren wie Top-k oder Top-p begrenzen die Auswahl; dieselbe Eingabe kann dadurch unterschiedlich formulierte Antworten erzeugen.

Semantische Suche

Semantische Suche findet Inhalte anhand ihrer inhaltlichen Nähe zur Anfrage, auch wenn andere Wörter verwendet werden. So kann „Urlaub übertragen“ eine Regelung zum Resturlaub finden; für exakte Artikelnummern ist häufig eine Kombination mit klassischer Stichwortsuche sinnvoll.KI-Lösungen für Unternehmen ansehen →

Speech-to-Text

Speech-to-Text wandelt gesprochene Sprache in geschriebenen Text um. Bei Telefonaten beeinflussen Nebengeräusche, Dialekte und Fachbegriffe die Erkennung, weshalb Namen, Mengen und Auftragsnummern bei Bedarf bestätigt werden sollten.KI-Lösungen für Unternehmen ansehen →

Systemprompt

Ein Systemprompt gibt einem Sprachmodell übergeordnete Vorgaben für seine Rolle, Arbeitsweise und Antworten innerhalb einer Anwendung. Er kann etwa Quellenangaben verlangen, ist aber kein sicherer Ort für Geheimnisse und ersetzt keine technisch durchgesetzten Berechtigungen.

Temperatur

Die Temperatur beeinflusst beim Sampling, wie stark das Modell wahrscheinliche gegenüber weniger wahrscheinlichen nächsten Token bevorzugt. Niedrigere Werte führen meist zu weniger Variation, sind aber kein Regler für Wahrheit oder eine Garantie identischer Antworten.

Text-to-Speech

Text-to-Speech erzeugt gesprochene Sprache aus Text. Für einen Telefonassistenten zählen neben einer verständlichen Stimme besonders Aussprache, Reaktionszeit und der Umgang mit Unterbrechungen.KI-Lösungen für Unternehmen ansehen →

Token

Token sind die Einheiten, in die ein Sprachmodell Text zerlegt, beispielsweise Wortteile, Satzzeichen oder einzelne Zeichen. Ihre Anzahl beeinflusst Kontextbedarf und Rechenaufwand; ein deutsches Wort kann aus mehreren Token bestehen.

Vektordatenbank

Eine Vektordatenbank speichert Embeddings und ermöglicht die Suche nach ähnlichen Einträgen. Sie kann Teil einer vorhandenen Datenbank oder ein eigener Dienst sein; Dokumentversionen, Löschungen und Zugriffsrechte müssen dabei ebenfalls berücksichtigt werden.KI-Lösungen für Unternehmen ansehen →

Vision-Modell

Ein Vision-Modell verarbeitet Bilder und erkennt darin je nach Aufgabe Objekte, Schrift oder andere Merkmale. Es kann etwa Fotos für die Reklamationsbearbeitung vorsortieren, doch kleine Details, Maße und verdeckte Schäden lassen sich daraus nicht immer zuverlässig beurteilen.

Voice Agent

Ein Voice Agent führt gesprochene Dialoge und kann angebundene Funktionen nutzen, etwa einen Termin prüfen oder eine Rückrufbitte erfassen. Für einen brauchbaren Telefonassistenten müssen Gesprächsführung, Reaktionszeit, Unterbrechungen und die Übergabe an Mitarbeiter zusammen funktionieren.KI-Lösungen für Unternehmen ansehen →