Was ist ein KI-Plattform-Architekt? Modelle, Daten, Laufzeitumgebung, Sicherheit und Betrieb

Ein KI-Plattform-Architekt entwirft wiederverwendbare KI-Grundlagen über Modelle, Anbieter, Retrieval, Agenten, Identität, Sicherheit, Evaluierung, Observability und Betrieb hinweg.
Veröffentlicht:
Aleksandar Stajić
Aktualisiert: 8. Oktober 2026 um 18:47
Was ist ein KI-Plattform-Architekt? Modelle, Daten, Laufzeitumgebung, Sicherheit und Betrieb

Ein AI Platform Architect entwirft das wiederverwendbare KI-Fundament, über das mehrere Anwendungen, Teams oder Mandantenkontexte auf Modelle, Daten und Retrieval, Agenten- und Tool-Runtimes, Identität und Berechtigungen, Evaluierung, Observability, Quotas, Secrets und Deployment-Fähigkeiten zugreifen. Die Rolle ist breiter als Infrastruktur, aber enger als das Eigentum an jedem KI-fähigen Produkt: Ihre zentrale Verantwortung besteht darin, zu entscheiden, was geteilt werden sollte, wie geteilte Fähigkeiten gesteuert und isoliert werden und was lösungsspezifisch bleiben muss.

Was architektiert ein AI Platform Architect tatsächlich?

Der Gegenstand der Arbeit ist die Plattform: eine Reihe gemeinsamer Fähigkeiten, die wiederholte Integrationsarbeit reduziert und dabei explizite Sicherheits-, Daten- und Betriebsgrenzen wahrt. Eine Plattform kann Modellzugriff, Anbieteradapter, Retrieval-Primitive, Agentenausführung, Tool-Broker, Richtliniendurchsetzung, Evaluierung, Telemetrie und Deployment-Dienste für viele konsumierende Lösungen bereitstellen.

Die Plattform ist nicht allein deshalb wertvoll, weil Komponenten zentralisiert sind. Sie ist wertvoll, wenn Konsumenten stabile Fähigkeiten mit klaren Verträgen, Eigentum, Isolierung, Observability und Lifecycle-Regeln erhalten. Die zentrale Architekturfrage ist daher nicht „Welches Modell sollte jeder verwenden?“, sondern „Welche Verantwortlichkeiten können sicher standardisiert und wiederverwendet werden, ohne die Anforderungen jeder Lösung zu verwischen?“.

Lösungsarchitektur und Plattformarchitektur lösen unterschiedliche Umfangsprobleme

AI Solution ArchitectAI Platform Architect
Primärer UmfangOne concrete AI-enabled product, workflow or application.Reusable AI capabilities consumed by multiple solutions, teams or tenant contexts.
HauptfrageHow should this solution meet its business, data, security, quality and operational requirements?Which shared capabilities and controls should solutions consume, and where must solution-specific ownership remain?
DatenhoheitDefines which domain data is authoritative and how the solution may use it.Provides storage, retrieval, provenance or access primitives without automatically becoming the authority for every domain.
EvaluierungDefines task-specific quality and acceptance criteria.Provides reusable evaluation, telemetry and release mechanisms; it cannot define every domain's success threshold.
LifecycleOwns the lifecycle of the specific workload.Owns shared capability versions, compatibility, onboarding, quotas, policy and operational contracts.

Das einfachste Beispiel

Stellen Sie sich vor, ein Unternehmen hat fünf KI-fähige Produkte: einen internen Dokumentenassistenten, einen Copiloten für den Kundensupport, einen Software-Engineering-Agenten, einen Vertragsprüfungs-Workflow und einen Produktsuchassistenten. Jedes Produkt könnte unabhängig Modell-APIs integrieren, Anmeldedaten speichern, Wiederholungsversuche implementieren, Token-Metriken sammeln, Retrieval-Code erstellen und eigene Tool-Berechtigungen aufbauen.

Diese Duplizierung ist teuer und gefährlich, wenn jedes Team ein anderes Sicherheits- und Betriebsmodell erfindet. Eine gemeinsame Plattform kann stattdessen genehmigte Anbieterverbindungen, Modellermittlung, Quotas, Anmeldedaten, mandantenfähigen Zugriff, gemeinsame Telemetrie, wiederverwendbare Retrieval-Dienste und einen Agenten-/Tool-Runtime-Vertrag anbieten.

Aber die Plattform muss an der richtigen Grenze haltmachen. Die Vertragsprüfungslösung kann rechtliche Dokumentenhoheit und Zitierregeln erfordern, die der Software-Agent nicht benötigt. Der Produktsuchassistent kann handelsspezifische Aktualitäts- und Autorisierungsregeln benötigen. Wiederverwendbare Infrastruktur macht nicht alle Domänenwahrheit wiederverwendbar.

Ein gemeinsamer KI-Anfragepfad

1
1. Konsument identifiziert sich
Die aufrufende Anwendung, der Benutzer, der Dienst, das Team oder der Mandant tritt über eine authentifizierte Identität und einen expliziten Geltungsbereich ein.
2
2. Plattformrichtlinie wird angewendet
Gateway- und Richtlinienschichten bestimmen erlaubte Anbieter, Modelle, Quotas, Datenpfade, Tools und Ausführungsmodi.
3
3. Gemeinsame Fähigkeit wird ausgeführt
Die Anfrage kann Inferenz, Retrieval, Agenten-Runtime, Tool-Zugriff oder einen anderen wiederverwendbaren Plattformdienst nutzen.
4
4. Lösungsspezifischer Kontext bleibt maßgeblich
Die konsumierende Lösung liefert Domänenregeln, Benutzerabsicht, Datenhoheit, aufgabenspezifische Einschränkungen und Akzeptanzlogik.
5
5. Telemetrie und Belege werden erfasst
Die Plattform zeichnet Identität, Route, Modell/Anbieter, Latenz, Kosten, Fehler, Tool-Aktivität und andere zulässige Observability-Signale auf.
6
6. Ergebnis kehrt unter dem Lösungsvertrag zurück
Die Lösung bleibt dafür verantwortlich, ob die Ausgabe für ihren Benutzer und ihre Domäne akzeptabel ist.

Wo das einfache Beispiel endet

Zentralisierung ist nicht automatisch Architektur. Ein einzelner Endpunkt vor mehreren Modell-APIs ist nützlich, aber er schafft für sich genommen noch keine KI-Plattform. Eine Produktionsplattform benötigt außerdem Identitätsgrenzen, Fähigkeitsverträge, Anbieterzustand und Lifecycle-Handhabung, Quotas, Secret-Eigentum, Observability, Kompatibilitätsregeln, Sicherheitskontrollen, Release-Disziplin und klare operative Verantwortung.

Das gegenteilige Versagen ist ebenfalls häufig: jeden Prompt, jeden Vektorindex, jede Geschäftsregel, jeden Agenten und jeden Anwendungs-Workflow in ein einziges „KI-Backend“ zu packen. Das erzeugt einen Monolithen, dessen gemeinsamer Status zufällig statt architektonisch ist. Eine Plattform sollte querschnittliche Fähigkeiten standardisieren, nicht Domäneneigentum absorbieren, nur weil KI beteiligt ist.

Die wichtigste Plattformentscheidung: gemeinsam versus lösungsspezifisch

FähigkeitsbereichGuter Kandidat für gemeinsame PlattformverantwortungBleibt üblicherweise lösungsspezifisch
ModellzugriffGenehmigte Anbieterverbindungen, Adapter, Anmeldedaten, Health, Routing-Primitive, QuotenAufgabenspezifische Modellakzeptanz, Prompt-Verhalten, Qualitätsschwelle
RetrievalIngestion-Primitive, Extraktion, Indexierung, Such-APIs, Provenienz-Verträge, Autorisierungs-HooksAutoritativer Korpus, Aktualitätsregeln, Domänen-Metadaten, Evidenz-Suffizienz
Agenten und ToolsRuntime-Lebenszyklus, Tool-Registry/Broker, Berechtigungsdurchsetzung, Tracing, AbbruchGeschäftsworkflow, erlaubte Aktionssemantik, Eskalationsrichtlinie, Aufgabenerfolg
SicherheitIdentitätsintegration, Secret-Speicherung, Richtliniendurchsetzung, Audit-Verträge, MandantenisolationsmechanismenDatenklassifizierung, geschäftliche Autorisierungsregeln, domänenspezifische Risikoakzeptanz
EvaluierungHarness, Dataset-/Versionsmechanik, Telemetrie, Experiment-/Release-WorkflowGround Truth, Domänen-Testset, Akzeptanzschwelle, Nutzerergebnis
BetriebDeployment-Muster, Health, Metriken, Incident-Integration, KapazitätssteuerungLösungs-SLOs, wo sie abweichen, Auswirkungen auf die Geschäftskontinuität, workloadspezifische Runbooks

Architektur-Verantwortlichkeitskarte

1. Modell- und Anbieterzugriff

Ein Plattformarchitekt definiert, wie Konsumenten Modelle entdecken und aufrufen, ohne jede Anwendung zu zwingen, einen Anbieter fest zu codieren. Dies umfasst Anbieteradapter, Modellkennungen, Fähigkeitsmetadaten, Authentifizierung, Health-Checks, Endpunktkonfiguration, Request-Normalisierung und Kompatibilitätsverhalten.

Anbieterabstraktion muss ehrlich bleiben. Verschiedene Anbieter bieten unterschiedliche Kontextgrenzen, Tool-Semantik, strukturiertes Ausgabeverhalten, multimodale Fähigkeiten, Sicherheitskontrollen, Caching, Preisgestaltung und Fehlermodi. Eine gute Abstraktion schafft einen stabilen Plattformvertrag und bewahrt gleichzeitig den Zugriff auf Fähigkeiten, die nicht sinnvoll vereinheitlicht werden können.

2. Gateway, Routing, Quoten und Kostenkontrollen

Ein gemeinsames KI-Gateway kann Authentifizierung, Routing, Drosselung, Wiederholungen, Token-Limits, Nutzungszuordnung und Richtliniendurchsetzung zentralisieren. Microsofts aktuelle AI-Gateway-Richtlinien behandeln Token-pro-Minute-Limits, Quoten und Multi-Projekt-Eingrenzung ausdrücklich als Plattformbelange; AWS stellt ebenfalls Konto- und Modellquoten sowie zentrale Kontrollen bereit.

Das Gateway ist daher mehr als ein Reverse Proxy, wenn es KI-spezifische Richtlinien- und Betriebssemantik trägt. Es sollte jedoch nicht stillschweigend Geschäftsentscheidungen treffen. Eine Routing-Richtlinie kann ein gesundes lokales Modell, einen kostengünstigeren Anbieter oder einen regional konformen Endpunkt bevorzugen; ob diese Route für eine bestimmte Aufgabe akzeptabel ist, bleibt dennoch ein Vertrag zwischen Plattform und Lösung.

Routing benötigt auch Fehlersemantik. Wenn das bevorzugte Modell nicht verfügbar ist, muss die Plattform wissen, ob ein Fallback erlaubt ist, ob eine Cloud-Route eine ausdrückliche Zustimmung erfordert, ob ein Modell mit geringerer Fähigkeit gültig ist und wie die Entscheidung für die Observability sichtbar gemacht wird.

3. Gemeinsame Daten-, Retrieval- und Grounding-Dienste

Retrieval-Dienste sind starke Plattformkandidaten, weil Parsing, Chunking, Indexierung, lexikalische Suche, semantische Suche, Metadatenfilterung, Provenienz und Zitationsmechanik wiederverwendbar sind. Die Plattform darf jedoch eine gemeinsame Retrieval-Engine nicht mit einer gemeinsamen Quelle der Wahrheit verwechseln.

Eine Lösung besitzt weiterhin Fragen wie: Welcher Korpus ist autoritativ? Welche Version ist gültig? Darf dieser Nutzer dieses Dokument sehen? Wie aktuell müssen die Daten sein? Was zählt als ausreichende Evidenz? Kann eine Antwort generiert werden, wenn das Retrieval fehlschlägt? Das sind Domänen- und Lösungsanforderungen, selbst wenn die Plattform die Retrieval-Maschinerie bereitstellt.

Diese Grenze ist besonders wichtig in Multi-Tenant-Systemen. Ein technisch gemeinsamer Index oder Vektordienst rechtfertigt keine mandantenübergreifende Sichtbarkeit. Der Autorisierungskontext muss durch das Retrieval hindurch erhalten bleiben und darf nicht erst hinzugefügt werden, nachdem Suchergebnisse die Grenze bereits überschritten haben.

4. Agenten- und Tool-Runtime

Agentische Systeme fügen wiederverwendbare Runtime-Belange hinzu: Thread-/Session-Lebenszyklus, Planungsschleifen, Tool-Registrierung, Tool-Aufruf, Abbruch, Timeouts, menschliche Genehmigungen, Memory-/State-Schnittstellen, Remote-Agent-Protokolle und Trace-Korrelation. Eine Plattform kann diese Mechaniken bereitstellen, damit jedes Produkt sie nicht neu aufbauen muss.

Die Plattform muss auch die Tool-Berechtigung von der Modellfähigkeit getrennt halten. Dass ein Modell einen Shell-Befehl generieren kann, bedeutet nicht, dass die Runtime die Shell-Ausführung erlauben sollte. Die Berechtigungsgrenze gehört zur Anwendungs-/Runtime-Architektur und muss unabhängig vom Modell durchsetzbar sein.

Die aktuelle AWS-Agentic-AI-Richtlinie betont begrenzte Agenten, explizite Befugnisse, End-to-End-Tracing, versionierte Verhaltensartefakte und menschliche Aufsicht im Verhältnis zu den Konsequenzen. Das sind plattformermöglichende Belange, aber die konsumierende Lösung definiert weiterhin, welche Aktionen für ihre Domäne legitim sind.

5. Identität, Mandantentrennung und Autorisierung

KI-Plattformen stehen oft vor hochwertigen Modellen, proprietären Daten und aktionsfähigen Tools. Authentifizierung ist daher nur der Anfang. Die Architektur muss Benutzer-, Dienst-, Anwendungs- und Mandantenkontext durch jeden privilegierten Vorgang tragen, der ihn benötigt.

RBAC und Mandantentrennung lösen unterschiedliche Probleme. RBAC beantwortet, was eine Identität tun darf; Mandantentrennung beantwortet, auf welche Ressourcen welches Mandanten diese Identität einwirken darf. Eine Plattform, die Rollen prüft, aber den Mandantenkontext verliert, kann dennoch die falschen Daten offenlegen.

Die aktuelle KI-Workload-Richtlinie von Microsoft empfiehlt ausdrücklich Identitätssegmentierung und autorisierungsbewussten Zugriff auf Inhalte. Die AWS-Richtlinie für mandantenfähige generative KI-Plattformen behandelt logische Isolierung, zentralisierte Kontrollen und Auditierbarkeit ebenfalls als Plattformbelange.

6. Geheimnisse, Anmeldeinformationen und Vertrauensgrenzen

Eine Plattform sollte definieren, wem Anbieterschlüssel, entfernte Bearer-Tokens, Signiermaterial und Tool-Anmeldeinformationen gehören, wo sie gespeichert sind, welcher Prozess auf sie zugreifen kann, wie sie rotiert werden und ob sie jemals einen Browser oder einen nicht vertrauenswürdigen Renderer erreichen können.

Dies ist eine architektonische Grenze, kein Implementierungsdetail. Wenn jede konsumierende Anwendung Anbieter-Anmeldeinformationen in ihre eigene Konfiguration kopiert, hat die Organisation sowohl den operativen Aufwand als auch den Wirkungsradius dupliziert. Zentralisierung kann dieses Risiko nur reduzieren, wenn die Plattform selbst engere, auditierbare Zugriffspfade hat.

7. Evaluierung, Beobachtbarkeit und Auditierbarkeit

Eine wiederverwendbare Plattform kann Evaluierungs-Harnesses, Trace-IDs, Modell-/Anbieter-Metadaten, Token- und Kostenmetriken, Latenz, Fehlerraten, Verknüpfung von Prompt-/Modellversionen, Agenten-/Tool-Traces und kontrolliertes Logging bereitstellen. AWS und Microsoft behandeln sowohl Beobachtbarkeit als auch Evaluierung als zentrale Produktionsbelange für KI-Workloads.

Plattform-Evaluierung und Lösungs-Evaluierung müssen getrennt bleiben. Eine Plattform kann verifizieren, dass ein Endpunkt gesund ist, eine Modellversion eine allgemeine Regressionssuite besteht und Traces vollständig sind. Sie kann nicht entscheiden, dass eine rechtliche Antwort, ein medizinischer Workflow oder eine Produktempfehlung akzeptabel ist, ohne domänenspezifische Ground Truth und Akzeptanzkriterien.

Logging schafft auch eine Datenschutzgrenze. Prompt- und Antwortprotokolle können sensible oder proprietäre Daten enthalten. Der Plattformarchitekt muss daher entscheiden, was protokolliert, redigiert, gesampelt, aufbewahrt und zugänglich gemacht wird, anstatt anzunehmen, dass mehr Telemetrie immer sicherer ist.

8. Laufzeit, Bereitstellung und Lokalität

Ein Plattformarchitekt entscheidet, wie gemeinsame KI-Fähigkeiten bereitgestellt und erreicht werden: verwaltete Cloud-Dienste, selbst gehostete Endpunkte, lokale Inferenz, hybrides Routing, containerisierte Dienste, Desktop-Laufzeiten, private Netzwerke oder air-gapped Umgebungen. Die wichtige Unterscheidung ist zwischen wo der Steuerungs-/Laufzeitprozess läuft und wo Inferenz und Datenverarbeitung tatsächlich stattfinden.

Ein lokaler Client kann dennoch ein Cloud-Modell aufrufen. Eine Cloud-Steuerungsebene kann zu einem On-Premises-Modell routen. Ein Remote-Agent kann Tools innerhalb eines Kundennetzwerks ausführen. Architekturdiagramme müssen daher Vertrauens- und Datenflussgrenzen zeigen, anstatt „lokal“ und „Cloud“ als vage Bezeichnungen zu verwenden.

9. Plattform-Lebenszyklus, Kompatibilität und Onboarding

Wiederverwendbare Fähigkeit wird erst dann zu einer Plattform, wenn Konsumenten sich im Laufe der Zeit darauf verlassen können. Das erfordert versionierte Verträge, Migrationsregeln, Kompatibilitätsrichtlinien, Deprecation, Release-Tests, Rollback, Incident-Verantwortung, Kapazitätsplanung, Dokumentation und einen Weg zum Onboarding neuer Teams oder Anwendungen.

Sich schnell entwickelnde KI-Ökosysteme machen dies besonders wichtig. Modellnamen, SDKs, Protokollversionen, Anbieter-APIs und Sicherheitsfähigkeiten ändern sich unabhängig voneinander. Eine Plattform muss einen Teil dieser Volatilität absorbieren, ohne Änderungen zu verbergen, die das Verhalten einer Lösung wesentlich beeinflussen.

Ein praktisches Modell für Control-Plane / Execution-Plane / Solution-Plane

PlaneTypische VerantwortlichkeitenSollte nicht stillschweigend besitzen
Plattform-Control-PlaneProvider-Registry, Modellrichtlinie, Quoten, Mandantenkonfiguration, Identitäten, Secrets, Routing-Regeln, Fähigkeitsversionen, BereitstellungskonfigurationAnwendungsgeschäftslogik oder Domänenwahrheit
Plattform-Execution-/Data-PlaneInferenzanfragen, Retrieval-Operationen, Agent-/Tool-Ausführung, Extraktion, Indexierung, Telemetrie-Emission, RichtliniendurchsetzungMandantenübergreifender Zugriff allein aufgrund gemeinsam genutzter Infrastruktur
Solution-PlaneBenutzer-Workflow, Prompts/Anweisungen, autoritative Korpusauswahl, Domänenautorisierung, Geschäftsregeln, Aufgabenbewertung und -akzeptanzLow-Level-Provider-Integration, die die Plattform explizit besitzt

Diese Trennung hilft, Plattform-Drift zu diagnostizieren. Wenn eine Anwendung jeden providerspezifischen Credential und Endpunkt kennen muss, ist der Plattformvertrag zu dünn. Wenn die Plattform entscheidet, welcher Kundendatensatz rechtlich autoritativ ist oder ob eine Domänenantwort akzeptabel ist, hat die Plattform die Grenze zur Solution-Ownership überschritten.

Was sollte ein AI Platform Architect produzieren?

ArchitekturartefaktZweck
Plattform-FähigkeitskarteDefiniert, was die Plattform bereitstellt, wer sie nutzt und welche Fähigkeiten außerhalb des Geltungsbereichs bleiben.
Provider-/ModellvertragDefiniert Provider, Modelle, Fähigkeiten, Abstraktionsgrenzen, Routenmetadaten und Fallback-Semantik.
Identitäts- und MandantenmodellDefiniert Benutzer-/Dienst-/Anwendungsidentität, Mandantenkontext, RBAC/ABAC-Hooks und Ressourcenisolation.
Gateway- und QuotenrichtlinieDefiniert Ratenlimits, Token-/Kostenbudgets, Routing-Steuerung, Wiederholungen und Kapazitätsverhalten.
Retrieval-/DatenvertragDefiniert Ingestion, Provenienz, Suche, Metadaten, Autorisierungsweitergabe und wo Domänenautorität bleibt.
Agent-/Tool-VertragDefiniert Laufzeit-Lebenszyklus, Tool-Registrierung, Berechtigungen, Genehmigungen, Abbruch und Trace-Verhalten.
Secret- und Trust-Boundary-ModellDefiniert Credential-Eigentum, Speicherung, Prozessgrenzen, Rotation und Pfade sensibler Daten.
Evaluierungs- und TelemetrievertragDefiniert gemeinsame Metriken, Traces, Datensatz-/Versionslinks, Logging-Richtlinie und Solution-Erweiterungspunkte.
Lebenszyklus- und KompatibilitätsrichtlinieDefiniert Versionen, Migrationen, Deprecation, Releases, Rollback, Incident-Ownership und Onboarding.

Die Arbeit besteht hauptsächlich aus Trade-offs, nicht aus maximaler Zentralisierung

Häufige Plattform-Trade-offs

Druck ADruck B
Provider-AbstraktionStable portable platform APIAccess to provider-specific capabilities and fast innovation
WiederverwendungShared services reduce duplicationIsolation and domain autonomy prevent unsafe coupling
GovernanceCentral policy and auditabilityTeam speed and local experimentation
ObservabilityRich traces for debugging and evaluationPrivacy, data minimization and logging cost
VerfügbarkeitFallback and multi-provider resiliencePredictable quality, compliance and data-location guarantees
PlattformumfangMore reusable capabilitiesSmaller blast radius and less platform lock-in

Wie unterscheidet sich das von angrenzenden Rollen?

RollePrimärer Architekturumfang
AI Solution ArchitectEine konkrete KI-fähige Lösung und ihre End-to-End-Anforderungen, Grenzen, Trade-offs und Produktionsakzeptanz.
AI Platform ArchitectWiederverwendbare KI-Fähigkeiten und betriebliche/sicherheitstechnische Verträge, die von mehreren Lösungen oder Teams genutzt werden.
Enterprise ArchitectOrganisationsweites Geschäfts-/Technologieportfolio, Fähigkeits- und Governance-Ausrichtung auf breiterer Ebene.
MLOps / LLMOps Architect oder SpezialistModell- und KI-Lebenszyklus, Bereitstellung, Experimente, Observability, Release- und Betriebspraktiken; kann stark überlappen, besitzt aber nicht automatisch die gesamte gemeinsame Anwendungsplattform.
Platform Engineer / SREImplementiert und betreibt Plattforminfrastruktur, Zuverlässigkeit, Automatisierung und Entwicklererfahrung; Architekturverantwortung kann mit dem Plattformarchitekten geteilt werden.
AI / Software EngineerImplementiert Modelle, Integrationen, Dienste, Agenten, Retrieval und Produktfunktionalität innerhalb der vereinbarten Architektur.

Diese Grenzen sind organisatorisch, nicht universell. In einem kleinen Team kann eine Person mehrere Verantwortlichkeiten tragen. In einem regulierten Unternehmen können sie auf Architektur-, Sicherheits-, Plattform-, Daten- und Betriebsgruppen aufgeteilt sein. Die nützliche Unterscheidung ist der Umfang der Architekturverantwortung, nicht der auf einem Organigramm gedruckte Jobtitel.

Implementierungsnachweise: Wie diese Plattformgrenzen in meiner eigenen Arbeit erscheinen

Aaasaasa AI Client: Trennung von Provider, Laufzeit und Berechtigungen

Aaasaasa AI Client ist ein lokal-first Desktop-KI-Arbeitsbereich, der mit Nuxt 4, Electron und TypeScript erstellt wurde. Sein AI Hub trennt bewusst Agent/Client, Provider, Modell, Verbindungs-/Laufzeitort, Berechtigungen und Web-Client, anstatt sie als einen Konfigurationswert zu behandeln.

Die Implementierung umfasst direkte Provider-Adapter, Codex-Agent-Laufzeitintegration, lokale Ollama/LM Studio-Pfade, OpenAI-kompatible Dienste, zentralisierte Arbeitsbereichsberechtigungen, Credential-Speicherung im Hauptprozess, DuckDB, Qdrant/Vektor-Unterstützung, PDF-/Readability-Extraktion und authentifizierten MCP-basierten Verzeichniszugriff.

Zwei Plattformlektionen sind besonders relevant. Erstens ist eine lokale Laufzeit nicht dasselbe wie lokale Inferenz: Ein lokaler Codex-Prozess kann immer noch ein Cloud-Modell verwenden. Zweitens fällt automatisches Routing nicht stillschweigend von lokaler auf kostenpflichtige Cloud-Inferenz zurück. Das macht Routing-Richtlinie und Laufzeitlokalität explizit statt aus UI-Labels abgeleitet.

Implementierte GrenzePlattformarchitektonische Bedeutung
Agent vs. Provider vs. ModellUnterschiedliche Verantwortlichkeiten können sich unabhängig entwickeln, anstatt hinter einem einzigen „KI“-Selektor verborgen zu werden.
Berechtigungen getrennt vom ModellDateisystem-/Tool-Autorität gehört zur Laufzeitrichtlinie, nicht zur Modellfähigkeit.
Secrets im HauptprozessCredential-Eigentum folgt der privilegierten Prozessgrenze statt dem Renderer/UI.
Provider-Zustand und Modell-ErkennungRouting und Verfügbarkeit sind Laufzeit-/Plattformbelange.
Kein stiller Cloud-FallbackKosten-, Lokalitäts- und Datenübertragungssemantik bleiben explizite Richtlinienentscheidungen.

Aaasaasa AI CMS: mandantenbezogene Autorisierung als Plattformgrenze

Die Codebasis des Aaasaasa AI CMS bietet ein separates Implementierungsbeispiel: mandantenbezogenes RBAC wird durch Rollen, Berechtigungen und Benutzer-Rollen-Zuweisungen dargestellt, die an eine Mandantenkennung gebunden sind. Systemberechtigungen sind nach Fähigkeiten gruppiert, und Rollensuche und -aktualisierungen bleiben mandantenbezogen.

Dies ist für sich genommen kein Beweis für eine vollständige KI-Plattform, aber es ist direkt relevant für eine der schwierigsten Grenzen gemeinsamer Plattformen: Ein wiederverwendbarer Dienst muss bewahren, wer was tun darf und für welchen Mandanten. Das Hinzufügen von KI-Inferenz oder Retrieval auf einer Anwendungsplattform beseitigt diese Anforderung nicht.

Die architektonische Implikation ist, dass Modell-Gateways, Retrieval-Dienste und Agenten etablierten Identitäts-/Mandantenkontext nutzen sollten, anstatt ein paralleles, nur auf KI ausgerichtetes Autorisierungsuniversum zu erfinden.

Source of Truth Research Engine: gemeinsame Retrieval-Mechanik ohne gemeinsame Wahrheit

Die Source of Truth Research Engine bietet ein drittes Implementierungsbeispiel. Verschiedene Recherchemodelle teilen einen gemeinsamen Evidenzkern: Quellen, Artefakte, Provenienz, Claims, Relationen, Widersprüche, ein Referenzmodell und Audit-Trail. Das System bietet außerdem lokales lexikalisches Retrieval, optionales semantisches Retrieval, Extraktion, Snapshots und SHA-256-basierte Provenienz.

Das Projekt behandelt Suche und semantische Ähnlichkeit ausdrücklich als Entdeckungssignale und nicht als Evidenz. Ein Ergebnis muss auf eine konkrete Quelle und einen Locator zurückgeführt werden können, bevor es einen Claim stützen kann. Genau das ist die Unterscheidung, die eine KI-Plattform braucht: wiederverwendbare Retrieval-Maschinerie kann geteilt werden, während die Evidenzautorität weiterhin durch die konsumierende Methodik und Domäne geregelt wird.

Die Engine zeigt auch, warum eine gemeinsame Plattform keine gemeinsame Interpretation erfordert. Historische, wissenschaftlich-technische, Marktintelligenz- und Monitoring-Modi können die Kern-Evidenzinfrastruktur wiederverwenden und dennoch modusspezifische Methodik beibehalten.

Wie aktuelle Architekturleitlinien diesen Plattformumfang stützen

ISO/IEC/IEEE 42010:2022 bietet eine allgemeine Disziplin für Architekturbeschreibungen über Software, Systeme, Unternehmen und verwandte Entitäten hinweg. Es definiert keinen AI Platform Architect, aber es stärkt die Notwendigkeit, architektonische Belange, Beziehungen und Sichtweisen auszudrücken, anstatt Architektur auf eine Technologieliste zu reduzieren.

NIST AI RMF 1.0 und das Generative AI Profile rahmen KI-Risikomanagement über den Lebenszyklus ein und nicht nur zum Zeitpunkt der Modellauswahl. Governance, Mapping, Messung und Management sind daher mit einer Plattformarchitektur vereinbar, die gemeinsame Kontrollen und Evidenz über viele konsumierende Workloads hinweg trägt.

Die aktuelle AI-Workload-Leitlinie von Microsoft behandelt Anwendungsdesign, Daten, Sicherheit, Betrieb, Test/Evaluierung und GenAIOps als verbundene Architekturbereiche. Die aktuelle AI-Gateway-Leitlinie zeigt zudem praktische Plattformbelange wie zentralisierten Modellzugriff, projektspezifische Token-Limits, Quoten und Multi-Team-Eingrenzung.

Der aktuelle Generative AI Lens und das Multi-Tenant-Plattformszenario von AWS trennen ebenfalls grundlegende Plattformkontrollen von der Verantwortung konsumierender Anwendungen. AWS weist ausdrücklich darauf hin, dass eine zentrale Plattform gemeinsame Guardrails und Auditierbarkeit durchsetzen kann, während Datenqualität und workloadspezifische Observability weiterhin Verantwortlichkeiten konsumierender Anwendungen oder Datenproduzenten bleiben.

Die Anbieterprodukte unterscheiden sich, aber das quellenübergreifende Muster ist stabil: Produktions-KI-Plattformen müssen Identität, Datenzugriff, Modelle, Richtlinien, Evaluierung, Observability, Kapazität, Kosten und Lebenszyklus koordinieren. Ein GPU-Cluster oder Modell-Endpunkt deckt nur einen Teil dieser Verantwortung ab.

Häufige Missverständnisse

MissverständnisWarum es falsch ist
„Eine KI-Plattform ist der GPU-Cluster.“Compute ist ein Substrat. Eine Plattform braucht außerdem Verträge für Identität, Modellzugriff, Daten, Richtlinien, Evaluierung, Observability und Lebenszyklus.
„Ein KI-Gateway ist nur ein Reverse Proxy.“Es kann auch Modell-Routing, Token-Quoten, Kostenattribution, Richtliniendurchsetzung, Identität und KI-spezifische Telemetrie tragen.
„Geteilt bedeutet global geteilt.“Ein Dienst kann physisch geteilt sein und logisch nach Mandant, Anwendung, Region, Klassifizierung oder Risikostufe segmentiert werden.
„Eine zentrale Vektordatenbank wird die Unternehmenswahrheit.“Ein Vektorspeicher oder Retrieval-Dienst ist Infrastruktur. Domänenautorität, Aktualität, Provenienz und Zugriff bleiben separate Belange.
„Plattform-Evaluierung ersetzt Lösungsevaluierung.“Allgemeine Regression und Telemetrie können nicht definieren, ob eine domänenspezifische Antwort oder Aktion akzeptabel ist.
„Provider-Abstraktion sollte jeden Unterschied verbergen.“Einige Unterschiede sind wesentliche Fähigkeiten, Sicherheitssemantiken oder Fehlermodi und müssen sichtbar bleiben.
„RBAC löst Multi-Tenancy.“RBAC steuert Aktionen; Mandantenisolierung steuert Ressourcengrenzen. Beides kann erforderlich sein.
„AI Platform Architect ist nur ein anderer Name für MLOps.“MLOps/LLMOps ist eine wichtige überlappende Disziplin, aber gemeinsame Anwendungs-/Laufzeit-, Identitäts-, Gateway-, Retrieval- und Tool-Grenzen können über Modelllebenszyklus-Operationen hinausgehen.

Fehlermodi, die ein AI Platform Architect verhindern sollte

FehlermodusArchitektonische Konsequenz
Jedes Team speichert seine eigenen Provider-SchlüsselDoppelte Handhabung von Geheimnissen, inkonsistente Rotation und größerer Blast-Radius.
Provider-Abstraktion verbirgt erforderliche FähigkeitenKonsumenten können benötigte Funktionen nicht nutzen oder erhalten stillschweigend ein Verhalten, das von den Annahmen abweicht.
Gemeinsame Retrieval ignoriert Mandanten-/BenutzerkontextGrenzüberschreitende Datenlecks können auftreten, bevor die Anwendung die Möglichkeit hat, Ergebnisse zu filtern.
Fallback ändert stillschweigend Provider oder LokalitätKosten, Compliance, Datenstandort und Ausgabequalität können sich ändern, ohne dass der Aufrufer davon weiß.
Agent-Tools werden durch Modellwahl gewährtEin leistungsfähiges Modell wird überprivilegiert, weil die Laufzeitberechtigung nicht unabhängig durchgesetzt wird.
Alle Prompts/Antworten werden standardmäßig protokolliertObservability kann ein neues sensibles Datenrepository und Compliance-Problem schaffen.
Plattform besitzt einen generischen QualitätswertDomänenfehler bleiben hinter Plattform-Gesundheitsmetriken verborgen.
Kein Versionsvertrag für PlattformfähigkeitenModell-/Provider-/Laufzeitänderungen brechen Konsumenten unvorhersehbar.
Alles KI-bezogene ist zentralisiertDie Plattform wird zum Engpass und Monolithen statt zu einer wiederverwendbaren Fähigkeitsschicht.

Eine praktische Entscheidungssequenz für die Plattformarchitektur

Vom Plattformbedarf zur betreibbaren gemeinsamen Fähigkeit

1
1. Echte Konsumenten identifizieren
Listen Sie Lösungen, Teams, Mandanten und Workloads auf, die die Plattform nutzen würden; vermeiden Sie den Aufbau einer Plattform für hypothetische Wiederverwendung.
2
2. Die gemeinsame Grenze definieren
Trennen Sie übergreifende Mechanismen von lösungsspezifischer Domänenautorität, Workflow und Abnahme.
3
3. Zuerst Identität und Isolation definieren
Etablieren Sie Benutzer, Dienste, Anwendungen, Mandanten, Regionen und Datenklassifizierungen, bevor Sie Retrieval- oder Tool-Fähigkeiten teilen.
4
4. Fähigkeitsverträge definieren
Spezifizieren Sie Modell-/Provider-, Retrieval-, Agent-/Tool-, Gateway- und Telemetrie-APIs mit expliziter Eigentümerschaft und Versionierung.
5
5. Provider- und Laufzeitstrategie entscheiden
Wählen Sie verwaltete, selbst gehostete, lokale oder hybride Ausführung und dokumentieren Sie Fallback-, Lokalitäts- und Fähigkeitssemantik.
6
6. Daten- und Retrieval-Grenzen entwerfen
Definieren Sie Herkunft, Autorisierungsweitergabe, Korpus-Eigentümerschaft, Indexierung und Nachweispflichten.
7
7. Quoten, Geheimnisse und Richtlinien hinzufügen
Steuern Sie Kosten, Kapazität, Anmeldeinformationen, Tool-Berechtigungen, Sicherheitskontrollen und Blast-Radius.
8
8. Evaluierungs- und Observability-Verträge aufbauen
Bieten Sie Plattformmetriken und Tracing, während Sie Domänen-Ground-Truth und Abnahme der Lösung überlassen.
9
9. Lebenszyklus und Betrieb definieren
Versionieren Sie Fähigkeiten, testen Sie Upgrades, dokumentieren Sie Deprecation, Rollback, Vorfälle, Kapazität und Konsumenten-Onboarding.
10
10. Mit mehr als einem Konsumenten validieren
Ein Plattformanspruch wird glaubwürdig, wenn die gemeinsame Fähigkeit tatsächlich unterschiedliche Workloads bedient, ohne sie in dasselbe Domänenmodell zu zwingen.

Randfälle und Grenzen der Rolle

Eine kleine Organisation mit einer einzigen KI-Anwendung benötigt möglicherweise keine eigenständige KI-Plattform oder keinen Plattformarchitekten. Verfrühte Plattformbildung kann mehr Abstraktion als Wert schaffen. Die richtige Architektur kann eine gut entworfene Lösung mit einigen wiederverwendbaren Modulen sein.

Eine luftgespaltene oder souveräne Bereitstellung ändert das Provider-, Update- und Observability-Modell erheblich. Modell-Hosting, Artefaktverteilung, Identitätsintegration und Telemetrie-Export benötigen möglicherweise alle lokale Äquivalente.

Hochregulierte oder folgenschwere Workloads können eine stärkere physische oder organisatorische Isolation erfordern, anstatt einer logisch gemeinsamen Plattform. Wiederverwendung ist niemals ein ausreichender Grund, eine erforderliche Sicherheitsgrenze zu schwächen.

Verwaltete Cloud-KI-Dienste können die Implementierungslast entfernen, aber nicht die architektonische Verantwortung. Die Organisation entscheidet weiterhin über Identität, Datenzugriff, Protokollierung, Aufbewahrung, Quoten, Modellberechtigung, Fallback, Evaluierung und Lösungsabnahme.

Die Plattformgrenze kann sich auch je nach Modalität unterscheiden. Textinferenz, multimodale Generierung, Sprache, Computernutzung und autonome Agenten können unterschiedliche Latenz-, Daten-, Berechtigungs- und Observability-Anforderungen haben, selbst wenn sie Provider- und Identitätsinfrastruktur teilen.

Was würde diese Antwort ändern?

Die Kerndefinition würde sich ändern, wenn sich der organisatorische Umfang ändert. Wenn der Architekt einen Workload besitzt, nähert sich die Rolle einem KI-Lösungsarchitekten. Wenn sich die Verantwortung auf organisationsweite Fähigkeitsstrategie, Investitionen, Standards und Zielzustandsportfolios ausdehnt, bewegt sie sich in Richtung Enterprise-KI-Architektur.

Die Implementierungsanleitung ändert sich, wann immer sich Provider, Gateway-Produkte, Agent-Protokolle, regulatorische Verpflichtungen, Modellfähigkeiten oder Bereitstellungsbeschränkungen ändern. Deshalb sollte die Plattformarchitektur stabile Verantwortlichkeiten und Verträge getrennt von aktuellen Anbietermechanismen ausdrücken.

Checkliste für KI-Plattformarchitekten

FrageErwartete Antwort
Wer sind die tatsächlichen Plattformkonsumenten?Benannte Lösungen, Teams oder Mandantenkontexte mit unterschiedlichen, aber überlappenden Bedürfnissen.
Was ist wirklich gemeinsam?Explizite Fähigkeitsliste, kein vages „KI-Backend“.
Was muss lösungsspezifisch bleiben?Domänenautorität, Geschäftsworkflow, Aufgabenabnahme und andere vom Workload bestimmte Belange.
Wie werden Modelle/Provider dargestellt?Versionierte Provider-/Modellverträge mit Fähigkeiten und expliziter Fallback-Semantik.
Wie wird Identität weitergegeben?Benutzer-/Dienst-/Anwendungs-/Mandantenkontext überlebt jeden privilegierten Anforderungspfad.
Wie wird Mandantenisolation durchgesetzt?Ressourcen-Scoping ist getrennt von Rollenberechtigungsprüfungen.
Wie werden Geheimnisse behandelt?Privilegierter Speicher, Rotation, begrenzte Exposition und auditierbare Eigentümerschaft.
Wie bewahrt Retrieval die Autorität?Gemeinsame Mechanismen mit Autorisierung, Herkunft und domäneneigenen Nachweisregeln.
Wie werden Tools und Agenten eingeschränkt?Laufzeitberechtigungen, begrenzte Tool-Verträge, Genehmigungen, Abbruch und Rückverfolgbarkeit.
Wie werden Kosten und Kapazität kontrolliert?Quoten, Token-/Ratenkontrollen, Nutzungszuordnung und Überlastverhalten.
Wie wird Qualität gemessen?Plattform-Regression/Evaluierung plus lösungsspezifische Ground-Truth und Abnahme.
Wie werden Änderungen ausgerollt?Versionierung, Kompatibilität, Migration, Deprecation, Rollback und Vorfallverantwortung.

Fazit

Ein KI-Plattformarchitekt ist verantwortlich für die wiederverwendbare Architektur zwischen KI-Fähigkeiten und den Lösungen, die sie nutzen. Die Rolle definiert, wie Modelle, Provider, Retrieval, Agenten, Tools, Identität, Mandanten, Geheimnisse, Evaluierung, Observability, Quoten und Laufzeitoperationen zu verlässlichen Plattformdiensten werden, anstatt wiederholte Einmalintegrationen zu sein.

Der schwierige Teil ist nicht die Maximierung der Wiederverwendung. Es ist die Wahl der richtigen Grenze. Eine starke Plattform standardisiert Mechanismen, Richtlinien und Betrieb dort, wo mehrere Konsumenten wirklich profitieren, während sie lösungsspezifische Datenautorität, Geschäftslogik, Sicherheitsanforderungen und Abnahmekriterien bewahrt.

Diese Unterscheidung erklärt auch die Beziehung zur KI-Lösungsarchitektur: Der Lösungsarchitekt macht ein KI-fähiges System zweckmäßig; der Plattformarchitekt macht gemeinsame KI-Fähigkeiten sicher, wiederverwendbar, betreibbar und über viele solcher Systeme hinweg entwickelbar.

Verwandtes kanonisches Wissen

Dieser Artikel baut auf den kanonischen Grundlagen zu generativen KI-Komponenten, ADR versus NFR und KI-Lösungsarchitektur auf. Diese Konzepte sind Voraussetzungen, weil eine Plattform existiert, um wiederverwendbare Systemfähigkeiten bereitzustellen und architektonische Entscheidungen gegen explizite Qualitäts- und Betriebsanforderungen zu kodifizieren.

Retrieval-Augmented Generation ist ein Beispiel für eine Fähigkeit, die über eine Plattform angeboten werden kann, aber die Plattform sollte Retrieval-Infrastruktur, Domänenwissen und Antwortvalidität nicht zu einem einzigen Konzept verschmelzen.

Was ist RAG? Die einfachste Erklärung, wie es funktioniert

Kanonische Einführung in Retrieval-Augmented Generation und die Grenze zwischen Modellgenerierung und externem Wissensabruf.

Agentenprotokolle, Mandantentrennung, KI-Governance, Modell-Routing, Context Engineering und MLOps/LLMOps sind nachgelagerte oder angrenzende Wissensknoten. Sie lassen sich leichter durchdenken, sobald die Plattformgrenze explizit ist.

Häufig gestellte Fragen

FAQ zum KI-Plattform-Architekten

Ist ein KI-Plattform-Architekt dasselbe wie ein KI-Lösungsarchitekt?

Nein. Der Lösungsarchitekt konzentriert sich auf eine konkrete KI-fähige Lösung. Der Plattformarchitekt konzentriert sich auf wiederverwendbare KI-Fähigkeiten, Kontrollen und Betriebsverträge, die mehrere Lösungen unterstützen können.

Muss eine KI-Plattform eigene Modelle hosten?

Nein. Eine Plattform kann verwaltete Cloud-Modelle, selbst gehostete Modelle, lokale Inferenz oder eine Hybridstrategie nutzen. Die Architektur muss Anbieter-, Lokalitäts-, Identitäts-, Routing-, Daten- und Betriebskonsequenzen explizit machen.

Reicht ein KI-Gateway aus, um eine KI-Plattform zu sein?

Normalerweise nicht. Ein Gateway kann eine wichtige Plattformkomponente sein, aber eine vollständige Plattform benötigt auch Verträge für Identität, Secrets, Daten/Retrieval, Evaluierung, Observability, Lebenszyklus und Betriebsverantwortung.

Sollte Retrieval zentralisiert werden?

Retrieval-Mechaniken können oft geteilt werden, aber Domänenautorität, Autorisierung, Aktualität, Evidenzausreichendheit und Korpus-Eigentümerschaft sollten explizit bleiben. Geteilte Infrastruktur impliziert keine geteilte Wahrheit.

Ersetzt die Plattform-Evaluierung die Anwendungs-Evaluierung?

Nein. Die Plattform-Evaluierung kann geteilte Fähigkeiten und Regressionen testen. Jede Lösung benötigt weiterhin aufgabenspezifische Ground Truth, Akzeptanzkriterien und Domänen-Qualitätsschwellen.

Ist Multi-Tenancy nur RBAC?

Nein. RBAC bestimmt, was eine Identität tun darf. Mandantentrennung bestimmt, auf welche Ressourcen eines Mandanten die Identität einwirken darf. Eine Plattform benötigt oft beides.

Glossar

Wichtige Begriffe der KI-Plattformarchitektur

KI-Plattform
Eine wiederverwendbare Menge KI-bezogener technischer und betrieblicher Fähigkeiten, die von mehreren Anwendungen, Teams oder Mandantenkontexten genutzt werden.
KI-Gateway
Eine Gateway-Schicht für KI-Endpunkte, die über einfaches Proxying hinaus Authentifizierung, Routing, Quoten, Richtlinien, Wiederholungen, Kostenzuordnung und KI-spezifische Telemetrie hinzufügen kann.
Anbieter-Adapter
Eine Komponente, die einen Plattformvertrag auf die API, Fähigkeiten, Gesundheit und Fehlersemantik eines Modellanbieters abbildet.
Mandantentrennung
Die Grenze, die verhindert, dass ein Mandantenkontext auf die Ressourcen eines anderen Mandanten zugreift, unabhängig von Rollenberechtigungen.
Fähigkeitsvertrag
Eine versionierte Schnittstelle und Verhaltensvereinbarung, die beschreibt, was ein geteilter Plattformdienst bereitstellt und was der Konsument liefern oder besitzen muss.
Grounding-/Retrieval-Dienst
Geteilte Mechanismen zum Finden und Bereitstellen externer Informationen für eine KI-Workload; er definiert nicht automatisch, welche Informationen für eine Domäne maßgeblich sind.
Evaluierungs-Harness
Wiederverwendbare Infrastruktur zum Ausführen von Tests, Datensätzen, Modell-/Prompt-Versionen und Metriken; die Domänenakzeptanz bleibt lösungsspezifisch.
Control Plane
Die Konfigurations- und Governance-Schicht, die Plattformfähigkeiten, Identitäten, Richtlinien, Quoten, Versionen und Bereitstellungszustand verwaltet.

Primärquellen und aktuelle Architekturempfehlungen

Die folgenden Quellen stützen die allgemeinen Architektur- und Produktionsplattform-Aussagen. Die Abschnitte Aaasaasa AI Client, Aaasaasa AI CMS und Source of Truth Research Engine sind ausdrücklich originäre Implementierungsnachweise. Aktuelle externe Referenzen wurden am 8. Oktober 2026 geprüft.

ISO/IEC/IEEE 42010:2022 — Architekturbeschreibung

Aktuell veröffentlichter internationaler Standard für Konzepte und Beziehungen der Architekturbeschreibung.

NIST AI Risk Management Framework

NISTs AI RMF-Ressourcen und aktueller Status; AI RMF 1.0 befindet sich Stand Oktober 2026 in Überarbeitung.

NIST AI 600-1 — Generative AI Profile

Generative-AI-Profil zur Anwendung von KI-Risikomanagement-Überlegungen über den KI-Lebenszyklus.

Microsoft Azure Well-Architected — AI Workloads

Aktuelle Architekturempfehlungen zu KI-Anwendung, Daten, Betrieb, Evaluierung, verantwortungsvoller KI und Lebenszyklusaspekten.

Microsoft — Design Principles for AI Workloads

Aktuelle Empfehlungen zu Identitätssegmentierung, Sicherheitsgrenzen, Telemetrie, Leistung, Daten und Plattform-Abwägungen.

Microsoft Foundry — AI Gateway Architecture

Aktuelle AI-Gateway-Empfehlungen für gemeinsamen Projektzugriff, Token-Begrenzung, Quoten und Governance.

Azure Architecture Center — Access Models Through a Gateway

Architekturempfehlungen für zentralisierten Modellzugriff, Routing, Drosselung, Failover und Verantwortlichkeiten von Client und Plattform.

AWS Well-Architected — Generative AI Lens

Aktuelle Architekturrichtlinien für generative KI-Workloads in den Bereichen Sicherheit, Zuverlässigkeit, Betrieb, Leistung und Kosten.

AWS — Multi-Tenant-Szenario für generative KI-Plattformen

Aktuelles Beispiel, das zentrale Plattformkontrollen und Auditierbarkeit von der Datenqualität der nutzenden Anwendungen und workloadspezifischen Verantwortlichkeiten trennt.

AWS Well-Architected — Designprinzipien für agentische KI

Aktuelle Richtlinien zu begrenzter Agentenautorität, Nachverfolgbarkeit, versioniertem Verhalten, expliziten Verträgen und menschlicher Aufsicht.

AWS CloudWatch — Observability für generative KI

Aktuelle Observability-Funktionen und Produktionsmetriken für Modelle, Agenten, Wissensdatenbanken, Tools sowie Kosten-, Latenz- und Fehleranalysen.

Related Articles

MCP vs A2A vs UCP vs AP2 vs A2UI: Der Agenten-Protokoll-Stack erklärt

MCP vs A2A vs UCP vs AP2 vs A2UI: Der Agenten-Protokoll-Stack erklärt

MCP, A2A, UCP, AP2 und A2UI werden oft als konkurrierende Agentenstandards dargestellt. Sie lösen größtenteils unterschiedliche Interoperabilitätsprobleme. Dieser Leitfaden ordnet jedes Protokoll der Grenze zu, die es tatsächlich standardisiert—und zeigt, wie sie in einem Produktionssystem zusammenarbeiten können.

RBAC vs. Mandantenisolierung: Zwei unterschiedliche Sicherheitsgrenzen

RBAC vs. Mandantenisolierung: Zwei unterschiedliche Sicherheitsgrenzen

RBAC steuert, was ein Benutzer tun darf; Mandantenisolierung steuert, auf welche Ressourcen eines Mandanten diese Aktion zugreifen darf. Erfahren Sie, warum die Sicherheit von Multi-Tenant-SaaS beide Grenzen erfordert.

Luftgetrennte KI: Wie KI-Systeme ohne Internet- oder Cloud-Zugriff funktionieren

Luftgetrennte KI: Wie KI-Systeme ohne Internet- oder Cloud-Zugriff funktionieren

Air-gapped AI führt Modelle, RAG und KI-Anwendungen innerhalb einer isolierten Sicherheitsdomäne ohne Internet- oder Cloud-Abhängigkeiten aus. Erfahren Sie, wie Modelle, Daten, Updates und Tools offline funktionieren.

Vektordatenbanken, Embeddings und Reranking: Drei verschiedene Teile des Retrievals

Vektordatenbanken, Embeddings und Reranking: Drei verschiedene Teile des Retrievals

Embeddings repräsentieren Bedeutung, Vektordatenbanken rufen Kandidaten ab und Reranker verfeinern Ergebnisse. Erfahren Sie, wie sich diese drei Retrieval-Ebenen unterscheiden und in RAG zusammenwirken.

MCP erklärt: Was es verbindet, was es nicht tut und wo es passt

MCP erklärt: Was es verbindet, was es nicht tut und wo es passt

Das Model Context Protocol verbindet KI-Anwendungen über eine standardisierte Client-Server-Grenze mit externen Tools, Ressourcen und Prompts. Erfahren Sie, was MCP tut, was es nicht tut und wo es in der Agentenarchitektur einzuordnen ist.

Wann sollte eine KI aufhören, ihrem eigenen Wissen zu vertrauen? — Der Retrieval-Trigger

Wann sollte eine KI aufhören, ihrem eigenen Wissen zu vertrauen? — Der Retrieval-Trigger

Ein KI-Modell benötigt nicht für jede Frage einen Retrieval. Das wichtige Problem ist zu erkennen, wann sein internes Wissen nicht mehr ausreicht. Der Retrieval-Trigger ist eine praktische Entscheidungsgrenze, die bestimmt, wann ein KI-System aufhören sollte, sich allein auf das Modellwissen zu verlassen, und vor der Beantwortung externe Evidenz einholen sollte.

Was ist RAG? Die einfachste Erklärung, wie es funktioniert

Was ist RAG? Die einfachste Erklärung, wie es funktioniert

RAG klingt kompliziert, aber die Idee ist einfach: Bevor eine KI antwortet, sucht sie zunächst nützliche Informationen aus einer Wissensquelle und gibt diese Informationen an das Sprachmodell weiter. Dieser Leitfaden erklärt RAG, LLMs, Zustand, Gedächtnis und Werkzeuge anhand eines einfachen mentalen Modells.

Was ist ein KI-Lösungsarchitekt? Systemgrenzen, Verantwortlichkeiten und Kompromisse

Was ist ein KI-Lösungsarchitekt? Systemgrenzen, Verantwortlichkeiten und Kompromisse

Ein KI-Lösungsarchitekt verwandelt Geschäftsanforderungen in ein produktionsreifes KI-System über Daten, Modelle, Tools, Sicherheit, Laufzeit, Evaluierung und Betrieb hinweg.

Unternehmensfähige mandantenfähige Architektur für eine internationale Plattform

Unternehmensfähige mandantenfähige Architektur für eine internationale Plattform

Loving Rocks ist eine Hochzeitsplattform auf Unternehmensniveau, konzipiert mit einer echten Mehrmandantenarchitektur, isolierten Datenbanken pro Mandant und integrierter Internationalisierung für globale Skalierbarkeit, Sicherheit und langfristige Betriebsstabilität.

Was sollte ein KI-Agent behalten, vergessen, neu berechnen oder erneut abrufen?

Was sollte ein KI-Agent behalten, vergessen, neu berechnen oder erneut abrufen?

Langlaufende Agenten sollten sich nicht alles merken. Dieser Artikel bietet ein praktisches Lebenszyklusmodell für die Entscheidung, was in den dauerhaften Speicher gehört, was erneut abgerufen werden sollte, was sicherer neu zu berechnen ist und was ablaufen oder ersetzt werden sollte.

Die Antwortgültigkeitsgrenze: Die fehlende Schicht zwischen Relevanz und zuverlässigen KI-Antworten

Die Antwortgültigkeitsgrenze: Die fehlende Schicht zwischen Relevanz und zuverlässigen KI-Antworten

Eine Quelle kann relevant und maßgeblich sein und dennoch falsch für die gestellte Frage. Die fehlende Ebene ist die Anwendbarkeit: die Bedingungen, unter denen eine Antwort gilt, und die Veränderungen, die erzwingen, dass sie überdacht werden muss. Dieser Artikel führt die Answer Validity Boundary als ein Quellendesign-Muster für Menschen, KI-Suche und RAG-Systeme ein.

Woher bezieht ein LLM seine Daten? RAG-Datenquellen in Python

Woher bezieht ein LLM seine Daten? RAG-Datenquellen in Python

Ein LLM kennt deine Dateien, Datenbanken oder APIs nicht auf magische Weise. Diese praktische Fortsetzung der RAG-Reihe zeigt mit einfachem Python, wie externe Daten zu abrufbaren Belegen werden: von Textdateien und SQL bis hin zu Volltextsuche, Embeddings, Kontextzusammenstellung und dem abschließenden LLM-Aufruf.