Was ist ein KI-Lösungsarchitekt? Systemgrenzen, Verantwortlichkeiten und Kompromisse

Ein AI Solution Architect übersetzt einen Geschäfts- oder Produktbedarf in die Architektur einer konkreten KI-fähigen Lösung. Die Rolle definiert Systemgrenzen und die wesentlichen Entscheidungen über Anwendungslogik, autoritative Daten, Retrieval und Kontext, Modelle und Anbieter, Tools oder Agenten, Identität und Berechtigungen, Sicherheit, Laufzeit und Deployment, Observability, Evaluierung, Kosten und operatives Verhalten. Es geht nicht einfach um Modellauswahl oder Prompt Engineering: Die architektonische Verantwortung besteht darin, die gesamte Lösung implementierbar, governbar, testbar und betreibbar zu machen.
Was architektiert ein AI Solution Architect tatsächlich?
Der Gegenstand der Arbeit ist die Lösung: das vollständige soziotechnische System, das einen Bedarf in nützliches, kontrolliertes Verhalten umsetzt. Ein Modell kann zentral für dieses System sein, ist aber dennoch nur eine Abhängigkeit. Dasselbe Modell kann an einem sicheren internen Suchassistenten, einem unsicheren überprivilegierten Agenten, einem kundenorientierten Feature mit niedriger Latenz oder einem teuren Prototyp beteiligt sein, der nicht wirtschaftlich betrieben werden kann. Die Architektur bestimmt diese Unterschiede.
Eine nützliche Grenze ist daher: Geschäftsergebnis → Anforderungen → Systemverantwortlichkeiten → Architekturentscheidungen → Implementierung → Validierung → Betrieb. Der AI Solution Architect arbeitet über diese Kette hinweg und kollaboriert mit Produkt-, Engineering-, Daten-, Sicherheits-, Infrastruktur-, Governance- und Domänenspezialisten.
Die Lösung ist weiter als das Modell
| Modellzentrierte Frage | Lösungsarchitektur-Frage | |
|---|---|---|
| Fähigkeit | Which model can generate or reason well enough? | Which combination of model, data, application logic, retrieval, tools and controls produces the required behavior? |
| Daten | What context can fit in the prompt? | What is authoritative, who may access it, how is it retrieved, versioned, filtered and cited? |
| Sicherheit | Does the provider offer security features? | What are the trust boundaries, identities, permissions, secrets, data flows and failure containment mechanisms? |
| Betrieb | What is the token latency? | How is the complete workload deployed, observed, evaluated, recovered, versioned and cost-controlled? |
| Änderung | Can we switch models? | Which dependencies are abstracted, what changes require an ADR, and how do we validate that a replacement still meets requirements? |
Das einfachste Beispiel
Stellen Sie sich vor, ein Unternehmen möchte einen internen Assistenten, der Fragen von Technikern anhand von Wartungshandbüchern und Betriebsverfahren beantwortet. Das sichtbare Feature klingt einfach: eine Frage eingeben und eine Antwort mit Quellen erhalten.
Die Architekturfrage ist viel größer. Welche Dokumente sind autoritativ? Wie werden Benutzer authentifiziert? Muss das Retrieval Abteilungs- oder Standortberechtigungen respektieren? Darf die Antwort nur abgerufene Belege verwenden? Welches Modell ist für die Datenklassifizierung akzeptabel? Kann ein Cloud-Anbieter die Inhalte erhalten? Was passiert, wenn das Retrieval nichts findet? Wie werden Zitate erzeugt? Wie wird die Antwortqualität bewertet? Welche Latenz und welche Kosten sind akzeptabel? Wer kann Logs einsehen, und was darf darin gespeichert werden?
Vom Bedarf zu einer betreibbaren KI-Lösung
Wo das einfache Beispiel endet
Ein Proof of Concept kann oft Architektur überspringen, was in der Produktion nicht möglich ist. Ein Entwickler kann einen Anbieter fest codieren, einen gemeinsamen API-Schlüssel verwenden, alle Dokumente in einen Index legen, Retrieval ohne Filterung nach Benutzerkontext ausführen, Prompts wörtlich protokollieren und Qualität manuell beurteilen. Das kann Machbarkeit demonstrieren, aber es begründet keine Produktionsarchitektur.
Die Produktion führt Einschränkungen ein, die interagieren: Mandanten- oder Benutzerisolation, Datenschutz, Datenresidenz, Durchsatz, Latenz, Kosten, Anbieterquoten, Fallback-Verhalten, Auditierbarkeit, Änderungen der Modellversion, Retrieval-Qualität, Tool-Berechtigungen, Incident Response und Deployment-Lebenszyklus. Die Aufgabe des Architekten ist nicht, jede Qualität gleichzeitig zu maximieren; sie besteht darin, die Trade-offs explizit zu machen und eine Lösung zu entwerfen, die die tatsächliche Prioritätenmenge erfüllt.
Karte der Architekturverantwortlichkeiten
Die genaue Aufteilung variiert je nach Organisation, aber die folgende Karte erfasst die wiederkehrenden Verantwortlichkeiten der KI-Architektur auf Lösungsebene. Der Architekt implementiert möglicherweise nicht jede Schicht persönlich; die Verantwortung besteht darin, die Schichten kohärent zusammenfügen zu lassen und die kritischen Entscheidungen nachvollziehbar zu halten.
| Architekturbereich | Fragen, die der KI-Lösungsarchitekt klären muss | Typische Ergebnisse |
|---|---|---|
| Ergebnis und Umfang | Wer ist der Benutzer? Welche Aufgabe liegt im Geltungsbereich? Was darf das System nicht tun? Was gilt als Erfolg? | Lösungskontext, Fähigkeitsgrenze, Abnahmekriterien |
| Anforderungen und NFRs | Welche Qualitäts-, Sicherheits-, Verfügbarkeits-, Latenz-, Kosten-, Standort- und Compliance-Einschränkungen gelten? | Anforderungsübersicht, NFRs, Einschränkungen, Validierungskriterien |
| Anwendung und Orchestrierung | Wo endet deterministische Anwendungslogik und wo beginnt KI-Verhalten? Wie werden Workflows koordiniert? | Komponentenmodell, APIs, Orchestrierungsgrenzen, Fehlerpfade |
| Autoritative Daten und Abruf | Was ist die Single Source of Truth? Wie werden Daten aufgenommen, autorisiert, abgerufen, gefiltert, gerankt und zitiert? | Datenflüsse, Abrufarchitektur, Metadaten- und Autorisierungsregeln |
| Modell- und Anbieterschicht | Welche Fähigkeiten sind erforderlich? Welche Anbieter-/Laufzeitbeschränkungen sind relevant? Was sollte abstrahiert werden? | Modell-/Anbieterentscheidung, Routing-/Fallback-Richtlinie, Abstraktionsgrenze |
| Tools und Agenten | Welche Aktionen kann das System ausführen? Welche Aktionen erfordern eine Genehmigung? Wie werden Tool-Identitäten und Berechtigungen durchgesetzt? | Tool-Verträge, Agentengrenzen, Genehmigungs- und Least-Privilege-Regeln |
| Identität und Sicherheit | Welche menschlichen und maschinellen Identitäten existieren? Wo werden Geheimnisse aufbewahrt? Welche Vertrauensgrenzen werden überschritten? | Bedrohungs-/Vertrauensgrenzenmodell, Identitätsweitergabe, Geheimnis- und Autorisierungsdesign |
| Laufzeit und Bereitstellung | Wo werden Komponenten ausgeführt? Was ist lokal, Cloud, Edge oder hybrid? Welche Netzwerk- und Verfügbarkeitsannahmen bestehen? | Bereitstellungsansicht, Laufzeittopologie, Umgebungs- und Konnektivitätsentscheidungen |
| Evaluierung und Observability | Wie wird die Qualität vor und nach der Veröffentlichung gemessen? Welche Traces, Metriken, Logs und Nachweise sind erforderlich? | Evaluierungsplan, Telemetrie, Audit-Trail, Release-Gates |
| Betrieb und Änderung | Wie werden Modelle/Prompts/Konfiguration/Datenversionen geändert, zurückgerollt und unterstützt? | Betriebsmodell, Lifecycle-Kontrollen, ADRs, Runbooks, Änderungsregeln |
1. Produktbedarf in Architekturanforderungen übersetzen
KI-Architektur beginnt vor der Modellauswahl. Der Architekt bestimmt zunächst, was die Lösung erreichen soll und unter welchen Einschränkungen. Dies umfasst funktionales Verhalten, aber auch die NFRs und Richtlinien, die den Designraum einschränken: Sicherheit, Zuverlässigkeit, Latenz, Datenschutz, Standort, Wartbarkeit, Kosten und betriebliche Unterstützung.
Hier ist die Unterscheidung von A02 wichtig: Eine Anforderung wie „unautorisierte Benutzer dürfen keine eingeschränkten Dokumente abrufen“ ist keine Architekturentscheidung. Sie ist ein Treiber. Entscheidungen über Identitätsweitergabe, Indexpartitionierung, Metadatenfilterung, API-Grenzen und Autorisierungsdurchsetzung sind architektonische Antworten, die später validiert werden müssen.
2. Autoritative Daten, Abruf und Kontext entwerfen
KI-Systeme scheitern oft an der Grenze zwischen Modellverhalten und Unternehmenswahrheit. Ein Architekt muss definieren, welche Quellen autoritativ sind, was Aktualität und Herkunft bedeuten, wie Zugriffskontrolle den Abruf erreicht und wie abgerufene Evidenz zum Modellkontext wird. Eine Vektordatenbank, ein Embedding-Modell oder eine RAG-Bibliothek ist nicht die Architektur an sich.
Die aktuelle KI-Workload-Anleitung von Microsoft macht dieselbe Trennung explizit: Anwendungscode sollte Datenzugriffsgrenzen nicht umgehen; Benutzer- oder Mandantenkontext sollte sich in Abruf und Filterung fortsetzen; Grounding-Daten müssen für Durchsuchbarkeit ausgelegt sein und gleichzeitig Sicherheits- und Compliance-Anforderungen erfüllen.
3. Modelle und Anbieter als Abhängigkeiten behandeln, nicht als das gesamte System
Die Modellauswahl ist wichtig, sollte aber von der erforderlichen Fähigkeit und den Einschränkungen getrieben sein. Der Architekt berücksichtigt Reasoning- oder Generierungsqualität, Modalität, Kontextgrenzen, Latenz, Datenhandhabung, Bereitstellungsort, Anbieterverfügbarkeit, Kosten, Observability und Ersetzungsrisiko.
Die Anbieterabstraktion ist nicht automatisch eine „bessere Architektur“. Sie verursacht Engineering-Kosten und kann anbieterspezifische Fähigkeiten verbergen. Sie ist gerechtfertigt, wenn Portabilität, Fallback, Richtlinientrennung oder Multi-Provider-Routing eine explizite Anforderung sind. Andernfalls kann eine direkte Integration die bessere Entscheidung sein. Der Punkt ist, den Kompromiss bewusst zu treffen.
4. Werkzeuge, Aktionen und Agentengrenzen architektonisch gestalten
Wenn ein KI-System Werkzeuge aufrufen, Daten ändern, Nachrichten senden, Code ausführen oder Geschäftssysteme bedienen kann, ändert sich das architektonische Risiko. Werkzeugzugriff benötigt ein eigenes Identitäts- und Autorisierungsmodell. Die Fähigkeit des Modells, eine Aktion anzufordern, ist nicht dasselbe wie die Berechtigung, sie auszuführen.
Für agentische Workloads betont die aktuelle AWS-Richtlinie zusätzliche Dimensionen wie Agentenidentitäten, Werkzeugzugriff, Orchestrierung, menschliche Aufsicht, Tracing, Fehlerbehandlung und Kosten iterativer Reasoning-Schleifen. Dies sind Lösungsbelange, selbst wenn ein Framework einige der Implementierungsmechanismen verbirgt.
5. Vertrauensgrenzen und Berechtigungen explizit machen
Eine Produktions-KI-Lösung hat mehrere Vertrauensgrenzen: Browser oder Client, Anwendungs-Backend, KI-Orchestrierung, Retrieval-/Datendienste, Modellanbieter, Werkzeug-APIs, lokale Laufzeitumgebungen und externe Systeme. Jede Grenze sollte beantworten: Wer ruft an, in wessen Namen, mit welcher Berechtigung, für welche Ressource, mit welchem Audit-Trail und mit welcher Fehlereingrenzung?
Sicherheit kann nicht auf eine „Guardrail“ um das Modell herum verschoben werden. Die KI-Workload-Richtlinie von Microsoft verortet Sicherheit ausdrücklich über alle Architekturschichten hinweg und fordert Identitäts-/Zugriffsmanagement, Datenschutz, Inhaltskontrollen und Lebenszyklussicherheit. NIST behandelt Governance und Risikomanagement ebenfalls als kontinuierlich über den gesamten KI-Lebenszyklus.
6. Entscheiden, wo das System tatsächlich läuft
„Lokale KI“, „Cloud-KI“ und „hybride KI“ sind nur dann architektonische Aussagen, wenn die Ausführungs- und Datenpfade präzise sind. Ein lokaler Desktop-Prozess kann dennoch ein Cloud-Modell aufrufen. Eine in der Cloud gehostete Anwendung kann aus einer lokalen Datenquelle abrufen. Eine air-gapped Lösung hat völlig andere Einschränkungen bei Updates, Modellverteilung und Observability.
Der Architekt trennt daher Laufzeitort, Inferenzort, Datenort und Control Plane. Deren Vermischung erzeugt falsche Sicherheits- und Deployment-Annahmen.
7. Evaluation, Observability und operative Abnahme definieren
KI-Verhalten ist teilweise nichtdeterministisch, daher kann sich die Release-Definition nicht nur auf konventionelle Unit-Tests stützen. Die Architektur benötigt messbare Abnahmekriterien: Aufgabenerfolg, Groundedness oder Zitatkorrektheit wo relevant, Verweigerungsverhalten, Tool-Sicherheit, Latenz, Kosten, Zuverlässigkeit und Sicherheitstests. Die genauen Metriken hängen vom Anwendungsfall ab.
Die aktuelle Well-Architected-KI-Richtlinie von Microsoft behandelt Monitoring als kontinuierlich und wendet es auf Modellverhalten, Prompts/Completions, Anomalien, Sicherheit und Produktions-Qualitätsgates an. AWS behandelt Observability, Lifecycle-Management und Modell-/Prompt-Nachverfolgbarkeit ebenfalls als operative Architekturanliegen.
Was sollte die Rolle produzieren?
Architektur ist nicht die Präsentationsfolie. Die nützlichen Ergebnisse sind die Artefakte, die es Engineering, Sicherheit, Produkt und Betrieb ermöglichen, konsistente Entscheidungen zu treffen und später zu verstehen, warum das System in seiner aktuellen Form existiert.
| Artefakt | Zweck |
|---|---|
| Lösungskontext und -grenze | Zeigt Benutzer, externe Systeme, Hauptverantwortlichkeiten und was außerhalb des Geltungsbereichs liegt |
| Anforderungs-/NFR-Zuordnung | Verbindet Produktbedarf und Einschränkungen mit Architekturarbeit und Validierung |
| Komponenten- und Datenflussansichten | Zeigt Anwendung, Daten/Retrieval, Modell, Tools, Identität und Laufzeitinteraktionen |
| Vertrauens- und Berechtigungsmodell | Macht Identitäten, Secrets, Autorisierung, sensible Daten und risikoreiche Aktionen explizit |
| Architecture Decision Records | Bewahrt bedeutende Entscheidungen, Alternativen, Trade-offs, Status und Konsequenzen |
| Evaluations- und Abnahmeplan | Definiert den Nachweis, der erforderlich ist, um zu behaupten, dass die Lösung Qualitäts- und Sicherheitserwartungen erfüllt |
| Deployment- und Betriebsansicht | Definiert Umgebungen, Laufzeitorte, Observability, Rollback, Incident- und Lifecycle-Verantwortlichkeiten |
| Traceability-Links | Verbindet Anforderungen, Entscheidungen, Implementierungsarbeit, Tests und operative Nachweise |
Die Arbeit besteht überwiegend aus Trade-offs, nicht aus der Auswahl von „Best Practices“
Architektur existiert, weil wünschenswerte Qualitäten miteinander in Konflikt stehen. Ein kostengünstigeres Modell kann die Qualität verringern. Ein leistungsfähigeres Modell kann die Latenz oder Data-Governance-Einschränkungen erhöhen. Aggressives Caching kann Kosten und Geschwindigkeit verbessern, während es die Aktualität verkompliziert. Autonomere Agenten können menschlichen Aufwand reduzieren, während sie den Blast Radius und die Audit-Anforderungen erhöhen.
| Entscheidung | Potenzieller Nutzen | Potenzielle Kosten / Risiko | Architekturfrage |
|---|---|---|---|
| Managed-Cloud-Modell | Schnelle Einführung, starke Managed-Fähigkeiten | Externe Abhängigkeit, Daten- und Kosteneinschränkungen | Erlaubt die Workload den Anbieter-/Datenpfad und erfüllt sie die Resilienzanforderungen? |
| Lokale/self-hosted Inferenz | Kontrolle, Offline-/Private-Optionen | Hardware-, Betriebs- und Modell-Lifecycle-Aufwand | Ist der Kontrollnutzen die operative Verantwortung wert? |
| Integration eines einzelnen Anbieters | Einfachere Implementierung, volle Anbieterfunktionen | Höhere Wechsel-/Ausfallkonzentration | Sind Portabilität oder Fallback tatsächlich erforderlich? |
| Anbieterabstraktion | Portabilität, Routing- und Richtlinientrennung | Risiko des kleinsten gemeinsamen Nenners, mehr Code/Tests | Welche Unterschiede müssen sichtbar bleiben statt abstrahiert zu werden? |
| Großer Kontext | Mehr Informationen pro Anfrage | Latenz, Kosten, Aufmerksamkeitsverwässerung, Leckage-Oberfläche | Sollten Daten abgerufen/gefiltert werden, statt immer injiziert zu werden? |
| Leistungsstarke Tools / Autonomie | Mehr End-to-End-Automatisierung | Höhere Privilegien und Blast Radius bei Fehlern | Welche Aktionen erfordern Least Privilege, Bestätigung oder menschliche Genehmigung? |
| Strikte Validierung und Protokollierung | Bessere Nachweise und Betrieb | Latenz-, Speicher-, Datenschutz- und Komplexitätskosten | Welche Nachweise sind für dieses Risikoniveau erforderlich? |
Wie unterscheidet sich dies von angrenzenden Rollen?
Titel überschneiden sich stark zwischen Unternehmen. Die nützliche Unterscheidung ist der Umfang der Architekturverantwortung, nicht das HR-Label.
Angrenzende Rollen beantworten unterschiedliche primäre Fragen
| Rolle | Primärer Architekturfokus | |
|---|---|---|
| AI Solution Architect | One concrete AI-enabled solution/workload | How requirements, data, models, tools, security, runtime and operations fit together to deliver the target outcome |
| AI Platform Architect | Reusable AI platform capabilities across many solutions | Shared provider gateways, model access, identity, evaluation, retrieval services, observability, deployment patterns and developer experience |
| Enterprise AI Architect | Organization/portfolio-level target architecture | Capability landscape, governance, integration principles, shared platforms, standards, sourcing and strategic constraints across domains |
| AI / ML Engineer | Implementation of AI/ML behavior and pipelines | Models, data, inference, evaluation, application logic and engineering tasks within the architecture |
| Security Architect | Security architecture across systems | Threats, identity, authorization, data protection, controls, assurance and compliance boundaries |
| Product / Delivery Lead | Outcome, scope, prioritization and delivery system | Why/what to build, sequencing, stakeholders, milestones, acceptance and value realization |
In einem kleinen Produktteam kann eine Person mehrere dieser Bereiche abdecken. In einem großen Unternehmen können es separate Rollen mit formellen Review-Boards sein. Die Architekturverantwortung verschwindet nicht, wenn sich der Titel ändert.
Implementierungsnachweise: Wie diese Grenzen in meiner eigenen Arbeit erscheinen
SenseFlow: Bedarf → Anforderungen → Architektur → Validierung
Im SenseFlow-Projekt Source of Truth ist Technologie ausdrücklich der Product Vision untergeordnet. Die Entwicklungsstruktur bewegt sich von Problem und Produktvision über Benutzerbedürfnisse, Wert, Umfang, Epics, Stories und Abnahmekriterien hin zu Architektur, Implementierung, Validierung und Iteration.
Anforderungen sind so gestaltet, dass sie vom Produktziel → Fähigkeit → Epic → User Story → Akzeptanzkriterien → Technische Aufgaben nachvollziehbar sind. Wo praktikabel, enthalten sie funktionale Anforderungen, NFRs, Abhängigkeiten, Risiken, Annahmen, Akzeptanzkriterien und Validierungsmethoden. Wesentliche Entscheidungen bewahren die Entscheidung, den Grund, Alternativen, Abwägungen, Status und Datum/Version.
Das ist architektonische Arbeit, bevor ein bestimmtes KI-Framework oder Modell gewählt wird: Sie schützt die Verbindung zwischen Produktabsicht und technischen Entscheidungen und macht spätere Änderungen überprüfbar statt implizit.
Aaasaasa AI Client: Konzepte trennen, bevor sie integriert werden
Aaasaasa AI Client bietet ein eher implementierungsnahes Beispiel. Sein AI Hub trennt bewusst Agent/Client, Anbieter, Modell, Verbindungs-/Laufzeitort, Berechtigungen und Web-Client. Eine lokale Laufzeit bedeutet nicht automatisch lokale Inferenz, und Berechtigungen werden als Laufzeit-/Tool-Richtlinie behandelt, nicht als Eigenschaft des Modells.
Die Desktop-Architektur definiert außerdem eine Vertrauensgrenze: Der Nuxt-Renderer ist im Verhältnis zum Electron-Main-Prozess nicht vertrauenswürdig. Ein schmaler Preload und validiertes IPC vermitteln den Zugriff auf KI-Dienste, Einstellungen, verschlüsselte Geheimnisse, Workspace-/Datendienste und Laufzeiten. Cloud-Anmeldeinformationen verbleiben im privilegierten Main-Prozess; Renderer-Code erhält normalisierten Zustand statt roher Geheimnisse oder uneingeschränkten Betriebssystemzugriff.
Routing-Entscheidungen sind ebenfalls architektonisch. Die Implementierung fällt nicht stillschweigend von einer lokalen Route auf kostenpflichtige Cloud-Inferenz zurück; eine Cloud-Route erfordert ausdrückliche Bestätigung. Direct Chat hat standardmäßig keine Dateisystem- oder Shell-Tools, während die Agent-Ausführung ein ausgewähltes Workspace- und Berechtigungsprofil anwendet. Dies sind lösungsbezogene Entscheidungen über Vertrauen, Kosten, Ausführung und Benutzererwartung – keine Modellfunktionen.
Wie aktuelle Architektur-Frameworks diesen breiteren Umfang unterstützen
ISO/IEC/IEEE 42010:2022 bietet eine allgemeine Disziplin für Architekturbeschreibungen über Software, Systeme und Unternehmen hinweg. Es ist bewusst breiter als KI und schreibt keine einzelne Architekturmethode oder Berufsbezeichnung vor. Das macht es hier als Abgrenzung nützlich: KI-Lösungsarchitektur ist immer noch Architektur, mit Stakeholder-Anliegen, mehreren Sichten und wesentlichen Beziehungen, die klar ausgedrückt werden müssen.
NIST AI RMF 1.0 rahmt KI-Risikomanagement durch Govern, Map, Measure und Manage und betont, dass Risikomanagement über den gesamten Lebenszyklus des KI-Systems kontinuierlich sein sollte. Das Generative AI Profile (NIST AI 600-1) passt dieses Framework an GAI-Risiken und organisatorische Prioritäten an. Dies unterstreicht, dass Architektur nicht bei der funktionalen Modellleistung stehen bleiben kann.
Die aktuelle Azure Well-Architected AI-Anleitung von Microsoft trennt Anwendungsdesign, Anwendungsplattform, Trainingsdaten, Grounding-Daten und Datenplattform-Anliegen und verbindet sie wiederholt mit Zuverlässigkeit, Sicherheit, operativer Exzellenz, Leistung und Kosten. Die Generative AI- und Agentic AI-Lenses von AWS behandeln Beobachtbarkeit, Sicherheit, Zuverlässigkeit, Modell-/Tool-Lebenszyklus, Kosten und menschliche Aufsicht ebenfalls als Architekturanliegen.
Häufige Missverständnisse
| Missverständnis | Korrektur |
|---|---|
| „Der Architekt wählt das LLM.“ | Die Modellwahl ist eine Entscheidung innerhalb einer größeren Lösungsarchitektur. |
| „Prompt Engineering ist die Architektur.“ | Prompts beeinflussen das Verhalten, aber sie definieren nicht Identität, Datenzugriff, Vertrauensgrenzen, Bereitstellung, Tool-Berechtigungen oder Betrieb. |
| „RAG löst Unternehmenswissen.“ | Retrieval ist nur ein Subsystem; Autorisierung, Herkunft, Aktualität, Evidenz, Indexierung, Evaluierung und Quellen-Governance müssen noch entworfen werden. |
| „Lokale Laufzeit bedeutet private/lokale KI.“ | Laufzeit-, Inferenz-, Daten- und Control-Plane-Orte sind separate architektonische Eigenschaften. |
| „Wenn ein Anbieter Guardrails bietet, ist Sicherheit abgedeckt.“ | Sicherheit umfasst Identität, Autorisierung, Geheimnisse, Datenflüsse, Tools, Protokollierung, Bereitstellung, menschliche Genehmigung und Anbietergrenzen. |
| „Der Architekt muss jede Komponente schreiben.“ | Praktische Implementierung kann die architektonische Qualität verbessern, aber die Rolle ist durch integrierte Entscheidungsverantwortung definiert, nicht dadurch, jede Schicht selbst zu codieren. |
| „Ein Architekturdiagramm beweist Produktionsreife.“ | Reife erfordert implementierte Kontrollen und Validierungsnachweise über Qualität, Sicherheit, Betrieb und geschäftliche Abnahme hinweg. |
Fehlermodi, die ein AI Solution Architect verhindern sollte
| Fehlermodus | Warum es passiert | Architektonische Korrektur |
|---|---|---|
| Modell-zuerst-Design | Eine vielversprechende Modell-Demo wird zum Systembauplan | Mit Ergebnis, Einschränkungen und Validierung beginnen; das Modell innerhalb dieses Rahmens auswählen |
| Prototyp-Berechtigungen in Produktion | Gemeinsame Anmeldeinformationen und breiter Zugriff überleben den PoC | Identitätsweitergabe, geringste Rechte, Tool-Geltungsbereiche und Genehmigungsgrenzen früh definieren |
| Retrieval ohne Autorisierung | Suchqualität wird vor Datenzugriffsregeln entworfen | Benutzer-/Mandantenkontext in Retrieval übernehmen und Autorisierung an Datenzugriffsgrenzen durchsetzen |
| Stillschweigende Anbieter-/Laufzeitannahmen | „Lokal“, „Cloud“ und „Offline“ werden unpräzise verwendet | Laufzeit-, Inferenz-, Daten- und Control-Plane-Ort separat dokumentieren |
| Kein Fehlervertrag | Der Happy Path wird entworfen, aber Ablehnungs-/Fallback-/Fehlerverhalten nicht | Verhalten bei leerem Retrieval, nicht verfügbarem Modell, Tool-Fehler und Richtlinienverweigerung spezifizieren |
| Evaluierung nach der Implementierung | Qualität wird kurz vor dem Start manuell beurteilt | Messbare Abnahmekriterien und repräsentative Evaluierungssets definieren, bevor die Architektur eingefroren wird |
| Nicht nachvollziehbare Änderung | Modelle, Prompts, Retrieval oder Berechtigungen ändern sich ohne Architekturhistorie | Kritische Konfiguration versionieren und wesentliche Entscheidungen/Validierungsnachweise aufzeichnen |
| Betrieb nur als Infrastruktur behandelt | KI-Verhalten ist nach der Bereitstellung nicht beobachtbar | Traces, Qualitätsmetriken, Sicherheitsereignisse, Kostentelemetrie und Rollback zusammen entwerfen |
Eine praktische Entscheidungssequenz
Entscheidungssequenz für KI-Lösungsarchitektur
Randfälle und Grenzen der Rolle
Einige KI-Produkte werden von Modelltraining, wissenschaftlicher Experimentierung oder spezialisierter Hardware dominiert. In diesen Fällen können Modell-/Data-Science- und ML-Systemarchitektur viel tiefer gehen als die hier gezeigte lösungsbezogene Karte. Der AI Solution Architect benötigt weiterhin Integrations- und Betriebsgrenzen, aber die Trainingsplattform selbst kann von einer spezialisierten Architektur verantwortet werden.
Am anderen Extrem rechtfertigt eine einfache SaaS-Integration möglicherweise keinen dedizierten Architekten. Ein Senior Engineer oder technischer Produktverantwortlicher kann dieselbe Architekturverantwortung tragen. Der nützliche Test ist nicht der Titel, sondern ob bedeutende schichtübergreifende Entscheidungen bewusst getroffen und validiert werden.
Regulierte, souveräne, air-gapped, sicherheitskritische, hochautonome oder mandantenfähige Systeme verschieben ebenfalls den Schwerpunkt. Identität, Isolation, Datenresidenz, Assurance, Update-Mechanismen, menschliche Aufsicht und Auditierbarkeit können die Modellqualität in der Architektur dominieren.
Was würde diese Antwort ändern?
Die genaue Verantwortungsgrenze ändert sich, wenn die Architektur von einer Anwendung zu einer wiederverwendbaren Plattform oder zu einer unternehmensweiten Zielarchitektur übergeht. Deshalb verdienen AI Platform Architect und Enterprise AI Architecture eine separate kanonische Behandlung, anstatt in diese Rolle integriert zu werden.
Technologieänderungen sind ebenfalls wichtig. Neue Modellfähigkeiten, Protokolle, lokale Runtimes und Managed Services können einige Implementierungsarbeiten eliminieren, während sie neue Vertrauens- oder Betriebsgrenzen schaffen. Die stabile Verantwortung besteht darin, diese Änderungen als Systemänderungen zu verstehen – nicht ein neues Framework als Ersatz für Architektur zu behandeln.
Checkliste für AI Solution Architects
| Prüfung | Frage |
|---|---|
| Ergebnis | Sind das Nutzer-/Geschäftsergebnis und die Nicht-Ziel-Grenze explizit? |
| Anforderungen | Sind funktionale Anforderungen, NFRs, Einschränkungen und Akzeptanzkriterien nachverfolgbar? |
| Daten | Sind autoritative Quellen, Provenienz, Aktualität, Aufbewahrung und Zugriffsregeln definiert? |
| Retrieval/Kontext | Reicht die Autorisierung bis zum Retrieval und zur Kontextkonstruktion? |
| Modell/Anbieter | Ist die Modell-/Anbieterauswahl an Fähigkeiten und Einschränkungen gebunden statt an Präferenzen? |
| Tools/Agenten | Sind Aktionsgrenzen, Berechtigungen, Genehmigungen und Fehlerverhalten explizit? |
| Identität/Sicherheit | Sind menschliche/maschinelle Identitäten, Geheimnisse und Vertrauensgrenzen definiert? |
| Runtime | Sind Runtime-, Inferenz-, Daten- und Control-Plane-Standorte unterschieden? |
| Evaluierung | Gibt es messbare Belege für Qualität, Sicherheit und Akzeptanz? |
| Observability | Können Produktionsverhalten, Fehler, Kosten und Sicherheitsereignisse untersucht werden? |
| Änderung | Sind bedeutende Architekturentscheidungen und Ersetzungen nachverfolgbar? |
| Betrieb | Ist die Verantwortung für Deployment, Rollback, Vorfälle und Lebenszyklus klar? |
Fazit
Ein AI Solution Architect ist die Person oder Architekturfunktion, die eine AI-Chance in ein kohärentes technisches System verwandelt. Die Schlüsselkompetenz ist nicht, die meisten Modellnamen zu kennen; es geht darum, Produktbedarf, Anforderungen, Daten, Anwendungsarchitektur, AI-Fähigkeiten, Sicherheit, Runtime, Bereitstellung und Validierung zu verbinden, ohne die Grenzen zwischen ihnen zu verlieren.
Eine starke AI-Lösungsarchitektur lässt sich daher wie folgt zusammenfassen: Ziel definieren → Anforderungen und Einschränkungen festlegen → Systemgrenzen entwerfen → bedeutende Trade-offs explizit machen → durch klare Verträge implementieren → gegen Belege validieren → bewusst betreiben und weiterentwickeln. Das Modell ist wichtig. Die Lösung ist das Produkt.
AI Solution Architect — FAQ
Was ist ein AI Solution Architect?
Ist ein AI Solution Architect dasselbe wie ein AI Engineer?
Muss ein AI Solution Architect programmieren können?
Ist die Auswahl eines LLM die Hauptaufgabe?
Was ist der Unterschied zwischen einem AI Solution Architect und einem AI Platform Architect?
Was ist der Unterschied zwischen einem AI Solution Architect und einem Enterprise AI Architect?
Wo passen RAG und Agenten hinein?
Was beweist, dass die Architektur funktioniert?
Kernbegriffe
- AI Solution Architect
- Architekturverantwortung für eine konkrete AI-fähige Lösung oder Workload, die Produktanforderungen mit Anwendungs-, Daten-, Modell-, Tool-, Sicherheits-, Runtime- und Betriebsdesign integriert.
- Systemgrenze
- Die explizite Trennung zwischen dem, was zur Lösung gehört, und den Nutzern, Systemen, Anbietern, Datenquellen und Umgebungen, mit denen sie interagiert.
- Vertrauensgrenze
- Ein Punkt, an dem Daten, Identitäten oder Steuerung zwischen Komponenten mit unterschiedlichen Vertrauensannahmen wechseln und daher explizite Sicherheitskontrollen erfordern.
- Grounding
- Die Versorgung eines AI-Modells mit relevanten externen Informationen oder Belegen, damit seine Antwort auf Quellen jenseits der Modellparameter basieren kann.
- Anbieterabstraktion
- Eine Anwendungsgrenze, die Teile der Lösung von einer Modell-/Anbieterschnittstelle entkoppelt. Nützlich, wenn durch Routing-, Portabilitäts- oder Richtlinienanforderungen gerechtfertigt, aber nicht frei von Trade-offs.
- Evaluierung
- Strukturierte Messung des Verhaltens einer AI-Workload gegen definierte Akzeptanzkriterien, einschließlich Aufgabenqualität und relevanter Sicherheits-, Leistungs- und Betriebseigenschaften.
- AI Platform Architect
- Architekturrolle, die sich auf wiederverwendbare AI-Plattformfähigkeiten konzentriert, die von mehreren Lösungen genutzt werden, statt auf die Architektur einer Workload.
- Enterprise AI Architecture
- Architektur auf Organisationsebene, die AI-Fähigkeiten, Plattformen, Governance, Integration und strategische Einschränkungen über ein Portfolio hinweg koordiniert.
Verwandtes kanonisches Wissen
Dieser Artikel gehört zum Cluster AI Architecture Foundations. Seine direkten Grundlagen sind Generative AI Explained: Models, Retrieval, Tools and Applications Are Not the Same Thing und ADR vs NFR: Architecture Decisions and System Quality Are Not the Same Thing. Benachbarte kanonische Knoten umfassen Agentic AI Explained, Source of Truth in AI Systems, Vector Databases, Embeddings and Reranking, What Is Context Engineering?, RBAC vs Tenant Isolation, AI Platform Architect, Enterprise AI Architecture und AI Governance. URLs werden bewusst nicht erfunden, wo diese Knoten noch nicht veröffentlicht sind.
What Is RAG? The Simplest Explanation of How It WorksBestehende kanonische Erklärung von stajic.de zu retrieval-augmented generation, nützlich für den Retrieval-/Grounding-Teil der AI-Lösungsarchitektur.
Primärquellen und aktuelle Architekturanleitung
Die folgenden externen Quellen stützen die allgemeinen Architekturbehauptungen; die Abschnitte zu SenseFlow und Aaasaasa AI Client sind ausdrücklich originäre Projekt-/Implementierungsbelege. Referenzen zum aktuellen Stand wurden am 8. Oktober 2026 geprüft. NIST weist darauf hin, dass AI RMF 1.0 überarbeitet wird, sodass versionssensitive Governance-Referenzen bei Veröffentlichung eines Nachfolgers erneut geprüft werden sollten.
ISO/IEC/IEEE 42010:2022 — Architecture DescriptionAktueller internationaler Standard für die Struktur und Ausdrucksweise von Architekturbeschreibungen. Er unterscheidet Architektur von ihrer Beschreibung und schreibt keine einzelne Architekturmethode, kein Werkzeug und kein Aufzeichnungsformat vor.
NIST AI Risk Management FrameworkNISTs AI RMF-Ressourcenseite. Stand Oktober 2026 wird dort angegeben, dass AI RMF 1.0 überarbeitet wird, und es werden das Generative AI Profile und verwandte Ressourcen verlinkt.
NIST AI RMF Core — Govern, Map, Measure, ManageOffizielle NIST AIRC-Präsentation des AI RMF 1.0 Core, einschließlich der vier Funktionen und der lebenszyklusorientierten Risikomanagement-Rahmung.
NIST AI 600-1 — Generative AI ProfileSektorübergreifendes Generative-AI-Profil für AI RMF 1.0, veröffentlicht am 26. Juli 2024 und 2026 von NIST aktualisiert.
Microsoft Azure Well-Architected — AI WorkloadsAktuelle Architekturleitlinien auf Workload-Ebene, die KI-Anwendungsdesign, Anwendungsplattform, Trainingsdaten, Grounding-Daten, Datenplattform und Produktionsreife abdecken.
Microsoft — Application Design for AI WorkloadsLeitlinien zu Modell-/Tool-Abstraktion, Datenzugriffsgrenzen, Identitätsweitergabe, Autorisierung und Trennung von Client-, Intelligenz-, Wissens- und Tool-Schichten.
Microsoft — Design Principles for AI WorkloadsAktuelle Designprinzipien für KI-Workloads in den Bereichen Zuverlässigkeit, Sicherheit, Kosten, operative Exzellenz und Leistung, einschließlich Identitäts- und Datenschutzverantwortlichkeiten.
Microsoft — MLOps and GenAIOps for AI WorkloadsLeitlinien zum Produktionslebenszyklus, die Monitoring, Qualitätsgates, Modell-/Prompt-Verhalten, Sicherheit und operative Messung abdecken.
AWS Well-Architected Generative AI LensAWS-Architekturleitlinien für generative KI-Workloads in den Bereichen operative Exzellenz, Sicherheit, Zuverlässigkeit, Leistungseffizienz, Kostenoptimierung und Nachhaltigkeit.
AWS Well-Architected Agentic AI Lens2026 veröffentlicht, behandelt agentische architekturspezifische Belange einschließlich Identitäten, Tools, Orchestrierung, menschliche Aufsicht, Zuverlässigkeit, Tracing und Kosten von Reasoning-Schleifen.
Related Articles

Die GPU ist nicht das Produkt: Zukunftssichere private KI-Architektur
Private KI-Infrastruktur sollte nicht um eine einzige GPU oder ein einziges Modell herum konzipiert werden. Ein resilienterer Ansatz kombiniert schnelle Inferenz-GPUs, speicherstarke KI-Systeme, physische KI-Knoten und optionale Frontier-Cloud-Modelle hinter einer fähigkeitsbewussten Routing-Schicht.

Agentische KI erklärt: Wenn ein KI-System planen, Werkzeuge nutzen und handeln kann
Agentische KI verwendet Modelle innerhalb mehrstufiger Ausführungsschleifen, in denen sie Werkzeuge auswählen, Ergebnisse beobachten, den Zustand aktualisieren und ihre nächste Aktion innerhalb expliziter Laufzeit- und Berechtigungsgrenzen anpassen können.

Die Antwortgültigkeitsgrenze: Die fehlende Schicht zwischen Relevanz und zuverlässigen KI-Antworten
Eine Quelle kann relevant und maßgeblich sein und dennoch falsch für die gestellte Frage. Die fehlende Ebene ist die Anwendbarkeit: die Bedingungen, unter denen eine Antwort gilt, und die Veränderungen, die erzwingen, dass sie überdacht werden muss. Dieser Artikel führt die Answer Validity Boundary als ein Quellendesign-Muster für Menschen, KI-Suche und RAG-Systeme ein.

Was sollte ein KI-Agent behalten, vergessen, neu berechnen oder erneut abrufen?
Langlaufende Agenten sollten sich nicht alles merken. Dieser Artikel bietet ein praktisches Lebenszyklusmodell für die Entscheidung, was in den dauerhaften Speicher gehört, was erneut abgerufen werden sollte, was sicherer neu zu berechnen ist und was ablaufen oder ersetzt werden sollte.

Wie man erkennt, ob ein KI-Agent tatsächlich die richtigen Belege verwendet hat
Ein KI-Agent kann Quellen zitieren und trotzdem die falschen Belege verwenden. Dieser Artikel stellt eine praktische Methode zur Überprüfung der Belegung von Behauptungen, der Quellenautorität, der Anwendbarkeit, der Herkunft sowie der Frage vor, ob die Belege die Antwort tatsächlich beeinflusst haben.

MCP erklärt: Was es verbindet, was es nicht tut und wo es passt
Das Model Context Protocol verbindet KI-Anwendungen über eine standardisierte Client-Server-Grenze mit externen Tools, Ressourcen und Prompts. Erfahren Sie, was MCP tut, was es nicht tut und wo es in der Agentenarchitektur einzuordnen ist.

Vektordatenbanken, Embeddings und Reranking: Drei verschiedene Teile des Retrievals
Embeddings repräsentieren Bedeutung, Vektordatenbanken rufen Kandidaten ab und Reranker verfeinern Ergebnisse. Erfahren Sie, wie sich diese drei Retrieval-Ebenen unterscheiden und in RAG zusammenwirken.

Luftgetrennte KI: Wie KI-Systeme ohne Internet- oder Cloud-Zugriff funktionieren
Air-gapped AI führt Modelle, RAG und KI-Anwendungen innerhalb einer isolierten Sicherheitsdomäne ohne Internet- oder Cloud-Abhängigkeiten aus. Erfahren Sie, wie Modelle, Daten, Updates und Tools offline funktionieren.

Generative KI erklärt: Modelle, Retrieval, Tools und Anwendungen sind nicht dasselbe
Generative KI ist mehr als ein Modell. Erfahren Sie, wie Modelle, Retrieval, Tools, Kontext, Runtimes und Anwendungen in Produktions-KI-Systemen zusammenwirken.

MCP vs A2A vs UCP vs AP2 vs A2UI: Der Agenten-Protokoll-Stack erklärt
MCP, A2A, UCP, AP2 und A2UI werden oft als konkurrierende Agentenstandards dargestellt. Sie lösen größtenteils unterschiedliche Interoperabilitätsprobleme. Dieser Leitfaden ordnet jedes Protokoll der Grenze zu, die es tatsächlich standardisiert—und zeigt, wie sie in einem Produktionssystem zusammenarbeiten können.

Was ist ein KI-Plattform-Architekt? Modelle, Daten, Laufzeitumgebung, Sicherheit und Betrieb
Ein KI-Plattform-Architekt entwirft wiederverwendbare KI-Grundlagen über Modelle, Anbieter, Retrieval, Agenten, Identität, Sicherheit, Evaluierung, Observability und Betrieb hinweg.

Enterprise-KI-Architektur: Was ändert sich, wenn KI in ein Unternehmen eintritt
Enterprise-KI-Architektur erklärt, wie KI Unternehmenssysteme über Datenhoheit, Identität, Berechtigungen, Anbieter, Risiko, Governance, Evaluierung, Compliance und Betrieb hinweg verändert.