新技术!

以工程视角审视新兴技术:AI代理、RAG、本地模型、协议、结构化知识、平台架构和现代应用运行时,依据它们实际能实现什么来评估。
已发布:
Admin User
已更新:
published
新技术!

当新技术能够创造出有用的能力、改变架构边界或使现有系统得到实质性提升时,它才具有意义。我评估新兴的人工智能、平台和软件技术,依据的是它们实际能够实现什么、如何与现有系统集成,以及它们引入了哪些运维方面的权衡。

我当前的技术关注方向

AI 应用架构

现代人工智能中有趣的层面越来越是模型周围的系统:提供商抽象、检索、上下文构建、工具、权限、状态、评估、可观测性和运行时控制。模型仍然重要,但应用架构决定了它们的能力如何变得可用。

  • 本地、托管和混合模型运行时
  • 提供商和模型抽象
  • 能力感知的模型路由
  • 结构化输出和应用 API
  • 评估和行为验证
  • 权限感知的工具执行
  • AI 客户端和受控运行时环境

智能体、工具与协议

智能体系统引入了一个新的应用层,其中模型可以选择工具、维护状态、观察结果并朝着目标继续推进。重要的工程问题涉及执行边界、权限、可靠性、状态管理以及能力如何暴露给运行时。

MCP 等协议以及相关的智能体互操作性方法之所以重要,是因为它们标准化了模型、运行时、工具、数据和其他系统之间的特定连接。它们应被理解为架构层,而不是被当作完整应用的替代品。

检索、RAG 与上下文工程

检索增强生成正在从简单的向量搜索模式演变为更广泛的检索架构。嵌入、词汇搜索、元数据过滤、重排序、真源选择、来源追踪和上下文构建是各自独立但需要协同工作的关注点。

  • 嵌入和语义表示
  • 向量和词汇检索
  • 混合搜索
  • 重排序
  • 元数据和权限过滤
  • 来源追踪和证据
  • 上下文工程
  • 答案验证边界

本地、私有与受控 AI

本地推理正在成为与托管模型 API 并行的实用架构选项。Ollama 和 OpenAI 兼容的本地运行时等工具允许应用程序根据隐私、延迟、能力、成本和运维约束在本地和远程执行之间进行选择。

本地 AI 不应与气隙或主权 AI 混淆。这些概念对基础设施、依赖、软件供应链、运维和组织控制提出了不同的要求。

面向人类和 AI 的结构化知识

内容系统越来越多地服务于浏览器页面之外的目的。结构化文档还可以支持搜索、检索、翻译、知识图谱、内部链接和 AI 应用。这使得块标识、元数据、来源追踪、语义关系和多语言同步成为架构层面的关注点。

stajic.de 使用结构化的 EditorJS 内容和多语言发布,作为探索从传统 CMS 内容向机器可读技术知识转变的实践环境。

现代平台工程

现代应用技术栈结合了服务端渲染、类型化的前端与后端代码、关系型数据模型、模块化 API 以及生产基础设施。当架构契合度合适时,Nuxt、Vue、TypeScript、Node.js、Prisma 和 PostgreSQL 为这类系统提供了坚实的当前基础。

桌面 AI 与本地运行时集成

随着 AI 工作负载需要对本地模型、文件、工具和操作系统能力进行受控访问,桌面应用再次变得重要。Aaasaasa AI Client 使用 Electron 和 TypeScript,结合本地与远程 AI 运行时、提供商抽象和受控的应用权限,探索这一边界。

身份、权限与 AI 安全边界

随着 AI 应用获得对工具和企业数据的访问权限,传统的应用安全变得更加重要。身份验证、授权、RBAC、租户隔离、运行时权限和可审计性必须始终作为模型行为周围的明确边界。

生产比演示更重要

技术演示回答的是某件事能否运行。生产架构则要问:当系统拥有真实用户、数据、故障、迁移和不断变化的需求时,它是否仍然可理解、安全、可维护且可运营。

  • 它能否被可预测地部署和升级?
  • 故障能否被观察和诊断?
  • 数据和权限能否被控制?
  • 如果依赖发生变化,该技术能否被替换?
  • 团队能否理解并运营它?
  • 它的收益是否足以证明其复杂性是合理的?

采用、评估或实验

并非每一项有前景的技术都适合立即投入生产。我将已经足够成熟、可用于常规实施的技术,与应在受控概念验证中评估的技术,以及主要仍用于研究和实验的技术区分开来。

技术决策层级

采用评估实验
目的Use in normal implementation where the fit is clear.Validate capability and operational fit through a focused PoC.Explore emerging capability before committing architecture.
所需证据Stable behavior, operational understanding and maintainability.Working prototype, measurable constraints and identified risks.Technical learning and evidence about what is or is not possible.
可接受的不确定性LowControlledHigh

通过实现来验证技术

新技术尽可能通过实现来评估。stajic.de、Aaasaasa AI Client、SenseFlow、loving.rocks、figure.rocks 和 bazify.com 提供了不同的环境,用于测试平台架构、多语言发布、AI 集成、本地运行时、搜索、技术 SEO 和生产运营。

目标是更好的系统,而不是更多的技术

我密切关注新兴技术,但新颖性本身并不是设计标准。值得采用的技术,是那些能够创造有用能力,同时让周边系统保持可理解、可控且可交付的技术。

技术产品、平台与 AI 服务

了解这些技术如何与架构、工程和生产交付相连接。