AI

多 Agent LLM 系統的並發陷阱:TLA+ 形式化驗證揭示四大安全隱患

研究者用 TLA+ 對多 Agent LLM 系統建立形式化模型,識別出四種結構性並發異常:stale-generation、phantom-tool、causal-cascade、tool-effect reordering。這些不只是 bug,而是任何採用「讀取-生成-寫入」模式的多 agent 架構的固有攻擊面,其中 phantom-tool 可被用於工具層的惡意替換攻擊。

更多 →
AI

Prompt Engineering、Context Engineering、Harness Engineering、Loop Engineering——你一直在做同一件事

AI 工程界近年出現了四個越來越常見的術語:Prompt Engineering、Context Engineering、Harness Engineering、Loop Engineering。本文主張這四個術語描述的並非四種不同的技能,而是同一種活動——用文字定義 AI 要解決的問題——在不同尺度上的具體展現。差別不在「做什麼」,而在「作用在哪一層」:從單次輸入(prompt)、到 session 全局的資訊管理(context)、到持久環境的設計(harness)、到多輪迭代的節奏控制(loop)。術語的存在是有用的,但它的價值在於幫你意識到「我現在在哪一層作業」,而不是因為這四件事在本質上是不同的技法。真正稀缺的能力是:在任何尺度上,都能把問題看成文字定義的問題。

更多 →
AI

Prompt Engineering, Context Engineering, Harness Engineering, Loop Engineering — You're Always Doing the Same Thing

The AI engineering field has produced four distinct terms: Prompt Engineering, Context Engineering, Harness Engineering, and Loop Engineering. This essay argues all four describe the same fundamental activity — using text to define problems for AI — at different levels of abstraction. The differences lie not in method but in scope: a single input (prompt), a session's information landscape (context), a persistent operating environment (harness), and a multi-turn iteration's rhythm (loop). The terminology is useful — it helps you become conscious of which layer you're working on — but the underlying material never changes. The rarest skill in AI engineering is maintaining consistent problem definition across all four layers simultaneously.

更多 →
Tech

ZTAIMM — 當零信任遇上 AI

ZTMM 定義了組織的零信任成熟度,但 AI 帶來了新的信任邊界。ZTAIMM 是對這個缺口的一次回答——從模型完整性、訓練資料、Prompt 安全,到 AI Agent 治理,重新定義「永不信任,持續驗證」在 AI 時代的意義。

更多 →
Tech

Anthropic Claude Dispatch

AI 正在加速的結構性轉變;Anthropic Claude Dispatch等相關應用都在表明了人與 AI 的協作模式,正在從逐步引導轉向目標導向,整合才會是下一個最大的問題。

更多 →