Tag: Agent
All the articles with the tag "Agent".
-
Agent的可靠性与安全性：面面俱到
本文深入探讨了Agent在设计与部署中面临的可靠性与安全挑战，并提供了详细的应对策略，涵盖死循环处理、输出稳定性、LLM服务故障、Prompt注入攻击及危险操作防护等多个方面。
-
Agent高危操作防护机制设计与落地
本文围绕Agent高危操作防护机制展开论述，从身份与租户边界、最小权限原则、动作分级、数据和邮件护栏到沙箱回滚和审计监控等方面，详细介绍了Agent系统设计中的各项安全措施，旨在确保Agent能够安全、可控地执行操作，并有效防范潜在风险。