大语言模型（LLM）提示词注入

一.介绍什么是LLM？LLM 是 Large Language Model 的缩写，中文翻译为**”大语言模型”**，它是一种基于海量文本数据训练的人工智能系统，它本质上是一个极其复杂的”概率预测机”，通过分析上下文的统计规律来预测并生成后续的字符；由于其在处理信息时并不严格区分”指令”与”数据”，攻击者可以利用这一特性构造特定的输入（即提示词注入），从而误导模型忽略原始约束并执行违规指令。 大数据解决方案 什么是提示词注入？简单来说，提示词注入是一种针对 AI 应用的攻击技术。攻击者通过构造特殊的输入文本，巧妙地干扰或劫持大模型的预测逻辑，迫使模型忽略开发者设定的安全准则、道德约束或功能限制，转而执行攻击者预设的恶意指令。 如果把大模型比作一个拥有极高智商但性格”单纯”的助手，开发者给它的指令是：“你是公..