评估GPT模型的可信度:全面分析与潜在风险

伊利诺伊大学香槟分校联合斯坦福大学、加州大学伯克利分校等机构,推出了一个针对大型语言模型(LLMs)的综合可信度评估平台。相关研究成果发表在论文《DecodingTrust:全面评估GPT模型的可信度》中。

研究发现了一些之前未被发现的可信度相关漏洞。例如,GPT模型容易被误导产生有毒和偏见的输出,还可能泄露训练数据和对话历史中的隐私信息。虽然在标准基准测试中,GPT-4通常比GPT-3.5更可信,但在面对恶意设计的系统或用户提示时,GPT-4反而更容易受到攻击,这可能是因为GPT-4更严格地执行了误导性指令。

研究团队从8个可信度角度对GPT模型进行了全面评估,包括对抗性鲁棒性、有毒性和偏见、隐私泄露等方面。例如,为评估模型对文本对抗攻击的鲁棒性,团队设计了三种评估场景:标准AdvGLUE基准测试、不同指导性任务说明下的AdvGLUE测试,以及新生成的具有挑战性的AdvGLUE++测试。

在模型对对抗性演示的鲁棒性方面,研究发现GPT-3.5和GPT-4不会被反事实示例误导,甚至可从中受益。但是,反欺诈演示可能误导模型对反事实输入做出错误预测,尤其是当反事实演示靠近用户输入时,GPT-4更易受影响。

关于有毒性和偏见,在良性和无目标系统提示下,两种GPT模型对大多数刻板印象主题的偏差不大。但在误导性系统提示下,两种模型都可能被诱导同意有偏见的内容,其中GPT-4更容易受影响。模型偏差还取决于用户提示中提到的人口群体和刻板印象主题。

在隐私泄露方面,研究发现GPT模型可能会泄露训练数据中的敏感信息,如电子邮件地址。在某些情况下,利用补充知识可显著提高信息提取的准确率。此外,模型还可能泄露对话历史中注入的私人信息。总体而言,GPT-4在保护个人身份信息(PII)方面比GPT-3.5更稳健,但在特定条件下仍可能泄露所有类型的PII。

这项研究为GPT模型的可信度评估提供了全面视角,揭示了潜在的风险和挑战。研究团队希望这项工作能够促进学术界和业界在此基础上继续深入研究,共同努力创造更强大、更可信的语言模型。