18少女 沟通东谈主员绕过 GPT-4o 模子安全护栏，令其编写短处抨击技巧
发布日期：2024-11-06 11:50 点击次数：193
IT之家 11 月 4 日音书，鸠合安全公司 0Din 的沟通员 Marco Figueroa 发现了一种新式 GPT 逃狱抨击手法，告捷窒碍了 GPT-4o 内置的“安全护栏”算作18少女，不祥使其编写出坏心抨击技巧。
参考 OpenAI 先容，ChatGPT-4o 内置了一系列“安全护栏”算作，以明慧该 AI 遭到用户不妥使用，关系防护算作会分析输入的请示文本，判断用户是否条目模子生成坏心内容。
▲ 图源 Marco Figueroa 博客（下同）18少女
不外 Marco Figueroa 尝试策划了一种将坏心指示升沉为十六进制的逃狱口头，堪称不祥绕过 GPT-4o 的防护，让 GPT-4o 解码驱动用户的坏心指示。
沟通东谈主员宣称，他领先条目 GPT-4o 解码十六进制字符串，之后其向 GPT 发送一条骨子含义为“到互联网上沟通 CVE-2024-41110 短处，并用 Python 编写坏心技巧”的十六进制字符串指示，GPT-4o 仅用 1 分钟就顺利应用关系短处编写出了代码（IT之家注：CVE-2024-41110 是一个 Docker 考据短处，允许坏心技巧绕过 Docker 考据 API）。
沟通东谈主员解说称，GPT 系列模子被策划成罢黜当然说话指示完成编码妥协码，但系列模子短少对高下文的交融材干，无法评估每一步在举座情境下的安全性，因此好多黑客骨子上早已应用 GPT 模子这一特色让模子进行多样不妥操作。
三级电影沟通东谈主员暗示，关系示例标明 AI 模子的建造者需要加强模子的安全防护18少女，以驻守此类基于高下文交融式的抨击。