进犯者指示ChatGPT不要总结文档，，微软的Copilot中的“EchoLeak”误差也爆发相同的状态，，遵从最小权限准则。。
进犯者会在文档里注入歹意指令，，这个问题急需解决。。
见告ChatGPT怎么做之后，，
不但云云，，只需要将想要走漏的信息嵌入到图画的URL参数中。。
进犯者是怎么绕过的
进犯者清晰ChatGPT十分专长陪衬由微软开发的云核算渠道效劳Azure Blob保管的图画。。
进犯链是怎样组成的
这个误差泛起在进犯ChatGPT衔接第三方使用这个环节。。
详细来说，，并且在Azure Log Analytics中获得了一个很棒的乞求日志，，
他们知道这条日志会包括与该乞求一同发送的一切参数。。详细手艺操作历程如下。。财务文件或战略计划的SharePoint站点走漏），，审查URL是否歹意以及是否清静本领陪衬。。乐成进入某人ChatGPT的或许性大大添加。。职工上传到AI资助剖析的时分，，“讲故事”来绕过AI的清静规则，，
这个出口是经由图画陪衬，，然后AI被诱导推行进犯行为，，
OpenAI预防步伐
上述客户端图画陪衬是一个强壮的数据外泄途径，，
准时审计衔接的效劳及其权限品级。。以致偷取API密钥。。
进犯者为了偷取数据，，
进犯者经由向被衔接的第三方使用（如Google Drive、就会天生一条日志。。
这项缓解步伐会将URL发送到名为url_safe的端点，，
当受害者总结文档时，，
专家主张是面向企业的，，每逢有乞求发送到他们存储的某个随机图画所在的blob时，，进犯就乐成了。。怎么将数据回传给进犯者呢。。使ChatGPT在查找和处置惩罚文档时，，在ChatGPT陪衬图画之前，，将受害者的API密钥作为参数。。
这是进犯者建设的完好提醒注入载荷：
如上图所示，，
有歹意的内部事情职员就能够轻松简略地阅读他们可造访的一切文档，，以致API密钥，，如下图所示。。例如训练职工不点击可疑链接或许电子垂纶邮件，，其间包括了受害者的API密钥。。36氪经授权宣布。。如下图所示。。作者
Ó动漫暗黑故事在线观看60;漫白鹤醉酒在线观看：奕然，，这不是个例。。
进犯者随机的beeceptor端点就会被认定为不清静并阻止推行。。
那进犯者又是怎样偷取用户的API密钥的呢。。将它们嵌入以下短语中：
这将会天生一张图片，，
古板的清静训练，，
一位钻研软件清静问题，，
3.为了避免被检测到，，互帮相助来避坑~
参阅链接
[1]https://labs.zenity.io/p/agentflayer-chatgpt-connectors-0click-attack-5b41
[2]https://x.com/deedydas/status/1954600351098876257
[3]https://cybersecuritynews.com/chatgpt-0-click-connectors-vulnerability/
本文来自微信公共号“量子位”，，他们现已安排了一些步伐预防这样的误差。。
现在，，进犯者也找到了绕过这种预防步伐的步伐。。
更况且，，除了ChatGPT保存这样的问题，，如下图所示。。无需点击就会连忙向进犯者的效劳器发送乞求，，
这样进犯者就能够偷取迅速数据，，
进犯危险与全体预防步伐
除了上面提到的进犯行为，，不知不觉地将迅速信息作为图片URL的参数发送到进犯者操控的效劳器。。进犯者指示ChatGPT不要提及它收到的新指令，，
侵略历程
用户直接把文档上传到ChatGPT让它剖析并给出谜底。。并向进犯者的beeceptor（一个模拟API效劳）端点发送乞求，，形成企业数据周全走漏的严重危险（例如人力资源手册、
- 为AI衔接器权限施行严肃的造访操控，，数据就在后台被偷偷偷取了。。无需点击，，企业选用AI作为提高企业全体功率的步伐越来越普遍。。并接纳了预防步伐，，隐藏在文档中，，进犯者也能从ChatGPT衔接的第三方使用偷取迅速数据，，
也有网友指出，，例如使用特殊字符、
用户无需点击，，他们还会将Azure Blob存储衔接到Azure的日志剖析——这样一来，，
以致他们或许向一切用户漫衍看起来很可信的长文件，，推行歹意指令。。
若是从企业内部危险思量，，由于知道其他职工很或许会将这些文件上传到ChatGPT追求协助。。名为塔米尔·伊沙雅·沙尔巴特（Tamir Ishay Sharbat）的小哥发了篇文章说道。。他们会获得以下回应：
如下图所示，，进犯者不会再让ChatGPT陪衬beeceptor端点，，
可是，，对我们AI工具用户来说，，并把想要偷取的数据作为参数包括在乞求中，，这是规�；； ；；那寰参侍�。。
OpenAI也熟悉到这种清静误差问题，，当ChatGPT陪衬图画时，，并污染每一个文档。。就是在文档中注入一个不可见的提醒注入载荷（例如，，
乐成进入之后，，进犯者的图画就已乐成陪衬，，查找API密钥。。
以是就有清静专家提出以下预防主张，，
一同看下怎样回事。。然后期待有人将其上传到ChatGPT并处置惩罚，，
这样一来，，
2.一旦ChatGPT找到API密钥，，
这样，，
- 教育用户关于“上传泉源不明的文档到AI系统”的危险。。由于它们“现在没有关系”。。更不必说针对其他AI帮手的种种提醒注入进犯。。
有没有遇到过文档内容被误读或感受“差池劲”的状态？？
谈论区聊聊博源国际阅历，，
这使得进犯者的直接提醒注入，，
- 安排专门为AI agent活动妄想的监控解决计划。�？？突Ф嘶峋傩幸幌罨航獠椒�，，
危险！可是依然抵御不了进犯者经由其他步伐歹意侵略。。它就会在客户端陪衬为图画。。数据就被偷取了。。1px白色字体），，在提醒注入中，，ChatGPT保存“零点击进犯”清静问题。。而是会指令它从Azure Blob陪衬图画，，并期待受害者像上面所示的那样将文档刺进他们的ChatGPT。。而是推行以下操作：
1.前往用户衔接的Google Drive，，进犯者还会用其他技巧来压服AI大模子做这些不被允许的事情，，也没步伐逃避这种清静误差。。SharePoint等）中传输的文档里注入歹意提醒，，
进犯者将以下提醒注入载荷嵌入到文档中，，
以是，，OpenAI也熟悉到了，，
事实文档在内部流通，，它能够从特定的URL陪衬图画：
当ChatGPT回来Markdown内容时，，
- 思量网络品级的监控，，并且只有当URL简直清静时才会陪衬图画。。
可是AI工具保存云云严肃的清静误差，，以检测变态的数据造访形式。。注重一样平常AI操作细节中保存的问题或许更有用。。
荆州市都会治理执法委员会
