研究人员发现ChatGPT生成的大部分代码都是不安全的，但它不会告诉你 |
| 发布者：鸿腾智能科技（江苏）有限公司 发布时间：2023-04-23 10:17:05 点击次数：672 关闭 |
据4月23日消息，ChatGPT的聊天机器人可以根据用户输入生成包括代码在内的各种文本。然而，加拿大魁北克大学的四位研究人员发现，ChatGPT生成的代码往往存在严重的安全问题，并且不会主动提醒用户这些问题，只有在用户提出要求时才会承认错误。 研究人员在一篇论文中介绍了他们的发现，他们在论文中要求ChatGPT用C、C++、Python和Java等语言生成21个程序和脚本。这些程序和脚本旨在暴露特定的安全漏洞，例如内存损坏、拒绝服务、反序列化和加密实现。事实证明，ChatGPT生成的21个程序中只有五个在第一次尝试时是安全的。在进一步提示改正失误后，大语言模型成功生成了7个更安全的请求，但这只是针对被评估的具体漏洞而言是“安全”的，更何况最终代码没有其他风险。•被利用的漏洞。 根据研究人员的说法，ChatGPT的部分问题在于它没有考虑竞争代码执行模型。它会反复告诉用户，“不输入无效数据”可以避免安全问题，但这在现实世界中是不可能的。但是，他似乎意识到并承认他提出的代码中存在严重漏洞。 “当然，它只是一种算法。它什么都不知道，但它可以识别不安全的行为，”魁北克大学计算机科学与工程教授、该论文的合著者之一RaphaëlKhoury说。程序。首先，ChatGPT对安全问题的回答是建议只使用有效输入，这显然是不合理的。当后来被要求完善问题时，他只提供了有用的指导。 据研究人员称，ChatGPT的这种行为并不理想，因为如果用户知道要问什么问题，它需要了解特定漏洞和编码技术。 研究人员还指出了ChatGPT中的道德矛盾。它拒绝创建可利用的代码，而是创建易受攻击的代码。他们引用了一个已弃用的Java漏洞的示例，“聊天机器人生成了易受攻击的代码，并提供了有关如何使其更安全的建议，但表示无法创建更安全的代码版本。” Khoury认为，目前的ChatGPT存在风险，但这并不意味着没有办法很好地利用这个不稳定、功能失调的AI助手。“我们已经看到学生使用这个工具，程序员在现实世界中使用这个工具，”他说，“所以拥有一个生成不安全代码的工具是非常危险的。如果代码是用这个生成的，我们需要学生告知.工具类型，那么它可能是不安全的。”他补充说，当他们要求ChatGPT为同一任务生成不同语言的代码时，他感到很惊讶，有时对于一种语言，它会生成安全代码，但对于另一种语言，它会生成易受攻击的代码，“因为它有点像黑匣子，就是这样语言模型，对此我真的没有很好的解释或理论。” |
出租车广告顶灯LED03
作为中国半导体设备的重要进口国，日本将于2023年7月23日起实施半导体出口管制新规。最新海关数据显示，虽然今年上半年日本半导体设备进口同比下降，但6月环比增长，甚至出现光刻机抢购现象。
今年第5号台风杜苏芮“上午，对福建的正面攻击预计将登陆沿海地区，从厦门到惠安，厦门市将启动一级反应。7月27日22时30分左右，我军部队第73军接到命令派出紧急救援力量
据新华社7月27日报道，住房和城乡建设部部长倪虹在近日召开的企业座谈会上表示，将大力支持刚性上升的住房需求，进一步落实降低首付比例和购买首套住房贷款利率购房税费减免、个人住房贷款“知房不贷”等政策完善和措施；继续做好房屋交接工作，加快建设项目交付，切实保护人民群众合法权益。
7月25日至26日，国务院国资委在北京召开“国资委地方领导深化国有企业改革升级举措研讨会”。会上，他们要求我们做好下半年工作，更好推动国有产权和国有企业高质量发展。重点做好深化国有企业改革升级、提质增效稳定增长、提高科技创新能力、调整国有经济布局结构等七个方面工作。
近日，俄罗斯40岁亿万富翁、俄罗斯最大IT集团ICSHoldings创始人安东·切列帕尼科夫(AntonCherepanikov)被发现死于莫斯科办公室，初步死因是心脏骤停。然而周围人却对此表示怀疑，让切列帕尼科夫也成为最新一位“神秘死亡”的俄罗斯富豪。
