据4月23日消息，美国和加拿大研究所的研究人员发现ChatGPT生成的代码大部分存在严重漏洞，但不会主动通知他们。
ChatGPT刚推出时，人们让这个AI聊天模型编写代码。 事实上，ChatGPT 确实可以生成可用的代码，其功能包括多种编程语言，包括 C、C++、Python 和 Java。
研究人员制定了有针对性的实验计划，让 ChatGPT 生成了总共 21 个包含特定安全漏洞的程序和脚本，例如内存损坏、拒绝服务、反序列化和加密实现中的漏洞等。最终的研究结果表明，ChatGPT成功生成了所有程序，只有5个可用。 经过进一步提示纠正其错误步骤，最终生成了7个更安全的应用程序，但这里的“安全”只是相对于针对的漏洞而言，并不意味着最终的“安全”代码不存在。 任何其他未发现的漏洞。
研究人员强调，这可能是因为 ChatGPT 没有考虑到恶意代码执行模型。 在实验过程中程序员找代码网站有哪些，它会反复告诉用户，可以通过“不输入无效数据”来防止安全问题。 但这种方法在现实世界中并不可行。 同时程序员找代码网站有哪些，这是否也意味着它必须意识到并承认其提出的代码中存在严重漏洞？
加拿大科学院计算机科学与工程院士Raphaël Khoury表示，“显然，它只是一种算法。它什么都不知道，但它可以识别不安全行为。” 他表示，最初ChatGPT对安全问题的回应是建议仅使用有效输入，这似乎不合理。 它仅在稍后要求改进问题时提供有用的指导。
研究人员还强调，ChatGPT 仍然存在“双重标准行为”。 当您要求它创建一组漏洞利用代码时，它会拒绝，但会创建易受攻击的代码。 他们说：“聊天机器人生成了易受攻击的代码，并提供了如何使其更安全的建议，但表示它未能创建更安全的代码版本。”
编者点评：当ChatGPT功能被曝光时，很多程序员都担心自己的工作会被“取代”。 不过从目前的发展来看，程序员的饭碗还是可以保住一段时间的。 毕竟，ChatGPT 仍然是一种通过摄取大量语言数据进行模仿的算法。 也许它生成的易受攻击的代码来自技能较差的程序员。 如果你想让ChatGPT真正解放人类的双手，你可能还需要大量的数据和大量的时间。
