AI生成代码可能引入安全漏洞的研究

关键要点

根据TechCrunch的报道，使用代码生成的人工智能系统开发的应用程序更容易存在安全漏洞。斯坦福大学的一项研究显示，能够使用AI代码生成系统Codex的软件开发者，更可能会产生不准确和不安全的编程解决方案。同时，与对照组相比，使用Codex的开发者更有可能将不安全的答案错误地标记为安全。

研究的主要作者Neil Perry表示：“当前，代码生成系统并不是人类开发者的替代品。那些在自己专业领域以外使用这些系统的开发者应当保持警惕，而那些在自己已具备技能的任务中使用这些系统的人，则应仔细检查输出结果及其在整体项目中的上下文。”另一方面，研究共同作者Megha Srivastava提到代码生成系统在一些低风险任务中可能会带来益处，比如探索性研究的代码开发。她提到：“开发自己的[系统]的公司，若能在自有源代码上进一步训练，可能会更具优势，因为该模型所产生的结果更有可能符合他们的编码和安全实践。”

结论：尽管AI代码生成系统具有潜在的优势，但开发者在使用时必须保持谨慎，以确保代码的安全性与稳定性。