2026新澳门www_生成式AI及其在恶意软件开发中的局限性

人工智能开发的恶意软件：近距离观察

生成式人工智能已经被大肆宣传，但最近的分析显示，人工智能开发的恶意软件存在严重的局限性。谷歌最近研究了包括PromptLock在内的五个恶意软件家族，它们都证明了这些缺点。

PromptLock及其缺点

其中一个突出的例子是，PromptLock他是一项学术研究的一部分，该研究调查了大型语言模型如何能够自主规划、适应和执行勒索软件攻击生命周期。然而，研究人员发现明确的限制：它缺乏基本特征，省略了持续性、横向移动和高级逃避战术，使它仅仅是一种可行性的演示，而不是实际的威胁。

检测和有效性

安全公司ESET称其为第一个人工智能驱动的勒索软件，根据该公司此前的见解，结果证明其影响要小得多。与其他分析的示例（fruitshell、PromptFlux、PromptSteal和quiet vault）一样，即使通过依赖静态签名的基本端点保护，也很容易检测到它。所有样品都采用了以前见过的方法，这使得它们很容易抵消，并且不会对操作产生影响。

这些发现有力地表明，整合生成人工智能在恶意软件的开发中，在形成任何真正的威胁之前还有很长的路要走。