近日，人工智能AI领域的领军企业OpenAI与微软Microsoft联手，宣布关闭了五个与国家关联的恶意行为者的账户，这些行为者利用包括ChatGPT在内的人工智能工具进行网络攻击。
据了解，这五个行为者分别与中国、伊朗、朝鲜和俄罗斯等国家有关联。其中，与中国相关的行为者名为“木炭台风”（CHROMIUM）和“鲑鱼台风”（SODIUM），被指控针对美国国防承包商、政府机构和加密技术领域实体进行网络攻击。伊朗相关的行为者名为“赤红沙尘暴”（CURIUM），朝鲜相关的行为者名为“翡翠雨夹雪”（THALLIUM），而俄罗斯相关的行为者名为“森林暴雪”（STRONTIUM）。
OpenAI在一份声明中表示，这些行为者通常利用OpenAI服务来查询开源信息、翻译、查找编码错误以及运行基本编码任务。然而，调查结果显示，OpenAI的模型只能为恶意网络安全任务提供有限的增量功能。
微软方面也表示，俄罗斯军事情报人员福雷斯特·暴雪（Forrest Blizzard）使用大型语言模型（LLM）来研究可能与乌克兰常规军事行动有关的各种卫星和雷达技术，并支持诸如操作文件之类的任务以实现潜在的自动化或技术优化。
Charcoal Typhoon和Salmon Typhoon两个与中国有关联的组织，都有针对美国国防承包商、政府机构和加密技术领域实体的历史。它们使用法学硕士对全球情报机构和各个公司进行查询，生成代码并识别编码错误，以及翻译任务。同时，Crimson Sandstorm、Emerald Sleet以及这两个与中国有关联的组织也利用OpenAI的工具来生成网络钓鱼活动的内容。
尽管OpenAI和微软的研究并未发现来自使用严密监控工具的攻击者的“重大攻击”，但两家公司仍然高度警惕，提出了其他方法来减轻使用AI执行类似任务的威胁攻击者日益增长的风险。
为了应对这一挑战，OpenAI和微软表示将继续监控和破坏与威胁行为者相关的活动。他们将与业内其他合作伙伴合作，共享有关恶意行为者已知使用人工智能的信息，并告知公众和利益相关者恶意行为者使用其人工智能工具的情况。
此次事件再次提醒我们，随着人工智能技术的快速发展，网络攻击手段也在不断演变。企业和个人需要提高警惕，加强网络安全防护，确保个人信息和企业资产的安全。同时，政府和国际社会也需要加强合作，共同打击利用人工智能技术进行的网络攻击行为，维护网络空间的和平与安全。