L“人工智能 代表着一个挑战 不仅在社会层面 而且还涉及网络安全领域。随着连接技术的扩展，网络威胁的复杂性和频率都在增加。网络安全领域日益受到关注的问题是使用 网络攻击 利用人工智能 (AI)。
同时它们还在不断增加 网络攻击的全球成本。 2023 年， 全球损失 已达到8万亿美元。 每年网络犯罪分子造成的数据泄露给个人造成的损失高达 318 亿美元，其中平均经济影响 中小企业则从 120.000 万美元到 1,24 万美元不等。最新报告来自 IBM 于“数据泄露的成本” 揭示了历史记录，平均每次网络攻击造成 4,45 万美元的损失。在里面 卫生部门，年平均损失特别高，达10,93万美元。这 美国它们是受影响最严重的国家，年均损失达 9,48 万美元，其次是中东，年均损失达 8,07 万美元。
随着AI技术的兴起， 成本进一步增加，预测显示增长 11% 10万亿美元 到 2025 年。同时，到 2024 年，成本估计为 9,5 万亿美元。
借助人工智能，网络攻击更加复杂
人工智能显着提高了犯罪世界的生产力。人工智能技术的进步正在导致网络犯罪分子 尝试新模型和新技术 网络攻击。一个例子是 蠕虫GPT，一种为协助黑客而创建的不受道德限制的人工智能语言模型，在引起媒体关注后被关闭。从那时起，网络犯罪分子更喜欢使用可靠工作的现有工具，而不是开发新的人工智能模型。
据 科技创业，基于人工智能的攻击可以是 分为一些主要类型：网络钓鱼、深度伪造、创建虚假文档和在线泄露私人信息以及越狱人工智能模型，每种行为都有特定的风险。让我们详细看看它们：
- 網絡釣魚：犯罪分子中生成式人工智能的主要用途是网络钓鱼，或诱骗人们获取敏感信息。将 ChatGPT 集成到垃圾邮件生成服务中使您能够 改进发送给受害者的消息。 OpenAI 试图阻止其产品被用于非法目的，但很难控制一切。
- Deepfake 音频：人工智能创造了我 更真实的深度赝品。例如，一名香港员工通过深度伪造公司 CFO 被骗了 25 万美元。音频深度赝品是 便宜又容易制作 并可用于令人信服的骗局。
- 通过身份检查：犯罪分子利用深度伪造技术 绕过验证系统 银行和加密货币平台的身份。他们可以通过将深度伪造图像叠加到真实面孔上来创建虚假身份，以欺骗验证系统。
- 越狱即服务：犯罪分子提供越狱服务 操纵人工智能模型 并绕过他们的保护。这使您能够获得有关如何进行非法活动的答案，例如为勒索软件编写代码。这是人工智能公司和不良行为者之间持续不断的猫鼠游戏。
- 人肉搜索和监视：人工智能语言模型非常适合人肉搜索，即 在线泄露私人信息。他们可以从互联网上的数据推断个人信息，增加人们的脆弱性。
针对人工智能的网络攻击
除了用于创建更复杂的攻击之外，还必须考虑 人工智能防御网络攻击。在人工智能系统缺乏网络攻击防御、国家关键基础设施面临的挑战日益增加之际，美国国家标准与技术研究所（尼斯），一家负责制定技术标准和指南的美国政府机构，发布了一份题为“对抗性机器学习：攻击和缓解的分类和术语 (NIST.AI.100-2)”。本报告旨在实施强有力的对策，以解决人工智能系统面临的威胁的复杂性和多样性。
为了解决人工智能系统面临的威胁，至关重要 实施强有力的对策。 NIST 报告指出 四种主要攻击类别:
- 逃避攻击：这些攻击发生在人工智能系统部署之后，旨在修改输入以影响系统的响应，例如插入不正确的标牌来迷惑自动驾驶车辆。
- 中毒袭击：它们发生在系统的学习阶段，引入损坏的数据，例如聊天中的不适当语言，这导致聊天机器人在未来的交互中使用它。
- 隐私攻击：这些攻击旨在从人工智能或训练数据中提取敏感信息以供滥用，例如通过向聊天机器人提出合法问题来对模型进行逆向工程。
- 滥用攻击：他们的目标是从合法但受损的来源向人工智能提供不良数据，改变其预期用途。与投毒攻击不同，这些攻击使用合法来源引入不正确的信息。
当前的挑战 网络安全的 因此必须尝试 保护人工智能系统 e 防止他们的恶意使用 通过网络攻击。
