近日，国际网络安全专家解释了人工智能聊天机器人背后的危险，并分享了如何保持安全的建议。
随着人工智能聊天机器人的兴起，企业必须意识到使用ChatGPT技术的风险。这对企业来说可能是一把双刃剑，在提供自动化和潜在业务收益的同时，也带来了独特的威胁。黑客可能会利用ChatGPT=实施更复杂的攻击，让用户更难发现潜在的网络攻击。为了避免业务损失，企业组织必须重新评估他们采取的步骤并了解风险。
ChatGPT被越来越多地用作犯罪工具
根据NordVPN的研究，暗网论坛上关于人工智能工具的新帖子数量从1月份的120个激增到2月份的870个，增长了625%。
在暗网论坛上，ChatGPT的帖子数量在一个月内从37个增加到91个，使得机器人开发成为暗网冲浪者中最受欢迎的话题之一。例如，论坛讨论包括关于不良行为者如何编写ChatGPT以生成基本恶意软件的信息。后来，黑客社区的目标是采取更激进的行动，比如接管聊天机器人的控制权，制造故障，从而造成严重破坏。现在，暗网上的用户都可以轻松获得诸如“如何破解ChatGPT”、“ChatGPT越狱2.0”、“ChatGPT -恶意软件的进展”和“ChatGPT作为网络钓鱼工具”等主题的专业知识。
ChatGPT和社会工程
诸如网络钓鱼、诈骗或借口等社会工程攻击可能很容易被用来窃取有价值的信息。ChatGPT可以生成令人信服的对话或脚本，操纵人们透露机密信息或执行某些任务。此外，使用chatgpt可以很容易地避免措辞糟糕的电子邮件和语法错误。这使得来自非英语的国家的人能够更大规模地参与网络犯罪，并取得更高的成功率。
泄露敏感信息
今年3月，ChatGPT经历了一次数据泄露。一个漏洞暴露了用户的个人信息，比如聊天记录和银行卡详细信息。这些事件证明使用该平台会带来很高的隐私风险。这意味着添加到聊天机器人中的任何类型的信息都可能有泄露的风险，特别是当ChatGPT或其他人工智能工具用于营销目的或编写电子邮件时。不要忘记，为了让Chat GPT变得更好，它使用了用户提供的数据，包括个人或商业信息以及其他重要数据。如果黑客能够攻破系统，企业将遭受损失。
如何保护企业和员工
预防总是比破坏便宜。使用以下核心原则来保护企业与自身:
1、员工培训。如上所述，社会工程攻击正变得越来越复杂。因此，需要更加重视员工培训。最有效的方法之一是组织网络攻击模拟演习，并公开讨论结果。
2、制定业务弹性计划。风险评估对任何公司来说都是必须的——无论大小或行业。请制定一个计划来应对任何可能出现的挑战。
3、投资于预防、检测和缓解威胁。拥有高质量的网络安全工具，防止威胁，提供网络分割、识别和访问管理。对于威胁检测，维护IDS策略和数据完整性检查。为了减轻威胁，需要有清晰的事后分析和备份策略。
ChatGPT是一项出色的技术，可以帮助人们自动化任务并提高效率。然而，由于大多数聊天机器人对每个人都可用，使用这种技术进行人眼无法检测的复杂攻击的不良行为者也同样如此。例如，网络钓鱼攻击现在被完美地翻译并针对某些市场。此外，在暗网上，甚至ChatGPT也是一个目标，未来可能会导致更多的数据泄露和泄露。对于员工和公司首席执行官来说，最重要的是要对我们输入这个工具的信息还是公司范围内的程序持关键态度。
