[비즈한국] 自Mythos Shock发生以来，公共部门和私营企业都在“以AI制AI”的原则下，加速重组应对体系。金融行业引入了自主型AI模拟黑客攻击和基于AI的安全监控，公共部门也正在加快推进以AI时代为前提的网络安全体系转型。
金融领域是行动最迅速的行业。金融作为客户信息与资金流实时关联的国家核心基础设施，被认为是AI攻击速度越快、受损风险越首当其冲的领域。
友利金融集团（Woori Financial Group）近期引入了进攻性网络安全企业Theori开发的基于AI的自主型黑客攻击测试解决方案“Xint Web”。该方案无需系统内部信息，即可像真实的黑客一样通过探测服务外部来寻找弱点。KB金融集团（KB Financial Group）也通过扩展应用自主研发的AI黑客攻击测试代理和基于零信任的安全体系，强化了AI应对能力。
韩国银行（Bank of Korea）也引入了Mythos应对国际合作组织“Project Glasswing”的早期参与企业——美国Palo Alto Networks的设备，公共部门的AI安全体系转型也由此开启。
“以AI防范AI攻击”……国内应对全面启动
在企业进行技术应对的同时，政府也着手建立了制度基础。金融委员会（FSC）在Mythos出现后，决定针对用于安全目的的AI应用，暂时放宽网络隔离管制。对象涵盖总资产在10万亿韩元以上、常时员工在1000人以上的49家金融公司，在通过安全管理能力评估后，将给予为期1年的监管放宽。科学技术信息通信部（MSIT）也正在与Anthropic讨论确保Mythos访问权限等合作方案，专注于提升基于AI的安全能力。
专家认为，Mythos Shock的本质并非“全自动AI黑客的出现”，而在于安全工作的执行方式正发生根本性变化。大数据分析AI企业S2W的部门负责人杨宗宪（音译）指出：“关键不在于全自动化是否已经彻底实现，而在于安全工作的单价、速度和可重复性已经开始改变。这种变化不仅会撼动漏洞研究人员的工作方式，还会波及软件供应链和整体补丁管理体系。”
他解释称，过去在安全领域，人的竞争力来自于发现漏洞的能力，而今后，验证AI发现的结果、判断实际危险程度并确定应对优先级的能力将变得更加重要。
即使AI能够承担攻防的大部分工作，最终责任仍归于人类。这也是为何除了技术发展外，管理AI的治理体系被格外强调的原因。高丽大学AI研究所教授崔秉浩（音译）表示：“在现实系统中，人类与AI必须协同工作，而协同的人类必然要承担责任。”但他同时指出：“由于治理体系尚未完善，一旦发生此类事件就会束手无策，全球的一级安全市场正处于极易被瘫痪的状态。”
杨负责人强调：“企业首先需要的是资产和代码的可见性。如果不了解自己运营哪些系统、依赖哪些开源库，即使AI找到了漏洞，也很难将其与实际风险联系起来。”即，如果缺乏将AI发现的大量漏洞转化为公司系统实际风险的评估能力，那么这些技术将毫无用处。
世宗研究所（Sejong Institute）高级研究员柳俊九（音译）在相关报告中也指出：“基于数据的主要基础设施安全的精髓，不在于提高外部防御墙，而在于内部账户被窃取时如何控制权限。”这意味着，与其假定拥有完美的安全，不如将重点放在严密设计攻击者达成目标前必须经过的各个验证阶段。
重“访问权限与控制力”而非性能……政府倾向于安全特化AI
那么，韩国距离Mythos级的顶尖模型还有多远？专家认为，即使获得了访问权限，在韩国国内直接利用Mythos级前沿模型也并非易事。随着海外前沿AI逐渐被管理为国家战略资产，访问本身受限的可能性正在加大。
尽管韩国互联网振兴院（KISA）、三星电子、SK电讯等从Anthropic获得了Mythos访问权限，但由于美国将前沿AI视为战略资产并调整政策，普遍观点认为，长期来看，利用空间可能会逐渐缩小。虽然美国商务部在6月时隔18天解除了对Mythos 5和Fable 5通用模型的出口管制，但由于适用了更严格的“安全护栏（Safeguard）”，能够用于安全研究的范围反而变窄了。
尽管如此，有观点指出，加入与Mythos同等级别的超大规模模型开发竞赛并不是现实的解决方案。韩国信息保护学会会长、釜山大学教授金浩元（音译）在上月9日的网络安全发展方向研讨会上表示：“如果盲目跟风自主开发Mythos，可能会陷入‘胆小鬼博弈’；而如果依赖外资模型，则会陷入数据主权的困境。”他建议，“采用基于代理编排（Agent Orchestration）的小型特化模型（sLLM）策略，是更现实的替代方案。”
开发能力也不足以支撑。原因在于庞大的计算资源和投资成本。副总理兼科学技术信息通信部长官裴庆勋（音译）在上月就职一周年记者会上提到：“以目前自主AI基础模型项目的支持水平，很难开发Mythos级的前沿模型。据估计，需要约1万张Vera Rubin级GPU，仅目前的价格就高达约3.5万亿韩元。”
问题不仅在于成本和技术。访问本身可能受政治决策影响，这也是新的风险。同德女子大学国际经营学系教授王允钟（音译）针对美国切断Anthropic访问权限的案例评价称：“他国生成式AI服务一夜之间可能中断的‘关机风险（Switch-off Risk）’已经成为现实。”他建议：“需要从‘主权AI（Sovereign AI）’不应仅仅是市场竞争手段，而应是应对海外AI受限情况的国家级备份系统这一视角出发。”
此外，考虑到监管的可预测性大幅降低，他也建议国内企业在与全球客户签订合同时，应将美行政部门的出口管制措施明确列为“不可抗力”事由。
在海外，国家和企业层面的应对体系已经具体化。微软（MS）上月27日公布了自主型AI攻击应对项目“Perception”及安全特化AI模型，并成立了由韩国科学技术院（KAIST）等参与的外部红队联合体（EXTRA），正式开启了AI安全竞赛。
Mythos Shock预示着超越AI性能竞赛，活用与控制竞赛时代的到来。对于韩国而言，如何在确保技术的同时构建安全体系和制度性应对措施，已成为留给未来的课题。
因此，政府计划在自主AI基础模型项目之外，构思审查前沿AI开发可能性的“双轨战略”，同时优先推动利用现有模型开发“安全特化AI”。裴副总理表示：“即使暂时无法打造前沿模型，通过利用现有模型进行安全数据微调，也能开发出检查各种漏洞的安全特化AI模型，计划在年内完成开发，并从公共部门开始应用。”