[비즈한국] 旨在处理人工智能（AI）发展与安全问题的“AI基本法”于22日全面实施。该法案旨在提升韩国本土AI竞争力的同时，通过建立强制标注生成内容水印等保护机制，为AI的应用营造信任基础。在生成式AI已深入日常生活的情况下，覆盖整个产业的法律体系终于开始运作。不过，关于核心监管对象——“高影响AI”的具体判断标准仍存在解释空间，且确保透明度义务的实际应用方式也尚在讨论中。虽然制度已经建立，但有观点指出，由于实施标准和证明体系依然模糊，仍面临诸多课题。
区分虚假与真实……强制标注AI生成内容
随着AI基本法的实施，用户将感受到的主要变化是“透明度义务”的适用。AI运营商在分发或提供利用生成式AI制作的图像、视频、音频等内容时，必须明确告知用户该内容由AI制作。即所谓的“AI水印”。
政府表示，考虑到技术的可接受性，标注方式将保持灵活。根据内容特性，既允许可见方式（可识别），也允许在数据中植入机器可读代码的方式（不可见）。特别是在Deepfake（深度伪造）结果物可能产生社会副作用且难以与现实区分的情况下，必须明确告知或标示AI生成的事实。
此类透明度确保义务仅适用于提供AI产品或服务的运营商。这同时也包括为韩国用户提供AI产品和服务的海外运营商。对象是最终向用户提供AI服务的运营商。例如，若B企业通过API形式调用A企业开发的AI模型并应用于自身服务，则透明度义务由B企业承担。对于OpenAI、谷歌、Naver035420等既开发模型又直接提供服务的企业，则由它们承担透明度义务。
仅利用AI工具消费内容或发布在个人社交媒体上的“个人用户”不在监管范围内。各服务的具体水印方式可参考科学技术信息通信部的透明度指南。
与生命、安全直接相关的“高影响AI”10大分类
法案的另一个核心是“高影响AI”制度。根据施行令，在与生命、安全、基本权利直接相关的10个领域（能源、饮用水、卫生医疗、核能、犯罪侦查、招聘、贷款审查、交通、公共服务、教育）中使用的AI被归类为高影响AI。
具体案例包括“完全自动驾驶阶段的L4级以上车辆（无人介入的高度自动化系统）”。在医疗、招聘、贷款审查等对人的生命和权利影响巨大的领域，运营商必须建立风险管理体系并制定用户保护计划，落实强化的可信度确保措施。
“高影响AI”的认定需由运营商自行评估。若AI运营商无法确认是否属于该范畴，可向科学技术信息通信部提出确认请求。不过，评价认为，何种技术水平或服务会被纳入监管范围仍存在很大的解释空间。在业界内外，“只有在像完全自动驾驶那样人类不介入最终决策的情况下才应视为高影响AI”的呼声，与“应将所有可能侵犯基本权利的算法都包含在内”的意见正形成对垒。
在关于具体实务应用准则尚不明确的评价声中，考虑到法案实施初期对产业界可能造成的混乱，政府计划以促进制度落地为主，而非采取强硬处罚。根据基本法，违反义务最高可处以3000万韩元的罚款，为了将企业混乱降至最低，未来至少将有1年以上的监管宽限期。
与此同时，政府决定设立并运营“AI基本法支援服务台”，以应对企业关于法律的咨询。此外，从下月起，还将运营由产业界、公民团体、学术界参与的“制度改进研究小组”，挖掘需要改进的制度事项。
政府“1年缓冲期”……平台与通信业界先行应对
随着AI基本法的实施，AI技术相关的社会责任被强调，韩国主要平台公司和通信公司正加紧调整内部政策和治理结构。
Kakao035720在2月4日起适用的服务条款中，明确了“包含AI基础服务及告知义务”。Naver也将在下月7日起强化AI基础内容利用政策。Naver已于去年年底在博客、Cafe、Clip等用户创作平台引入了“AI生成内容标记”功能。
通信业界则致力于强化全公司层面的治理体系。SK电讯017670针对全体员工开展“Good AI”活动，并升级“AI治理门户网站”，确保从策划阶段就对风险进行评估。KT030200则通过专门组织“负责任的AI中心（RAIC）”，致力于构建兼顾安全与可信度的AI生态系统。
政府计划将法律延伸适用至影响国民的海外AI运营商，防止对韩国本土企业的逆向歧视。考虑到欧盟监管（2027年）的适用等海外动向，也为延长宽限期留下了可能性。
科学技术信息通信部人工智能政策官金庆万（音）强调：“AI基本法中80~90%的内容是关于产业振兴的。初期，与其执行监管，不如专注于支持企业适应制度。”他还表示，“欧盟的监管会处以3500万欧元（约670亿韩元）或总销售额7%中金额较高者作为罚款，而韩国法律的罚款上限仅为3000万韩元。这是为了不阻碍创新所设立的最低限度监管。”