[비즈한국] 随着生成式人工智能（AI）的发展，金融行业也在积极应用AI技术。随之而来的是一种名为“新技术金融诈骗”的副作用。由于技术高度复杂，真假难辨，预计新技术诈骗造成的损失将日益扩大，但现行法律下，预防和损害赔偿并非易事。11月26日，《人工智能发展与建立信任基础等相关基本法（简称AI基本法）》在国会科学技术信息通信委员会获得通过，对此，舆论呼吁亟需制定细致的立法，以防范AI金融犯罪带来的损失。
随着滥用生成式AI技术的金融诈骗日益增多，各界召开了探讨消费者损失预防及救济方案的座谈会。11月27日，消费者权益论坛、韩国金融消费者学会、未来消费者行动及共同民主党国会议员金炳基办公室共同举办了“探寻利用新技术进行金融诈骗的消费者保护方案”论坛。
基于AI的金融诈骗大致分为三种。第一种是利用名人冒充视频吸引投资者的“深度伪造（Deepfake）”诈骗。这种手法通过制作广受大众信赖的金融界人士或名人的深度伪造视频，诱导人们进行投资。今年3月，曾有137名被冒充的名人亲自出面，敦促解决这一问题。
第二种是“AI洗白（AI washing）”诈骗。即在并未实际应用AI技术的情况下，通过夸大或虚假宣传来吸引消费者。例如，宣称“使用基于AI的股票交易程序可以获得高收益”，但实际上相关程序或投资手段根本不存在。
第三种是“AI聊天机器人”诈骗。这也被利用于“恋爱诈骗（Romance Scam）”犯罪中，即通过发送信息接近多名受害者，在获得对方好感后索要钱财。
当天参加论坛的专家们一致认为，现行法律难以阻断AI金融诈骗或进行损失救济。负责发表的未来消费者行动专员（国际认证理财规划师）文灿贤表示：“观看深度伪造投资诈骗视频会发现，其水平其实并不高。虽然粗糙到足以辨别真假，但受害事件仍在持续发生，这说明存在大量的金融弱势群体。”他还指出：“观察金融诈骗受害者的特征，与高龄、低学历的普遍认知不同，受害者反而在经济活动活跃的40至50岁人群中更为常见。诈骗加害者首位是熟人，其次是金融行业从业者，这也是造成损失严重的原因。”
文专员建议：“随着金融诈骗类型呈现出非法集资、网络钓鱼、手机短信诈骗、金融诈骗等复合形态，人均损失金额也在增加。为了保护金融消费者，应完善相关制度，如加大对金融诈骗的惩处力度，并致力于宣传各类诈骗类型及预防方法，同时加强金融教育以提升消费者的识别能力。”
还有人指出，即使是利用金融机构的AI服务而遭受损失的消费者，获得赔偿也几乎是不可能的。韩国外国语大学法学研究生院教授郑信东指出：“金融领域积攒了海量数据，其中包含大量敏感信息。然而，当因金融机构的过失导致损失发生时，消费者无法直接证明问题所在。这是由AI的自主性和不透明性特征决定的。”
AI虽然能自主判断，但发生事故时，很难将过失责任归咎于AI而非人类。将责任归咎于非过失主体的AI开发者也相当模糊。而在不透明性方面，企业以AI算法等属于“营业机密”为由拒绝公开，加上连开发者自身都无法预测AI会输出何种结果，因此很难证明过失的因果关系。
郑教授表示：“传统的法律秩序无法阻挡消费者损失，法律空白显而易见。加强透明度是基础，例如强制要求标注AI产出物以便消费者识别。此外，也需要制度层面的支持，以便利用AI技术提前防范犯罪。”
发表结束后，在指定讨论环节，与会者也提到了为恢复诈骗损失进行立法的必要性。成均馆大学法学研究所高级研究员成俊浩表示：“即使惩处了加害者，损失也无法挽回。况且，恋爱诈骗或新型投资诈骗中，尽管受害者是被欺骗的，但由于款项是受害者亲手转出的，目前缺乏实质性的救济方案。”
资本市场研究院金融产业室高级研究员李孝燮指出：“当基于生成式AI的平台发生金融纠纷时，消费者往往在不知道自己是受害者的情况下就陷入其中，且救济过程耗时漫长。因此需要独立的金融纠纷调解机构。”他还强调：“在诈骗犯罪中，挽回受损金额实际上是不可能的，因此需要另外制定《受害者保护法》来对其进行保护。”
会议还提及了现行法律将举证责任推给AI金融诈骗受害者的问题。法务法人大律律师白柱善解释道：“在环境犯罪、医疗过失、知识产权纠纷中，相关法律与判例通常会通过推定加害者的过失或因果关系来减轻受害者的举证责任，但在大规模金融诈骗受害案件中，这一点并未得到认可。应借鉴欧盟的《AI侵权责任法》等，完善细致的制度以防止法院的恣意操作。”
会议还讨论了11月26日通过的《AI基本法》。国会立法调查处社会文化调查室科学广播通信组立法调查官郑俊华表示：“虽然提出了19项AI相关基本法，但最终名称统一为以‘信任基础’为主。AI诈骗的核心在于消费者难以区分是AI制作的虚拟信息还是真实信息，因此法案也强调了对AI原创内容的标注。但标注义务的主体尚不明确，需要具体化。此外，除了设立AI安全研究所，还需要设立专门调查消费者损失的保护中心职能机构。”
郑调查官强调，提升金融消费者的数字素养（对信息的理解与获取能力）应被视为最低限度的措施。他断言：“强调数字素养在仔细考量下其实是一个危险的观点。不仅是素养较低的消费者，素养较高的消费者也可能被骗，因为他们过于相信自己的判断。如果过度重视数字素养，会导致将政府或公共责任转嫁给消费者的问题。”