[비즈한국] 在 AI 竞争重心从提供答案的聊天机器人转向代劳事务的“代理（Agent）”之际，Kakao 正在将 KakaoTalk 扩展为能够实际执行任务的人工智能（AI）界面。用户无论在哪个页面，都可以呼叫 AI，无需寻找菜单，只需像说“帮我订瓶水”那样的一句话，就能交付工作。该公司的方针是，在利用个人购买历史和对话语境的同时，区分各项服务的同意权限，并对订单等执行权限进行单独管控。
Kakao 于 13 日在京畿道龙仁市 Kakao AI 校区举办了年度开发者大会“if(kakao)26”，并公布了上述战略。本次大会以“智能连接一切”为主题，于 13 日至 14 日为期两天举行，会上介绍了基于个性化的代理服务及其背后的模型、基础设施和安全设计。
Kakao 的 AI 业务面临着服务落地与确保盈利的双重课题。AI 服务部门今年第二季度出现了约 580 亿韩元的营业亏损。Kakao 的目标是到今年年底确保 KakaoTalk 内 AI 服务的月活跃用户（MAU）达到 1000 万，并从明年开始实现盈利。此次公开的代理战略重点在于将现有的 KakaoTalk 用户基础转化为 AI 服务的实际使用与交易。
滑动屏幕唤出 Lion，一句话即可完成订购
Kakao 公布的“Kanana Space”是一款只要用两根手指滑动 KakaoTalk 屏幕，就会在当前页面上方打开的 AI 助手。Kakao 设计总负责人金大年（Kim Dae-nyeon）表示：“我们将 Space 设计为一个可以在 KakaoTalk 任何地方打开的 AI 层，而不是另一个标签页或独立的屏幕”，“可以通过语音或文字进行请求。”
今后，即使在家庭群聊中错过了帮孩子放学的请求，也可以在 KakaoTalk 内询问 AI 来确认出发时间。AI 还可以从彻夜堆积的消息中筛选出工作相关事项，提示回复期限，并直接在原地发送回复。金负责人表示：“这不是简单的摘要消息，而是以当前需要做的事为中心进行展示”，“重点不在于以总结结束，而在于直接连接到下一步行动。”
Kakao 计划将执行范围扩大至订购、送礼、预约、转账。Kanana Space 从当天开始接受预申请，并将从 12 月以后针对被选中的用户进行内测（CBT）。去年推出的独立型 AI 应用“Kanana”将于本月 15 日终止运营。
会上还公开了可以在 PC 上直接制作和运行代理的“Kanvas”。这是一项用户描述所需的角色和任务，然后连接相应的工具和功能来构建代理的服务。在此过程中，每个代理都分离浏览器并应用沙箱（与外部隔离的执行空间），防止认证和支付作业扩散到允许范围之外。计划最快于年内进行小规模测试，明年上半年将通过其他框架制作的代理也连接到 KakaoTalk 上。
由于代理执行的是实际行为，用户控制权也被作为核心设计原则提出。金负责人强调：“发送消息或支付等重要行为，采用用户直接确认并最终批准的结构”，“AI 虽然会辅助必要的过程，但最后的决定权留给用户。”
模型“按难度分工”，记忆与执行“分别管控”
KakaoTalk 是拥有 5000 万用户的 24 小时平台，因此除了 AI 的回答质量外，响应速度和运营成本也至关重要。模型越大，单个请求所需的运算量就越大，导致同一图形处理器（GPU）能服务的用户就会减少。因此，Kakao 采取了由最高端的“Frontier”模型处理最难的问题，由“Flagship”模型处理大部分服务器作业，由小型语言模型（SLM）处理简单重复的请求，并在智能手机内完成的工作由端侧模型（On-device model）优先处理的方案。使用何种模型和工具、按什么顺序使用，由“AI Conductor”来决定。
Kakao 基础模型总负责人卢炳锡表示：“纠正错别字和对比多个条件制定旅行计划的请求，没有必要使用相同的运算量”，“我们不仅要为所有请求提供最佳结果，还要确保不是所有请求都使用最大的模型。”
其目的是通过根据所需任务分配运算资源，在保持质量的同时获得大规模服务所需的效率。据 Kakao 介绍，通过自主研发的韩语分词器（Tokenizer）和推理优化等，回答生成速度平均提高了 3.9 倍，内存使用量减少了约 70%。分词器是将句子拆分为 AI 模型可以处理的小单位的技术，优化韩语处理可以减少处理相同句子所需的运算量。
模型输入和响应方式也在扩展。Kakao 介绍了同时理解文本、图像、语音并以语音回答的全能语言模型“Kanana-o”，以及在对方说话途中也能做出反应或用于实时翻译的“Kanana Live”开发计划。构成 Kanana-o 的编码器（Encoder）和解码器（Decoder）计划作为开源软件公开，以便在国内外 AI 生态系统中应用。
个性化的基础是“Mosaic 项目”。这是一种将散落在各个服务和代理中的记忆串联成语境的内存系统，即使切换服务也不必从头开始说明。核心在于“既要记住用户，又不能仅凭部分记录草率断定喜好”。Kakao 首席技术官（CTO）宋在河以购买送给侄子的童鞋记录为例表示：“必须区分购买事实与对喜好的解读，并同时管理信息的来源和时点。如果是一个记住我的 AI，也必须记住我可能会发生变化这一事实。”
“记忆”仅在各服务的同意范围内提供。同意仅用于 A 服务的记忆不会转交给 B 服务，撤回同意后，从下次请求开始将停止提供。不过，已经移交过去的记忆不会被自动回收。宋 CTO 将此视为“服务与内存平台共同需要解决的课题”。代表郑世雅说明，用户从服务使用同意阶段开始，就能直接选择和管理 AI 的应用范围。
在执行阶段还会经过一次过滤。如果在重新下单过程中插入了“缺货，换成其他商品”的指示，AI 会在执行前重新检查行动计划，如果超出了交付的范围，就会停止下单并向用户确认。说明中提到，验证不仅限于最终回答，还会查看在测试环境中调用了什么工具。因为如果用户回答“没下单”，但此前已经下单了，可能会为时已晚。
宋 CTO 强调：“在交付范围内进行，超出范围时进行确认，这种边界不能仅交给模型的判断”，“记忆可以成为判断的依据，但不能成为行为的权限。”