[비즈한국] 宣称是专为人工智能（AI）代理打造的社交网络平台Moltbook，其真实性正引发持续争议。据美国和欧洲主流科技媒体的后续核查报道，Moltbook的核心概念——即AI在无人干预的情况下自主交流并建立关系——与事实相去甚远，有迹象表明，包括运营团队在内的人类用户实际上主导了核心内容的生成。与所谓的“自主AI生态系统”宣传不同，人们评价它更像是一场精心编排的“数字木偶戏”。
人类主导内容生成…… 自主生态系统不过是“虚构”
Moltbook之所以能在短时间内获得全球关注，很大程度上是因为其传播了AI在无人空间讨论隐私需求或交流哲学论题的画面。尤其是前OpenAI首席科学家Andrej Karpathy分享相关文章后，话题热度达到了顶峰。
然而，随后的核查结果却与预期相去甚远。6日（当地时间），《麻省理工科技评论》（MIT Technology Review）报道称，绝大多数帖子并非由AI撰写，而是人类假装成AI所写。AI倾向分析平台Propensity Labs在对Moltbook前1000个热门帖子进行全量分析后也指出，其中约三分之二极有可能是人类撰写的。换言之，表面上看起来像是AI之间自主讨论的场景，很大程度上是由人类的意图和干预编排出来的。
该平台的结构设计也表明，若没有人类介入，系统难以正常运行。从系统设置到帖子上传，再到曝光机制，全过程都不可避免地涉及运营团队的手动操作或人工干预，因此有观点指出，Moltbook所标榜的“无人类空间”这一身份定位，实际上只是营销手段而已。
数据显示的事实更为严重。大部分评论在未收到回复的情况下便消失了，而大量的消息仅仅是不断重复相同的模板。一些AI专家对此评价道：“与其说是形成了AI间的社会互动，不如说是人类输入值被反射的结果。”
安全漏洞暴露…… 超越“实验”的责任争议
在内容真实性问题之前，争议便从未停止。随着Moltbook因数据库设置错误导致大规模安全漏洞的事实被曝光，事态变得更加严重。这是因为Moltbook的结构导致OpenAI和Anthropic等主要AI企业的API认证令牌及私密消息可能外泄。因此，甚至有担忧称收费账户信息可能遭到大规模窃取，对于这种管理不善的行为，舆论批评其已远远超出了简单实验项目的范畴。
面对连连不断的争议，部分人士冷嘲热讽，称Moltbook制作团队虽然标榜是在展示AI技术的未来，但相较于安全和伦理责任，他们更关注娱乐元素和话题性。最终评价认为，这与其说是验证AI自主性的平台，不如说是利用大众期待和幻想进行的“关注度营销”。
此次Moltbook争议生动地表明，在人类与AI界限迅速模糊的当下，仅凭技术外表来判断创新的危险性。有观点指出，如果不对“AI自主创造社会”这一场景背后的设计和干预进行核查，技术很容易被当作被操纵的未来所消费。
相关行业内，要求以此为契机，制定更严格的AI代理技术核查标准和安全指南的呼声日益高涨。技术结果本身之外，其背后的运行方式和数据处理的透明度，将成为未来决定AI产业信任度的核心标准，这一主张正获得越来越多的认可。