新快报讯 一度“火到宕机”的明星大模型Kimi及其开发企业月之暗面日前再遭质疑,有知名科技博主公开发声称,Kimi引以为傲的长文总结和生成能力,在宣传时有玩“文字游戏”之嫌,实际上其大模型并没有真正读懂用户所输入的超长文本,输出的结果根本上就是在网上东拼西凑外部信息源而来。博主直言,月之暗面这样的操作背后目的只有一个,忽悠投资人,忽悠散户。
作家质疑Kimi宣传点有问题
正如本报5月22日曾报道“明星大模型Kimi烧钱换用户终难持久”,Kimi 自去年10月底起一鸣惊人,推出了支持输入20万汉字的能力,成为全球首个开放“超长上下文窗口”的大模型,声称长达80集的《甄嬛传》剧本、几十万字的德州扑克教程、90万字的《三体》,Kimi 都能很快提炼、理解,甚至给出方法论。
作为对比,OpenAI的GPT-4-32k只支持大约2.5万字,即使谷歌在今年3月推出了Gemini 1.5 Pro,直接把上下文突破到了100万,Kimi也不甘示弱,紧随其后开放了200万版本,誓要坐稳“长文本”宝座。
视频号认证为作家的李尚龙(视频号:李尚龙爱读书),自称是两家教育科技公司创始人,出版过十多本百万畅销书,现为多伦多大学AI专业在读。日前,他在最新一集科普视频中对Kimi的能力和宣传提出了质疑。李尚龙在视频中表示,他并不是说国产大模型Kimi不行,只是认为现在它的宣传点非常有问题,“可以一次性读200万字甚至1000万字的文章”,他就“灵魂拷问”一个问题,“给你一本红楼梦,你读得懂吗?根本读不懂!”
李尚龙解释说,transformer架构(大语言模型的底层架构)的本质决定了它在处理上下文时候是天然具有限制性的,即每一个新的token在计算的时候,它需要跟之前token进行一次交互,这样的交互需求决定了处理长文本时一定会遇到运算瓶颈。
月之暗面创始人杨植麟此前在回应为什么要把“长文本”作为主打卖点时也表示,“长上下文可以理解成大模型的内存,就是一次性能够往大模型里面输入多少token(文本处理中的最小单位),而token决定了能参与计算的数量”。
解决长文本瓶颈的方法有三种:第一种是堆算力。但是在国内,即使是像字节跳动这样的大公司,有钱堆算力,也躲不过美国的(硬件)制裁。第二种是早期的chatGPT和微软Copilot用的“滑动窗口技术”,“也就是把文本截成一段段,每段用自己的语言去标记总结”。但这种方法会造成信息的丢失,也只能是总结,不可能读懂。
第三种也就是Kimi现在在用的方法叫检索增强模式(RAG),“就是通过外部文档的搜索和向量搜索来辅助大模型理解”,“举个例子,大家看网上有人让它读《三体》,它虽然没有办法第一时间读完,但是他可以在网上搜索其他跟《三体》有关的信息(如豆瓣、知乎上的书评)辅助你把这本《三体》读懂。”
“目的只有一个,就是炒股价”
“这种方法不能叫读懂,只能叫搜集资料。”李尚龙指出,它依赖的是外部信息源,而chatGPT是完全实打实地通过内部训练数据以及参数模型来生成答案的,两者的技术差距有十万八千里。
李尚龙认为,Kimi在宣传上敢这样说,目的只有一个,就是炒股价。“忽悠散户,忽悠投资人,炒高股价,搞新一轮资本运作。”作为科普博主,他只能建议大家捂紧自己的钱袋子。
东方财富Choice数据显示,昨日10时50分,Kimi概念板块指数报732.788点,跌幅达2%,成交26.42亿元,换手率1.33%。
在此之前,市场有传言指在A轮融资完成后,杨植麟通过售出个人持股已套现数千万美元,“创始人及相关人员套现金额在4000万美元”。对于该传言,月之暗面回应称“消息不实,此前已公布员工激励计划。”近日,又有市场消息传出,月之暗面正在以30亿美元估值进行最新一轮融资,新入局的投资者包括腾讯、高榕创投等。
采写:新快报记者 郑志辉
21世纪经济报道记者 孙燕 上海报道3月5日,国务院总理李强作政府工作报告时指出,坚持教育强国、科技强国、人才强国建设一体统筹推进,创新链产业链资金链人才链一体部署实施,深化教育科技 21世纪经济报道记者 李德尚玉 北京报道 3月5日,国务院总理李强在政府工作报告中提出,要加强生态文明建设,推进绿色低碳发展。深入践行绿水青山就是金山银山的理念,协同推进降碳、减污、 南方财经全媒体记者高慧超 实习生邓菲、卢诗文 佛山报道3月5日,南方财经全媒体记者从人民银行佛山市分行获悉,截至2024年1月末,佛山市本外币贷款余额20466亿元,成为广东省内首个贷款余额 作为一名探索大脑奥秘的科研工作者,全国政协委员、中国工程院院士、南方医科大学教授、粤港澳大湾区脑科学与类脑研究中心主任高天明长期从事抑郁症领域的研究。去年,他与前来采访的记者们谈论了如何预防青少年抑郁症 南方财经全媒体记者梁施婷 北京报道在全球高科技争夺战中,集成电路相关技术和产业已成为“兵家必争之地”,中国摆脱高端芯片进口依赖愈发紧迫。锚定集成电路产业发展面临的人才紧缺 随着消费者对母婴健康消费需求升级与新国标的出台推进,消费者针对婴幼儿配粉奶粉的品质、营养性的关注度在近年来大幅提升,尤其是乳品奶源地的天然性、奶牛饲养方式的科学性以及乳制品加工工艺是否精湛 。本文链接:明星大模型Kimi再遭质疑:长文本能力名不符实,夸大宣传只为资本运作http://www.sushuapos.com/show-1-14771-0.html
声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。
上一篇: 斯洛文尼亚承认巴勒斯坦国
下一篇: 肇庆市原副市长叶锐接受纪律审查和监察调查