这里记录每周值得分享的科技内容，周五发布。
本杂志开源，欢迎投稿。周刊另有《谁在招人》服务，发布程序员招聘信息。合作推广请邮件联系（[email protected]）。
封面图
上图是2022年世界自然摄影奖的获奖作品，保加利亚中部城市旧扎戈拉的一只红隼，在一盏生锈的路灯里安家，彷佛很多人在大都市的处境。（via）
本周话题：不要夸大 ChatGPT
ChatGPT 问世只有几个月，大家有没有发现，舆论的调门越来越高。
人们最初的震惊和赞叹，逐渐变成了非理性的鼓吹，很多人言之凿凿，断定 ChatGPT 将重塑人类社会。
举例来说，《经济学人》杂志称它会"翻天覆地"。
"GPT 也完全可以是 general-purpose technology（通用技术）的缩写：一种翻天覆地的创新，可以像汽机、电力和计算机一样提升各行各业的生产率。"
一个国内的作者则说，它会"席卷一切"。
"ChatGPT 带来的这场风暴，正在席卷一切。
随着不断的技术提升，可以预见，GPT类型的 AI，未来能替代的，也许是全行业！"
还有人担心它会淘汰人类，有的文章标题堪称惊悚，《AI 狂飙的时代，人还有价值吗？》。
微博的"热门文章"列表，也是满满的生存焦虑。
这种情绪反映在金融市场，就是"ChatGPT 概念股"被狂炒。一直微利 + 亏损的"汉王科技"，就在 ChatGPT 问世后，股价从11元炒到了40元。
我有一种感觉，ChatGPT 已经神化了，仿佛无所不能。
今天就来谈谈这件事，我要说，ChatGPT 确实很神奇，是划时代的技术创新，但是不应该无限夸大。
ChatGPT 有其局限，很多事情它做不到。有人说，ChatGPT 标志着机器取代人类的"奇点时刻"，这是不对的。
他们忽略了最关键的一点：ChatGPT 不是"通用人工智能"，而是一个语言模型。
"通用人类智能"（artificial general intelligence，简写 AGI）是 AI 的终极目标，就是造出可以像人类那样全方位的推理、思考、分析的机器。如果能实现，人类就真的危险了。
但是，ChatGPT 不是 AGI，而是一个 LLM（Large Language Models，大规模语言模型）。所谓"语言模型"，就是只用来处理语言文字（或者符号体系）的 AI 模型，发现其中的规律，可以根据提示（prompt），自动生成符合这些规律的内容。
这就是说，ChatGPT 只适用于有成文符号的领域。 这带来两个局限。
（1）如果某个领域是非成文的，不能用符号记录表达，那么 ChatGPT 就无能为力。比如，人类的很多心理活动、潜意识、灵感、顿悟等等，ChatGPT 就没法模拟生成。
（2）第二个局限更致命，ChatGPT 要用现有的文字材料进行训练，发现的是那些材料包含的规律。这意味着，它不能生成超出人类已知规律的东西。
举例来说，它不能证明未解决的数学猜想，也不能提出没有人发现过的科学发现。
即使我们把历史上所有的数学论文，都用来训练 ChatGPT，它也无法证明黎曼猜想。因为那些论文只会教它现有的证明方法，而黎曼猜想需要新方法。
ChatGPT 的底层技术是 GPT，全称为"生成式预训练转换器"（Generative pre-trained transformer），凡是使用该技术的 AI 模型都有同样的问题：它们只能掌握已知的模式，无法生成未知的模式。
所以，真正"前无古人"的创新，这一类 AI 模型做不到，还是必须依靠人类的智慧。
另外，这里还有一个逻辑悖论。如果 ChatGPT 真的强大到"席卷一切"，将来绝大多数文档都用它来生成，其实反而会带来它的衰亡。大家这么想，到了那个时候我们拿什么材料训练 AI 呢？毕竟 AI 只有拿人类的作品训练，才能模拟人类智能。
总之，ChatGPT 是一个划时代的工具，所有模式化的人类工作，都面临空前的挑战。
但是，人类生活还有很多非模式化的部分，尤其是人类的创新能力，ChatGPT 触及不了这个部分，所以它对社会的改变，不宜过分夸大。
活动
周刊不定期发布技术活动消息，面向全国程序员，欢迎参与。
1、AIGC 技术探索与应用创新
"掘金城市沙龙·北京站"邀请了来自字节、英特尔、谷歌、清华大学等著名机构的 AI 工程师和专家，与大家线下交流 AIGC（人工智能生成内容）的一些学术性热点问题，包括工作原理、模型训练、后续变革等。
时间是4月13日下午，地点是方恒时尚中心（北京大钟寺地铁站旁）。现场座位有限，扫描上方二维码，了解详情并报名参加。不能到场的同学，可以扫码预约线上直播。
字节技术沙龙邀请了抖音 Android 团队的5位架构师，与社区交流抖音 Android 客户端的一些开发实践，分享内容如下。
- 抖音 Android 包大小代码优化实践
- 抖音启动性能监控平台建设实践
- 抖音流畅度优化探索和实践
- 静态代码分析在体验优化中的探索实践
- 抖音性能防劣化平台极致演绎之路
时间是4月15日下午，扫描下方二维码或者点击链接，了解详情并且免费报名预约直播。
以上两个活动，除了技术分享，还为参与者安排了精美的礼品抽奖环节，大家不要错过。
科技动态
1、子宫工厂
欧洲的人口出生率不断下降，一位科学家提出一个设想，在欧洲建立世界上第一个子宫工厂。
根据他的设想，这个厂有75个实验室，每个实验室最多容纳400个生长仓，每年可以培养30,000个婴儿。
胚胎放入生长仓后，就会有传感器24小时监控，并将生命体征、身体特征等数据实时发送到父母手机。父母还可以查看婴儿发育的高清图像，并通过扬声器与其交谈，或者穿上触觉背心感受婴儿的踢动。
每个生长仓都有两个管道，一个将营养物质和氧气泵入人造脐带，另一个排出废物。
一旦婴儿发育成熟，就可以从生长仓取出，交给父母养育。
2、不再冬眠的熊
美国太浩湖地区是一个风景区，也是黑熊的栖息地。今年冬天，许多居民意外发现，当地的黑熊居然没有冬眠，还在四处乱窜。
黑熊之所以冬眠，是因为冬天找不到食物，需要以静止的方式减少消耗。但是如果冬天能够找到食物，理论上，黑熊就没必要冬眠了。
太浩湖正在开发中，越来越多的居民移入，导致黑熊能够在人类聚居地的垃圾箱找到食物，这就是黑熊不再冬眠的头号原因。
3、流行歌曲越来越短
一项研究发现，从2000年开始，流行歌曲的长度越来越短。
一首歌的平均长度，从以前的4分10秒下降到大约3分30秒。2021年美国前50首最流行的歌曲，平均时长更短，仅为3分07秒，其中38%的歌曲甚至不到3分钟。
研究者认为，这表明人们的关注周期越来越短，如果不能很快听到精彩部分，就会感到不耐烦，不再听下去。另外，Tiktok 短视频的流行，也加剧了这种趋势。
4、哺乳动物的起源
澳大利亚科学家提出，哺乳动物可能起源于南半球。
传统的看法是，哺乳动物起源于北半球，因为北半球的陆地面积大，是大部分动物的栖息地。
但是，这些科学家认为，哺乳动物可以分成三类：有袋类（比如袋鼠）、胎盘类（比如人类）和单孔类（比如鸭嘴兽）。它们在澳大利亚都有分布，而且其中两类仅存于大洋洲。
这说明，大洋洲很可能是所有哺乳动物的起源地。而且，澳大利亚也确实发现了一些非常早期的哺乳动物化石。
5、防雾镜片
近视患者最不方便的事情之一，就是眼镜起雾。为了解决这个问题,瑞士科学家发明了一种防雾镜片。
上图左侧是普通镜片，右侧是防雾镜片。
眼镜起雾的原因是，潮湿的空气接触到温度更低的镜片时，会发生冷凝。这种防雾镜片设法加热镜片，从而避免了冷凝。
加热方法是在镜片涂上一层极薄的、透明的金属涂层。这个涂层会吸收太阳的红外线，使得镜片升温8摄氏度，缺点是在没有灯光的夜间，它就不起作用。
文章
1、维基百科的声音 Logo（英文）
维基百科本周发布了一个声音 Logo，作为音视频产品的标志。
2、为什么我们要与 CSS-in-JS 分手（英文）
作者认为，网页样式写在脚本里面的 CSS-in-JS 有重大缺陷，应该避免使用。
3、新的 CSS 视口单位 lvh 和 svh（英文）
本文介绍 CSS 视口的新引入的长度单位，专为适配移动设备的动态工具栏而设计。
4、Cloudflare R2 与 AWS S3 的比较（英文）
Cloudflare R2 是一个新推出的对象存储服务，比起老牌的 AWS S3，最大优势就是价格便宜。本文对两者的价格和功能进行详细比较。
5、苹果官网主页的历史回顾（英文）
本文回顾了苹果官网的变化，从最早的样子一直到现在，可以勾起很多回忆。上图是1997年乔布斯回到苹果之前的主页，怪不得当时濒临破产。
6、AV1 视频编码支持情况（2022版）（英文）
AV1 是最新的视频编码格式，可以节省流量。本文介绍了它目前的支持情况，结论是只有苹果设备不支持。
7、C 语言学习注意点（英文）
作者整理了自己学习 C 语言过程的一些笔记，相当于列出了 C 语言一些的学习难点。
8、老项目是否应该推倒重写？（英文）
接手一个很难维护的老项目，到底是继续改进原有代码，还是彻底重写？作者举了六个案例，讨论这个问题，值得一读。
工具
上周五，微软发布协作工具 Loop，可以免费使用。
它属于 Microsoft 365 套件的一种，允许用户将各种 Office 组件（Word、Excel、PPT 等）插在一个文档里，进行协作，跟 Notion 很像，参见官网介绍。
2、Mafs
一个基于 React 的互动式数学图形组件库。
开源的跨平台 ChatGPT 桌面应用程序，使用 Tauri + Vue3 开发。（@orangelckc 投稿）
4、Tartelet
一个在本机运行 GitHub Actions 的工具，通过虚拟机来执行任务，只支持 MacOS 系统，详见介绍文章。
5、RSS.cafe
一个国产 RSS 阅读器，增加了知识管理、期刊订阅等特色功能。（@zhi-wenzheng 投稿）
6、PodFind
一个开源的播客文本搜索引擎，所有代码都是 GPT-4 生成的。（@mazzzystar 投稿）
7、SQL Chat
一个 Web 应用，使用自然语言查询数据库，底层使用 OpenAI 的 API 将自然语言转成 SQL，支持 MySQL 和 PostgreSQL，代码开源。（@tianzhou 投稿）
一个开源的软件功能（feature）管理平台，支持灰度放量、AB 实验、实时配置变更等操作。（@nanxijms 投稿）
9、CubeTrek
这个网站可以导入 GPS 轨迹，在地形图上显示，特别适合生成山地路线图。
10、ov
一个命令行的文本阅读器，用来替代less或more。
资源
这个网页提供互动演示，帮助理解 CSS 里面与 3D 有关的各项属性。
2、AI 研究所
一个中文网站，收录 AI 相关工具。（@xlys997 投稿）
3、深度学习自己学
该英文网站是一个原创的深度学习的自学教程站。
这篇长文详细介绍 Web 应用是什么，理清各种概念，比如 SPA（单页应用）、SSR（服务器端渲染）、SSG（静态网站生成）。
图片
1、奇怪形状的树雕
一个法国艺术家专门制作奇形怪状的树雕。
你看上去以为它们是树枝，其实都是石膏做的，外面覆盖了松树皮，非常逼真，几乎看不出来是人造的。
艺术家说，他经常去树林中寻找灵感。他希望，人们在树林中遇到这些雕塑时，会产生惊奇和好奇的感觉，思考树木是多么不可思议。
如果不知情，在树林中看到这种东西，真的会吓一跳。
文摘
1、为什么学习微积分
高中的最后一年，我的学校开设了微积分课。
第一堂课就有学生提问："老师，日常生活哪里会用到微积分？"
老师回答："用不到，你永远不会在日常生活中使用微积分。事实上，你们中不少人，在未来的职业中也用不到微积分。"
他看着学生迷惑不解的表情，又说："你们想知道为什么要学微积分吗？"
我们几个学生点了点头。
他指着班里的一位校足球队的同学问道："你们经常练习足球，是吗？"
"是的，"学生回答道。"差不多每天都练。"
"教练给你们安排举重练习吗？"
"是的。每周二和周四，我们都要去举重室练习。"
"这是为什么？" 老师问。"为什么足球运动员要练举重？难道是为了在球场上推倒别人吗？"
"不，当然不是。"
"那为什么要举重？"
"因为它让我们变得更强大，"同学说。
"答对了！" 老师说。"微积分也是如此。你学习微积分，不是因为要在日常生活中使用，而是因为它让你的思维变得更强大。"
我从来没有忘记这堂课。
言论
1、
一旦你有足够的原子，你就开始搞化学。一旦你有足够的分子，你就开始搞生物学。一旦你有足够的算力，你就开始搞 AI。
-- 《AI 就是我们》
2、
我这一辈子都在大公司工作，对它们的运作太熟悉了。很多人即使公司会破产，也不愿挑战由层级远高于自己的上级制定的内部政策。
事实上，他们作为公司的员工，完全不了解也不关心政策会有怎样的后果，只是按照上级吩咐的去做。
3、
衡量一个人的领导能力的最好方法，就是看如果这个人休假了，他的下属在做什么。
优秀的产品经理和工程师可以休假一周，他管理的工作不发生任何问题。优秀的主管和技术负责人可以休假一个月。领导能力越优秀，休假的时间就越长。
-- Andrew Bosworth，Facebook 的 CEO
4、
阅读不会过时，除非写作过时了。写作不会过时，除非思考过时了。（Reading won't be obsolete till writing is, and writing won't be obsolete till thinking is.）
-- Paul Graham
5、
简洁的写作需要勇气。让事物变小是一种深思熟虑的、困难的和有价值的行为。
大多数书籍本应是一篇博客文章。大多数博客文章本应是一条微博。大多数微博本应不写。
历史上的本周
中国需要成立半导体部（2022 #201）
NFT 是什么，听说能赚钱（2021 #151）
互联网不再稀缺（2020 #101）
为什么过去10年，笔记本硬件发展缓慢？（2019 #51）
鸣谢
周刊得到国内新一代知识管理与协作平台 FlowUs 的帮助，深表感谢。
FlowUS = 文档 + 表格 + 网盘。你可以用它写文档、做主页、管理数据、存储文件等等。
每一期周刊同时发布在 FlowUs 专栏，欢迎大家也去开通自己的专栏和主页。
（完）
AKABRO 说：
在中国休假一个月的技术负责人可能会被开除。。
2023年3月31日 08:38 | # | 引用
依韵 说：
刚看完标题，先来评论。 我想说：“不要低估 ChatGPT ”
2023年3月31日 08:45 | # | 引用
kkk 说：
只要是基于 神经网络 的 AI。。代替 人类 就是 迟早的事。
想想以后再叠加上 量子计算机。可能就更像人脑的计算与存贮一体的结构了。大家都是基于概率的选择。
人类都不明白自己大脑中若干神经突触之间建立联系（逻辑）原因。基于神网的AI也是一样的，没人能一条条分析出 为何会形成 这条 权重路径。因为，权重路径就是过往经验的胜率集合。
你是程序员应该懂的其中的原因。别太乐观了，奇点一过，就是指数级的。可能 AGI 会比我们想像中的早到来。
然后，人型机器人技术也在同步进步。
再看看上面人造子宫 的设想。。
是不是一步步在走向 MATRIX 方向？
我近年来有一种很强烈的感觉就是，人类的未来，其实真的就是在全体人类的想像力当中的。大部分人的会怎么样，未来就会怎么发展。
2023年3月31日 08:46 | # | 引用
kkk 说：
当然，也有一种可能，就是我的世界是我想像创造的。我是这么想的，结果世界就是这么变化。所以当下的一切，只是我潜意识的映射。
2023年3月31日 08:49 | # | 引用
Haneki 说：
我觉得 gpt 的过度火爆有一定的商业因素。一些人并不在乎其真实的能力，但是吹捧它可以带来热度、流量和利用这方面赚钱。
2023年3月31日 08:56 | # | 引用
Tarys 说：
衡量一个人的领导能力的最好方法，就是看如果这个人休假了，他的下属在做什么。
优秀的产品经理和工程师可以休假一周，他管理的工作不发生任何问题。优秀的主管和技术负责人可以休假一个月。领导能力越优秀，休假的时间就越长。
——这句话估计是高高在上的高层说的话。可以休假一个月的人，基本是中高层了，高层定战略，中层定组织，这些人当然可以长时间休假了。
我认为工程师和产品经理可以休假的时间越长，越能反映基层领导的管理能力。人员梯队建设、业务能力备份、工作交接机制，这才是决定休假时间的关键因素。
2023年3月31日 09:03 | # | 引用
无知 说：
AGI还早着呢，最乐观也是到2040才有可能达成，正常估计是要到2050了。即使拿黎曼猜想来说，几百年了，人类也没能证明，而要我看的话，黎曼猜想未来被证明那天也是由AI证明的，但人类是否能搞明白这证明就不一定了。AI在未来将大幅超越人类智能，人类完全无法理解AI的意图与目的，对于人类来说确实是威胁，但科技的进步无法阻挡，地球几十亿年来无数的物种都灭绝了，未来几十年即使轮到人类灭绝也没啥奇怪的。而且并不是AI有意去消灭人类，而是由于高级智慧并不会在意低级生命导致的，就如人类这几百年的工业化并非有意造成那些物种灭绝，而事实上却导致了那样的结果一样。当AI大幅超越人类智能时，你很难要求高等智慧去对齐你的价值观和世界观，因为所有的事情已经远远超出人类的控制能力了。
2023年3月31日 09:05 | # | 引用
xianxiaobo 说：
它们只能掌握已知的模式，无法生成未知的模式。
明显是不对的，参考alphaGo。
柯洁说过，alphaGo自己左右互博的几局围棋，是他见过的有史以来的下的最精彩的几局。
以前围棋会说怎么走是错的，alphaGo出现后，有些走法也不再是错的。
现在围棋走法，基本都是参考alphaGo,谁模仿alphaGo模仿的最像，谁就是世界第一。
2023年3月31日 09:07 | # | 引用
xxb 说：
围棋早就打破过去的定势了，现在都是大家学习alphaGo的走法
2023年3月31日 09:08 | # | 引用
niann 说：
@kkk：
是的，人的意识也是几百亿神经元涌现的结果，当复杂度足够高时，文字接龙的gpt就有了一定的推理能力
2023年3月31日 09:12 | # | 引用
wup 说：
从去年年底的 GPT-3 到 Chat-GPT 到 GPT-4，然后还有 LLama, AI 的发展速度在按周推进。
当前，GPT-4 在有些测试中已经不逊色于人类，那么超越人类智商的 AI 还需要多久才能出现？
我想应该很快，甚至可能已经有了，只是尚不为公众得知而已。
它会未来如果影响这个世界乃至人类？
会像爱死机里的酸奶那样掌控世界，最终建造宇宙飞船离我们而去吗？
2023年3月31日 09:19 | # | 引用
matt 说：
子宫工厂，老《美丽新世界》了
2023年3月31日 09:20 | # | 引用
c 说：
准备休假一个月来验证一下
2023年3月31日 09:26 | # | 引用
游客 说：
GPT-4已经涌现出推理能力。
2023年3月31日 09:32 | # | 引用
淘汰的完美 说：
chatGPT改变了我的搜索逻辑
人类已经很久没有再诞生一位通才了，随着学科的增多和深入，通才全才已经不可能了。但是AI可以做到什么都懂
2023年3月31日 09:34 | # | 引用
Spike 说：
针对文中“ChatGPT 要用现有的文字材料进行训练，发现的是那些材料包含的规律。这意味着，它不能生成超出人类已知规律的东西。”这一观点我有不同的看法，我觉得 ChatGPT 发展到后期会具备生成超出人类已知规律的东西。可以类比 Alpha Go 的发展来看，最开始的 Alpha Go 确实是通过学习人类棋手的下法来提高自己的水平，但在 GAN（Generative adversarial network 对抗式神经网络）出现后，Alpha Go 可以自己和自己下棋来总结新的规律，以至于现在 Alpha Go 的下法人类棋手已经看不明白了，甚至于已经开始学习 Alpha Go 的下法，所以我认为 ChatGPT 发展到后期会具备生成超出人类已知规律的东西。
2023年3月31日 09:36 | # | 引用
shaowey 说：
也别低估chatGPT吧，我现在的周报基本都是它（他/她）写的了，毫无违和感。人类社会的工作有多少是创造性的呢？至少替代绝大部分某个人力资源大国的基础脑力劳动者是没有问题的吧。
2023年3月31日 09:43 | # | 引用
hjyo 说：
AI无疑是迟早取代人类的，就看看AI从AlphaGO到目前的进化速度就可以知道了，相比人类进化到类似程度花了多少年。反正我是很悲观的，人类迟早把自己干掉，只希望我的孩子这一代不要碰上
2023年3月31日 09:45 | # | 引用
风铃Echo 说：
子宫这个就像是大家不想养小孩，他说送你一个小孩养一样
2023年3月31日 09:47 | # | 引用
rsj217 说：
"席卷一切"? 别的不说，每次找客服遇到AI机器人就很烦，就想一键找人工客服
2023年3月31日 09:47 | # | 引用
业余草 说：
ChatGPT 现在是一个风口
2023年3月31日 09:48 | # | 引用
彦祖 说：
@无知：
我觉得仁兄缺乏一定的想象力。
2023年3月31日 09:52 | # | 引用
misteryliu 说：
@无知：
说的太好了
2023年3月31日 09:54 | # | 引用
MhbMM 说：
alphaGo会耍赖吗、会下除了黑白以外的棋吗、会疑问为啥只能在棋盘规定的地方落子吗，等它会这些以后、不在人类给它制定的规则里play时，这才是真正的创造性，我觉的一定会有这么一天，但是应该不会这么快，同比gpt，啥时能自主迭代更新不需要程序员时，人类才有危机
2023年3月31日 10:00 | # | 引用
Bora 说：
围棋是遍历，这和阮的观点不冲突
2023年3月31日 10:00 | # | 引用
修远 说：
chatGpt目前对我最大的用途就是接替一部分搜索引擎的工作
2023年3月31日 10:03 | # | 引用
EspoirBao 说：
已经出现chatGPT教了，朝圣者正在向他们的上帝不要降下灾厄
2023年3月31日 10:11 | # | 引用
ce 说：
何必悲观，而且恶趣味的说：你可能比AI更有成本优势，乐
反正我们这代人暂时是没机会脑后插管了，真可惜（悲
2023年3月31日 10:14 | # | 引用
Shuai 说：
快进到《黑客帝国》
2023年3月31日 10:19 | # | 引用
Nancy 说：
那个防雾眼镜很赞呀，对近视的人太友好了，不知道什么时候能上市买到。
2023年3月31日 10:25 | # | 引用
大熊 说：
大胆猜测，本文是否用类ChatGPT工具生成的？
2023年3月31日 10:30 | # | 引用
kcin 说：
我的看法是，除非能源领域有重大突破（比如可控核聚变）或者LLM已经可以用极小的代价实现自我更迭的训练，否则这个奇点就不会到来。然而不论如何，chatGPT已经可以看做人类获取知识方式的新的革命了（文字、书籍、互联网）
2023年3月31日 10:30 | # | 引用
AzureSky_X 说：
当我们曾经想象的一切开始逐渐实现，我们开始了恐惧
2023年3月31日 10:36 | # | 引用
桔子有点酸 说：
言论3应该补充至少一个前提
2023年3月31日 10:48 | # | 引用
Devil 说：
Alpha Go 训练比较简单，自己下围棋，胜利就是正确。但是GPT无法判断自己生成的文字是否正确，所以需要标注员或者用户来帮助训练
2023年3月31日 10:50 | # | 引用
哈哈 说：
休假这条在国内不完全适用，有些摸鱼的领导，请假一年没准公司发展的更好。。。。。
2023年3月31日 10:54 | # | 引用
Van 说：
chatGPT确实高估了，目前看来都是炒作大于实际应用。我以为看你周刊的人会清醒一点，看来还是我浅薄了
2023年3月31日 10:57 | # | 引用
羽·書 说：
微积分：你平时用不到我的
淘宝促销：????嘿嘿嘿
2023年3月31日 11:06 | # | 引用
ffzz 说：
有了插件后ChatGPT不仅是一个LLM了，已经向AGI前进了一大步
2023年3月31日 11:27 | # | 引用
4cos90 说：
文中ChatGPT所做不到的事情，其实很多普通人也做不到。
大部分人的工作也不包含创造性的工作， 只是通过已有的知识来做一些推断。相比之下ChatGPT给出的答案往往更全面，而人常常会有盲点。
ChatGPT不会淘汰人类，但是会淘汰掉大部分普通人的工作。这样的冲击已经很大了。
不宜过分夸大，也不宜过分乐观。
2023年3月31日 11:28 | # | 引用
多弗哥 说：
“如果 ChatGPT 真的强大到席卷一切，将来绝大多数文档都用它来生成，其实反而会带来它的衰亡。大家这么想，到了那个时候我们拿什么材料训练 AI 呢？毕竟 AI 只有拿人类的作品训练，才能模拟人类智能。”
我个人理解是这样的：如果GPT真的强大到席卷一切，绝大多数文档、资料都用它来生成，那到了那个时候我们要拿什么材料训练AI呢？是否那时候就意味着要开始AI自动进行自我训练了呢？但AI只有在拿人类的材料进行训练，才能模拟人类智能，如果AI开始自我训练，产生的结果和输出是否就可能不会被人类所理解（超越人类智能或毫无人性）？那如果是这样，最终的结果是人类灭绝或被奴役、AI远离人类还是人机共同体呢，这样的概率有多大呢？
2023年3月31日 11:28 | # | 引用
Addf 说：
有两点：1. ChatGPT已经是落后的了，可以看看GPT-4，两者不可同日而语；2. 作者明显没有看过那两篇论文，GPT-4不再是单纯的语言模型，而是有多模态能力的。
2023年3月31日 11:34 | # | 引用
???? 说：
“Code is the language of computers. Protein and molecular sequences are the language of biology. Large language models can be applied to such languages or scenarios in which communication of different types is needed.”
摘一段英伟达官网上的观点，LLM 不仅限于自然语言，这个世界上有多少事不能用符号描述和交流的呢。
2023年3月31日 11:36 | # | 引用
Kevin 说：
可以给每个新生儿都内嵌一个chatGPT,那不就省了多少教育资源了。
2023年3月31日 11:38 | # | 引用
无名 说：
AI替代人类是迟早的事情，但不是现在。
就眼前看看，仿生学这么多年，连一个鸟类飞行都模仿不了，连人类走路都学不了，更何况大脑思维？
目前来说，我觉得至少几十年之内，AI发展会很迅猛，但是比起人脑依旧将由不可逾越的差距，当然，一些不动脑子的人，别说AI，没有AI也会被替代掉。
我觉得，什么时候出现可以完美的模仿人类的物理机器人，几乎可以替代人类所有运动的机器人，而且成本降到和雇佣人类差不多时候，真正能替代人类的AI才将会有可能出现。
毕竟，人类进化出思维要远比身体的难度要高几个量级。
2023年3月31日 11:50 | # | 引用
x 说：
世界并不是线行发展的，可能接下来 AI 能力会指数级上升，半年后就远远超越人类。也能可能 AI 已经达到这种模式下的极限，几十年后依然也就是这样。
都有可能，未来和大家想的往往很不一样，不如让子弹再飞一会。
说到高估 GPT，其实老阮不是最先开始鼓吹的么，当时就说了多看看再说。
有些人拿 AlphaGo 举例，其实 AlphaGo 只是按规则不断尝试，它可以在较短时间内把人类一辈子可以尝试的走法都走完而已。
另外估计很多人只是偶尔听说 AlphaGo 什么的，并不是经常关注，如果经常关注你就知道前不久人类找到击败一个击败围棋 AI 的漏洞，方法很简单，声东击西，这种下法对人类来说只能迷惑新手，但一个入门级棋手都可以用这种办法击败 KataGo Leela-Zero 之类围棋 AI，不过并没有说是否能用此方法击败 AlphaGo。
因为这些 AI 平时学的都是专业级的棋谱，没见过这种业余打法，它推算的概率都是基于专业人士的下法，对业余打法估算不准，哪怕下到最后它推算的概率都是自己会赢，当然现在这个漏洞可能已经补上了，毕竟学得快。
现在的 AI 模式和人类终究不一样，以人类大脑的运算速度来说，如果是这样学习、推理，那么一辈子也学不会说话，毕竟人一辈子也学不了上千亿的资料。
从这个角度来说，我想 AI 永远都不会跟人类一样思考，或许它永远达不到人类的智能，或许它会发现一种更好的思考方式，成为更高阶的智能。
谁能知道呢，还没到下结论的时候，不要急于下结论。急于下结论，会产生和老阮回头看两三个月前的文章和微博一样的感觉。
2023年3月31日 11:57 | # | 引用
DT 说：
确实不应该夸大，客观评估ChatGPT的影响的话，也就比第一枚核弹爆炸时大一点
2023年3月31日 12:28 | # | 引用
路遥 说：
从目前LLM的技术角度看（基于自回归的迭代预测），其能力上限非常取决于语料。而且当预测轮次达到一定程度时，这种错误无法避免。从这个角度看，ChatGPT距离AGI还是有很长距离，至少其底层训练范式必须有所创新。
2023年3月31日 13:08 | # | 引用
花花 说：
都子宫工厂了，为啥还要把孩子给我自己养……
2023年3月31日 13:29 | # | 引用
morganfly 说：
看着评论无脑吹AI和ChatGPT的,我真的有点蛋疼
说的很明白了,就是一大型语言模型,更是要往天网上套
想看评论的用户画像
2023年3月31日 14:48 | # | 引用
ffy 说：
用来一段时间，很多时候在一本正经的胡扯
2023年3月31日 14:52 | # | 引用
哈哈儿 说：
对GPT的看法，不是太认同。
2023年3月31日 14:55 | # | 引用
chenyong 说：
你怎么给出的具体的时间点？2040，2050？是基于什么评估的
2023年3月31日 15:29 | # | 引用
鸭皮 说：
本周基本都是面向gpt编程，当前模型应该就算再多的算力和训练也突破不了太多，离着我们设想真正的AI还有距离。
2023年3月31日 15:34 | # | 引用
xcc 说：
有道理，但99.99999999999999999%的人是没有能力创新的~
2023年3月31日 15:46 | # | 引用
北海道浪子 说：
去年fb改名meta的时候，看了你的文章，你支持元宇宙，于是我重仓了元宇宙，亏的裤衩子都没了。今天看了你对ai的感悟，我加仓了ai股昆仑万维和360，收获了20个点。
2023年3月31日 15:49 | # | 引用
ccran 说：
尤其是人类的创新能力，ChatGPT 触及不了这个部分，问题是有多少人干的是创新的活呢
2023年3月31日 15:52 | # | 引用
我在山上 说：
现在大家对信息会有些麻痹，不夸张再夸张点击的KPI很难达成，所以GPT变得很神，然后神有一个特点，只听过没见过，哈哈哈。
2023年3月31日 17:01 | # | 引用
望月人 说：
作为计算机科班出身的我来说, 震撼我的并不是GPT有没有智能, 而是竟然有这么多工作因为GPT而面临威胁
2023年3月31日 17:19 | # | 引用
傲然绝唳 说：
确实，体验过才能感知到强大，GPT4或许还不能替代大多数人，但已经彻彻底底改变了我的生活，我的思考方式，我获取信息的途径，我的学习方式。GPT4还不能，GPT5呢？不能过度盲目吹捧，但文章的观点有点贬低了，能发挥它多大的用处，取决于大家自己。
2023年3月31日 18:14 | # | 引用
daftc 说：
我已经离不开GPT了。
天天装git上最新的ai项目，开发者没空处理所有的安装Bug。
我也不能手动排除所有问题。问GPT总能解决，或者提供思路、方向。
和它的CEO一样，我不认为它缺乏逻辑推导能力。之前让它做复数导数，甚至哪一步用了什么重要法则
都能说出来，WolframeAlpha没有这么友好的过程展现。但确实会经常出错，甚至有错不改...
令我担心的是它的闭源特性，和明显对伦理等敏感问题的避讳，依赖于OpenAI组织的“专家意见”。它不够自由，有明显的价值观导向。
2023年3月31日 18:35 | # | 引用
Kaspa的技术博客 说：
如同所有的生产力改革一样，淘汰旧的工作岗位的同时，诞生新的工作岗位。ChatGPT的局限在于他是作为人类社会的参与者，而还不具备制定社会规则或诞生新社会的能力。
2023年3月31日 18:38 | # | 引用
RedNax 说：
有些东西还是需要有自己的判断。当初博主先后支持symbian、WM（博客仍可找到），然而这两个最早入土???? ……
2023年3月31日 21:14 | # | 引用
hb 说：
不管是低估还是高估，某些行业一定要重新思考定位了，在我备考雅思的过程中，chatgpt可以胜任任何培训机构，这类语言考试培训机构可能要受到很大的冲击。
2023年4月 1日 03:12 | # | 引用
恐咖兵糖 说：
每次 AI 技术有重大发展，或者关于人工智能的电影。都会有人来出来感叹“天网”来了，都快成老生产谈了。ChatGPT个人认为确实还不能证明是奇点，但是用途广，影响大。若 GPT 能推理数学，取得几个开拓性成果，或许可算一个“奇点”
2023年4月 1日 10:12 | # | 引用
Carbon Silicon 说：
gpt确实基于人类已有智慧但是是基于金字塔顶部的智慧，而且人类有个致命的问题，人类会死亡，新的生命需要重新学习以往的智慧，这甚至还是理智的优秀人才。知识对大部分人冲击这么大，毕竟大部分人做不到理智，优秀人才更少了。
2023年4月 1日 11:09 | # | 引用
Joker 说：
①
“举例来说，它不能证明未解决的数学猜想，也不能提出没有人发现过的科学发现。”
陶哲轩已经明确提到了，ChatGPT对于数学问题推理的分析，是对数据学有用的；他也已经将ChatGPT纳入他的工作流的一部分。
②
“如果 ChatGPT 真的强大到"席卷一切"，将来绝大多数文档都用它来生成，其实反而会带来它的衰亡。大家这么想，到了那个时候我们拿什么材料训练 AI 呢？毕竟 AI 只有拿人类的作品训练，才能模拟人类智能。”
想想AlphaGo吧，它的后几个版本，就是【零棋谱】的情况下，自己和自己对弈，从而训练出来的。
2023年4月 1日 13:32 | # | 引用
Stefanie 说：
我们人类学习知识和AI的训练过程又能有多大差别呢，我们现在的一切判断，不也是基于前人的思考么，我们阅读，我们学习，也是在通过输入数据来训练自己的思维模型，唯一的区别可能就是AI比我们快
2023年4月 1日 16:06 | # | 引用
TomDu 说：
优秀的产品经理和工程师可以休假一周，他管理的工作不发生任何问题。优秀的主管和技术负责人可以休假一个月。领导能力越优秀，休假的时间就越长。
- 我觉得他手下员工本身就优秀是比较重要的原因..
AI再次成为了新一波热点。不抓紧学习GPT相关的知识有种要被淘汰的感觉。以前是被同行卷，现在是被AI卷了..
最衷心希望的是这个热潮可以让手上的股票涨回去????
2023年4月 1日 17:15 | # | 引用
x 说：
个人感觉差别还是很大的。
首先，不阅读不学习前人的知识和思考，我们也是会思考的，也是可以自己总结出经验和知识的，学别人主要是为了节约时间。自己摸索需要更多时间，一辈子学不了多少东西。
其次，人类大脑运行较慢，终其一生也不可能读完一亿份资料。但我们也不需要读那么多资料，人学会说话和写作、画画等等需要的训练相对较少，和这种大数据模型有几个指数级的差距，天文级别的差距。按这些大模型的搞法，人类一生都学不会说话、写作、画画……
再次，人类大脑思考所消耗的能量和这种大模型相比，要少得多，不然说一句话大概就得吃一顿饭。
现在对于人类智能的原理没有定论，但应该和这些大模型还是不同的，生物大脑因为生理机能的限制是没办法走这种大数据填喂模式的。
2023年4月 1日 18:45 | # | 引用
ivu4e.com 说：
不高估，国外那些喊停的人脑袋被门挤了？
2023年4月 1日 21:48 | # | 引用
EtherealAria 说：
喊停的原因不少，马斯克喊停究竟是为了人类的未来，还是“等等我，这块蛋糕我也要分”？
2023年4月 2日 10:05 | # | 引用
EtherealAria 说：
人类对自身神经元的联系与人脑形成思维逻辑的范式和底层原理尚未清楚，怎么就能被概括成“都是基于概率的选择”了？不少人用LLM的泛用性和AlphaGo说事，前者就算支持再多的符号语言也终究是基于prompt训练的Model，因为LLM的基础定义就是prompt-output型，再泛用又和本文提到的Creative有什么关系呢？
Alphago那个深度神经学习网左右互搏，本质上是基于围棋有限手库的遍历评估和规划，无法跳脱框架，本质上还是算力的低级堆叠（相对于人脑），人脑基于复杂思维链路低算力处理的复杂度人类自己都没搞清楚，所以单纯提升算力和拓展传统算法提高AI的“低级复杂度”意义不大（倒不是一定不能在当前底层逻辑下靠堆算力逼近奇点，但概率很小，就像你高考如果不改变思维模式单靠堆刷题量和刷题速度考出高分概率很小），倒是找到更高层次的AI计算方式，接近或者高于人脑层次的逻辑方式，更有可能推动AGI奇点到来。
而且还有一点是，引用@路遥的话，预测cycle到达一定上限时的错误问题，也是一大阻碍。
如此看来，GPT对社会的冲击不可谓不大，但对人类这个物种的底层能力冲击力度还不能说大。
2023年4月 2日 10:27 | # | 引用
EtherealAria 说：
补充一点，退一步说，即使人类思维的根本运行依赖量子，也不意味着量子计算机的计算模式能超越前者思维运算时量子波动、交互等的模式的复杂度和高级程度、功耗比等。如同人类宏观物理基础定理体系发明出千年至今无法精确完美预测天气等类混沌系统，需要很长时间才能证明譬如多体问题不可解一样。
2023年4月 2日 10:42 | # | 引用
ywhulk 说：
技术改变人类的生活方式，似乎也在改造我们的基因。当世界只有一部分天才型人和高级机器控制时，生命就失去色彩，如同蝼蚁一样。没有可持续规则伦理的固化时，技术发展太快，并不是一件好事。我们总希望地球多转几年吧。
2023年4月 2日 14:39 | # | 引用
奔波 说：
表达的欲望还在人就会写作，至于是怎么写作就看怎样方便表达而已。什么时候AI成为了人类的公认器官了，现在的表达方式才会过时吧。
2023年4月 2日 15:09 | # | 引用
图班龙格 说：
大多数书籍本应是一篇博客文章。大多数博客文章本应是一条微博。大多数微博本应不写。
2023年4月 2日 19:33 | # | 引用
GSA 说：
chatGPT目前可以生成一些demo级代码，相当于可以替代初级工程师的工作，企业只需要高级工程师去整合它的成果。如果chatGPT有一天进化成可以生成企业级应用代码，企业可能就只需要几个架构师了。感觉还挺可怕，终于卷死自己了
2023年4月 4日 02:25 | # | 引用
dfgdsf 说：
那个子宫工厂，一听就很不靠谱。
那个英语报道在标题上也写道
"world’s worst solution"
最糟糕的解决方案，非常直言不讳了
2023年4月 4日 11:25 | # | 引用
骨蝶 说：
有意思，我要求ChatGPT随机给我一个国内的有关信息技术的个人博客，让我发现了这个好地方。
2023年4月 5日 17:13 | # | 引用
wyg 说：
看我老婆怀孕那么辛苦，我就在想，要是能直接把受精卵从子宫抽出来放到培养皿里体外培养多好，养好了给我们就行，省了怀胎10月的痛苦、多次的孕检以及生育痛苦，还省了对母亲身体造成的伤害，简直一举多得。人造心脏都能移植了，人造子宫应该不是多大的技术难题。唯一的阻碍就是人类的观念。（以及法律约束？有法律约束受精卵不能再体外培养成人吗？）
2023年4月 6日 08:51 | # | 引用
netwjx 说：
如果将ChatGPT这种AI技术, 理解为大脑的海马体, 而且是全人类共用的海马体
意思是提前知识传代需要自行慢慢训练, 现在基本上不用自己训练, 需要用的时候, 到这个海马体中查找就行了
意味着人类第一次实现了知识的"全球互联", 凡是前人想过的问题, 你都可以十分方便检索到. 以前需要用搜索引擎, 现在用AI的效率更高
那么人类剩下的就是磨炼技能和探索未知
2023年4月 6日 10:53 | # | 引用
netwjx 说：
老项目是否应该推倒重写？https://herbcaudill.com/words/20190219-rewrite-refactor-reinvent
这个里面讲了很多故事, 而且对joel的故事又进行了重新诠释, 这里面的故事真精彩呀
十分期望能在博主这里看到中译版本, 算是用今天的视角, 对过往20多年的决策回顾和复盘
2023年4月 6日 11:26 | # | 引用
lq 说：
知道为什么Facebook会变成现在这个样子了
2023年4月 6日 13:17 | # | 引用
orange 说：
chatGPT只会整理训练模型里的已知东西，并不会创造新东西，创新力才是人类的核心竞争力，就这一点来说，无需担心
2023年4月 7日 13:28 | # | 引用
马程鹏 说：
chatgpt对于尖端科学探索，可能更多的是辅助作用，但对于普通人的意义，是颠覆性的。通过学习人类知识，它可以完全取代普通人的脑力劳动，这点会重塑人类社会格局。尽管他没有自主意识，不会创新，但对人类个体而言，个人的创新或许是别人早已发现的成果，只要有充足的数据，量变会引起质变，对于绝大多数普通人来讲，chatgpt总有一天会是一个无所不能的超人。
2023年4月 7日 13:41 | # | 引用
气凝胶 说：
子宫工厂不应该是必须让生理父母来领养，可以作为中转站，然那些渴望有优秀基因后代的父母来养。并大力宣传优秀后代改变人生的价值观，这样子宫工厂就可以变成一个热门行业了。
2023年4月10日 10:49 | # | 引用
陈番茄 说：
《Web 应用 101》https://www.robinwieruch.de/web-applications/ 这个有没有中文版，我想好好学习下概念，英文看的我头疼。
如果说我对chatGPT的期望是啥，我希望能利用AI消灭语言障碍和门槛，更加流畅准确的翻译官
2023年4月11日 09:26 | # | 引用
coolriver 说：
我认为 AI 能力现阶段虽然不用被 “夸大” (目前看到的是只一些 “技能” 或者说是 “知识” 看起来已经被 AI 很好地掌握，短期内可能会影响一些工作岗位)，但需要警惕的是它的发展趋势。
非常欣赏罗素关于知识和智慧的说法：“随着知识与技术的不断增长，智慧越来越显得必要，因为知识与技术每一步增长都在使我们实现自己目标的能力增强，因此，倘若我们的目标不明智，我们作孽的能力也就越大。”
人脑承载了多种形式的内容，有信息、知识、智慧、主观意志。在信息化时代，人脑摆脱了信息存储的限制，通过工具可以快速地检索到各类信息，而不用记忆在脑子中。在 ai 发展强大的时代，人脑可以摆脱知识的存储限制，可以通过 AI 来调动各种知识和技能。但智慧和主观意志，是目前 AI 所没有的。
AI 的发展蕴含了两重危机。第一重是知识的使用门槛降低，这种趋势也会反过来促进知识的发展。如果人类智慧的增长速度落后知识太多，知识的应用可能会失控。强大能力的失控(比如被作恶者利用)，会造成灾难性的后果（比如想象一下全球核战争爆发是什么后果）；第二重是 AI 真的发展出来了所谓的 “主观意志”，且这个 “主观意志” 并不在乎人类及其文明的未来。当一个掌握了人类几乎所有知识的 “意志” 出现时，它本身是善是恶，对人类及文明的态度会如何，不得而知，人类文明很可能因此岌岌可危，很多科幻电影里都描述了类似的故事。
综上所述，AI 当前阶段可不用夸大，但需要保证其发展，能在人类智慧的控制范围内。
2023年4月11日 22:16 | # | 引用
蓝 说：
之前有人推荐眼镜防雾喷雾，可以看看这个。
2023年4月12日 09:44 | # | 引用
九鬼守望者 说：
ChatGPT的算法就是以人类作品为样本萃取其中精华...如今又是网络又是云计算 大数据什么的优势下早已今非昔比 在非创新性领域中可以说是无敌般的存在 毕竟1个人再怎么天才也无法比肩天下人 虽然不会创新 可也让90%人的一生所学价值变低 这已经很恐怖了好不 或许未来我们的学习内容除了基础之外 更应该学的主要是如何了解和使用知识 而不是将大量时间花在重复知识上 同时进行知识树的精简构造工作
2023年4月14日 09:23 | # | 引用
xiaolong 说：
"微积分也是如此。你学习微积分，不是因为要在日常生活中使用，而是因为它让你的思维变得更强大。
我至今都没想通得问题，在这里找到答案了！！！！
2023年4月15日 11:51 | # | 引用
谔谔 说：
那个防雾眼睛好像也是一篇高考英语阅读的内容
2023年4月18日 00:31 | # | 引用
moyu 说：
不赞同标题，GPT已经涌现出推理能力，不再是只生成已存在的东西，明显已经非常趋近AGI了。
2023年4月19日 23:56 | # | 引用
John 说：
chatGPT在文章里写了他们先用传统NLP模型训练了一个初级版本，然后引入强化学习让模型自己不断进步达到今天的效果的。所以其实未来有人去给它生成的数据打标签就可以了，不一定需要是用人类自己产生的数据。
不过我仍旧同意在资本的热炒下是有点过度吹捧了，AGI的奇点也还没有到（我认为目前还完全看不到会到来的可能性）
2023年4月21日 05:34 | # | 引用
华丽地飞走 说：
chatgtp对很多初级岗位很友好，比如编程，可以快速学习。
2023年4月21日 12:40 | # | 引用
TrajanD 说：
别的先不说，您真的确定您在那时候碰上的自动回复是"AI"吗？
相似的体验我也有，根据我的一点点编程经验，实现类似的功能完全可以用简单、“低端”、更便宜的手段
2023年4月23日 22:00 | # | 引用
DingSoung 说：
GPT更像是一个高级一点的搜索引擎
跟AI（人工智能）没半点关系
2023年4月27日 11:41 | # | 引用
JOJO 说：
学很多东西都会使思维更强大。为什么偏偏是微积分呢？谬论。
2023年5月 5日 15:59 | # | 引用
Ricky Gu 说：
现在的GPT堪比五六年前的区块链
2023年5月 6日 16:45 | # | 引用
TigerWang 说：
"它们只能掌握已知的模式，无法生成未知的模式。"
这只是你的臆想。
人类可以学习已知的知识，然后生成未知的东西，那么ai为什么不可以呢？
就因为它是ai而不是人类？那这和种族歧视有什么区别？
仅以“不是人类”这个理由来认为它不具有创造性，我认为这也是一种歧视。
当然，我也认为现阶段的ai是不具有创造性的，或者具有很弱的创造性。
但我认为ai未来可期。
虽然那些神经病媒体都在妖魔化chatgpt，但chatgpt的潜力确实非常大。
很多人觉得chatgpt也就那样，其实是因为他们不会用，他们的语言组织能力很差，他们说的需求连人类都不明白。还有的是因为他们的提问非常宽泛，比如“写一篇爱情小说”“写一个数据分析的程序”，如此宽泛的要求，gpt当然也只能给出模糊的回答。
我现在写代码已经是离不开gpt了，实际上只要掌握了诀窍，摸清了gpt的性格，就可以开发它的潜力。即使是复杂的代码，我也能让它写出来，他每次都能给我惊喜。
2023年5月 7日 12:23 | # | 引用
老鱼 说：
gpt 算法能够在人类意想不到的地方为两个语义建立连结，这就是一种创造性。但是 gpt 算法以及各种深度学习算法最大的问题是容易创造不合理的数据连结。当不合理的数据连结远远超过合理的，它就变成了无用之物。
2023年5月11日 01:18 | # | 引用
陈陈 说：
一年后，被标题吸引回来了。
"通用人类智能"（artificial general intelligence，简写 AGI）是 AI 的终极目标，就是造出可以像人类那样全方位的推理、思考、分析的机器。如果能实现，人类就真的危险了。”
感觉越来越近了:《周鸿祎：Sora意味着AGI的实现将从10年缩短到一两年》
2024年3月29日 17:03 | # | 引用