追踪大型语言模型的思维
原文地址：https://www.anthropic.com/research/tracing-thoughts-language-model 更多网址：https://transformer-circuits.pub/2025/attribution-graphs/biology.html 发表日期：2025年3月27日 翻译模型：Gemini 3 Pro 追踪大型语言模型的思维像Claude这样的语言模型并不是由人类直接编程的——相反，它们是在海量数据上训练出来的。在训练过程中，它们学会了自己的解决问题的策略。这些策略编码在模型为其写下的每个单词所执行的数十亿次计算中。对我们这些模型的开发者来说，它们目前依然是难以理解的。这意味着我们并不了解模型是如何完成它们所做的大部分事情的。 了解像Claude这样的模型是如何思考的，将使我们能够更好地理解它们的能力，并帮助我们确保它们在做我们希望它们做的事情。例如： Claude能说几十种语言。如果在它“脑海”中有一种语言，那是什么语言？ Claude逐词编写文本。它只是专注于预测下一个词，还是曾经提前规划？ Claude能够逐步...
中国如何接入国际互联网
中国如何接入国际互联网这个问题，首先要解决的是中国什么时候接入互联网。我从小的认知是从1987年开始，由建立国际电子邮件通道开始，并且人民日报也曾有报道称是1987年： “ 20年前的9月20日，中国第一封跨国电子邮件从北京发至德国卡尔斯鲁厄大学的一台计算机上。这标志着中国成功接入国际互联网。而对此给予巨大帮助的是德国波茨坦大学哈首·普拉特那研究所的维纳·措恩教授，当时，他任职卡尔斯鲁厄大学，同中国互联网的先驱们一起为中国打开了迈入国际互联网之门。……1987年9月14日，两国科学家共同起草了中国第一封跨国电子邮件，内容为‘跨越长城，走向世界’。20日，这封电子邮件穿越半个地球抵达德国。” ——《人民日报》2007年9月22日报道 by 吕鸿 关于这件事，DW还有相关的报道： “1987年的9月14日，我在北京科技大学输入了中国第一封电子邮件的文本。然后又折腾了一个星期，9月20日才成功发送。”……他向德国之声记者透露，中国的互联网在起步阶段主要获得德国的帮助，而非网络技术最为领先的美国的帮助，取决于多个方面的因素。”当时还是冷战时期啊，美国人当然不希望互联网、电子邮件这...
TPC/IP协议和NAT网络
在1974年Cerf和Kahn发表那篇奠基性的《分组网络互联协议》时，TCP（Transmission Control Program）还是一个浑然一体的单体协议。在这个最初的设想中，TCP不仅要负责“把数据包送到哪里”（路由与寻址），还要负责“确保数据包安全到达”（传输控制、纠错、排序）。这种设计在同构网络中运行尚可，就好比一家只送挂号信的邮局，每一封信都必须被追踪、确认回执。然而，当ARPA的研究人员试图将这种设计推向更广阔的异构网络——特别是包含卫星网（SATnet）和无线电网（PRnet）的复杂环境时，这种“大包大揽”的设计立刻撞上了南墙。问题的核心在于可靠性与实时性的根本冲突。在1977年的三网互联实验中，研究人员（特别是Danny Cohen）发现，如果你想在网络上跑实时语音（Voice over Packet），TCP那种“丢包必须重传”的强迫症逻辑简直是灾难。 试想一下，你在打卫星电话，中间丢了0.5秒的音节。如果按照TCP的逻辑，系统会暂停后续的播放，直到那丢失的0.5秒被重新传回来。结果就是，你听到的不是流畅的对话，而是一段段被严重延迟、顺序错乱的“鬼畜”音频...
TCP和OSI
CYCLADES和X.25之争并非是70年代的个例，自70年开始到90年代TCP/IP最终胜利，计算机网络领域经历了旷日持久的Protocol War，这中间出现了大量曾经风靡一时但如今鲜为人知的网络协议，X.25只是其中的一个有点显眼的注脚而已。在讨论TCP和OSI之前，我感到比较疑惑的一个点是：为什么电信公司都要设计这样的网络设备，为什么如此强调线路的可靠性，为什么不在一开始采用网络拓扑？ 如果我们在以往的电信网络设计中，传统上长途电话会先打到电话局，然后电话局之间交换要传递的信息，最终把信息交到我们的最终用户手上，因此每一条通话都有着明确且固定的路线。所谓的专线电话，就是各个电话局中你和目的地接口始终连接在一起，这样子你就在物理上独占了一个路线，这根电线可以从你家一直连接到几百公里之外一路畅通无阻。更重要的事情是，整个网络中具有计算能力的实际上只有电话局而不是你的电话机，这就默认了一个无法计算的终端机和一个有强大交换功能的交换中心——在小型机兴起之前，边缘设备一般都无法承担网络通讯的重任，因此端到端网络基本上不可能。 1960年代兴起的分组交换技术打破了这一点。分组交换好比...
OSI模型回顾
传统意义上的OSI（Open Systems Interconnection Model)是一个标准化的计算机通讯架构设计。与一般的计算机工程实践不同，这个设计架构主要是以其概念设计而非工程落地的成果闻名，换言之即便当今世界上没有一台电脑使用OSI模型规定的网络协议，但是所有人学习计算机网络都是从OSI开始的。 既然是一个标准化协议，那么必然是解决非标准化的问题——在1970年代，以IBM、DEC为首的各家巨头为了抢占市场，各自发展出来互不兼容的计算机网络协议——如果你买了IBM的终端、打印机，那么你必须用上IBM全家桶，哪怕是IBM的网线都不能给DEC用。是故天下苦其久矣，CCITT（国际电报电话咨询委员会，现在的 ITU-T)为首的电信业和ISO组织开始为网络通讯协议标准化召开会议，并且经过了各方势力激烈的斗争，ISO组织最终在1984年发布了ISO7498标准，这也就是是为大众所熟知的ISO模型。 OSI的起源在OSI模型的发展历程中，法国计算机科学家齐默尔曼（Hubert Zimmermann）起到了关键的作用——ISO/SC16主席 Charles Bachman曾经评...
Shell配置脚本
新服务器环境配置常常因网络不稳定和重复手动操作耗费大量时间。这个一键脚本侧重容错与兼容：自动检测网络并切换镜像源，修复因中断导致的 Antidote 损坏安装，保留已有的 DeepSeek API Key，并生成模块化的 .zshrc 配置以加速启动。脚本对常见包管理器做兼容处理，使用轻量级的网络探测与二次验证策略提高在国内服务器上的成功率，同时在 AI 补全部分采用无额外依赖的 Python 调用与交互式选择，保证可用性与最小外部依赖。 使用方式保存为 init-zsh.sh，赋予可执行权限后运行： 1bash init-zsh.sh 脚本会尝试保留已有 API Key（若存在），完成后执行 source ~/.zshrc 激活配置。测试 AI 功能示例：在终端输入 ? 如何查找大于100MB的文件，选择返回的命令即可执行。 1234567891011121314151617181920212223242526272829303132333435363738394041424344454647484950515253545556575859606162636465666768...
Tailscalde在MacOS的使用（折腾）
Mac Mini的配置家里有一个Mac Mini，M4 Pro，24GB RAM，512GB，长期闲置。 想要做的事情：FRP、NAS、Docker服务… 主要需要解决的问题：如何在不在家的情况下保持对Mac Mini的访问。 NAT网络限制~ ❯ brew install stuntman ~ ❯ stunclient –mode basic –localport 50000 stun.l.google.com 19302 Binding test: successLocal address: 198.X.X.X:50000Mapped address: 111.X.X.X:12321~ ❯ stunclient –mode basic –localport 50000 stun.qq.com 3478 Binding test: fail~ ❯ stunclient –mode behavior stun.l.google.com 19302 Binding test: successLocal address: 198.X.X.X:50507Mapped address: ...
三句义与辩证法
1958年毛主席会见柬埔寨佛教代表团的时候打趣赵朴初，说：“佛经里有些语言很奇怪，佛说第一波罗蜜，即非第一波罗蜜，是名第一波罗蜜。佛说赵朴初，即非赵朴初，是名赵朴初。先肯定，再否定，再来一个否定的否定，是不是？”而赵朴初的回答是：“不是。是同时肯定又同时否定。” 这里的“佛说……，即非……，是名……”实际上来自于《金刚经》知名的“三句义”，原文为“佛说世界，即非世界，是名世界”。这段话可以对比道家的“道可道，非常道；名可名，非常名”理解，佛家所说的“世界”，实际上是哲学范畴内客观存在的一种观念存在，这种观念不是现实世界，而是“名不可名”的概念世界观念存在。 所谓的“第一菠萝蜜”当然不是一种水果，这个词来自于梵文的Pāramitā，意思是抵达彼岸，引申为功德圆满，那么可以理解为佛家的“功德的第一圆满”——这种圆满实际上不是我们看到的物质的圆满，而是概念存在的圆满，而原产于西域的果实实际上借用了这一抽象意象。 否定之否定“三句义”有趣的地方在于否定之否定，容易令人引起联想，正如毛主席说的，“三句义”的逻辑是“先肯定，再否定，再来一个否定的否定”。从逻辑学上，如果把世界作为“三句义”的...
自用Prompt
基于Lyra协议和相关的历史文本写作的Prompt文本。 The Protocol Source Code (Full & Uncut)复制以下所有内容。这是包含完整词汇表和所有语域定义的最终版本。 123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147# The Universal Historical Translation Protocol (Full Integr...
EU5地图修改与地块添加指南（自用）
地图修改与地块添加完全指南本文档旨在为开发者提供一份详尽的指南，用于在现有项目结构下手动添加新的地块（Location）。本指南涵盖了从地图绘制到游戏内逻辑配置的全过程。这份文档是AI生成内容，请谨慎使用。 1. 准备工作与工具在开始之前，请确保你拥有以下工具： 文本编辑器: 推荐使用 VS Code 或 Notepad++，以确保编码格式正确（通常为 UTF-8 with BOM 或 UTF-8）。 图像处理软件: Photoshop, GIMP 或 Paint.net。 关键设置: 必须使用 铅笔工具 (Pencil Tool)。 绝对禁止: 使用画笔、羽化、抗锯齿或任何会产生过渡色的工具。地图文件中的每一个像素都必须是纯色。 调试模式: 启动游戏时请添加启动参数 -debug_mode，以便使用控制台和查看报错信息。 2. 核心文件详解修改地图主要涉及 in_game/map_data 和 main_menu 两个目录。 2.1 地图几何与定义 (in_game/map_data/)1. locations.png (地图底图) 路径: in_game/map_...