Agent就是有“我”的语言模型

[hci]

你consulting主要给别人建模还是做点别的啥？

我确实也没赚钱的路子。非要找工作肯定也能找到，但是所有人形势都不明朗，估计找什么工作钱也不会多，日子也不会好过。前几年形势好的时候攒了点钱，目前也还有点生意，这两年要是就这样的话，就是做自己的研究。

[wdong]

你consulting主要给别人建模还是做点别的啥？

写算法，训练模型，写论文，主要是各种深度学习，但是我更喜欢做的是纯粹的算法。早期我还喜欢操作系统，用C++写高性能软件，后来慢慢底层的东西就不做了，也不怎么感兴趣了。很小众很小众，运气比较好somehow这么十几年一直有各路朋友养着。这个版上还有一个客户。

[hci]

很厉害啊。

写算法，训练模型，写论文，主要是各种深度学习，但是我更喜欢做的是纯粹的算法。早期我还喜欢操作系统，用C++写高性能软件，后来慢慢底层的东西就不做了，也不怎么感兴趣了。很小众很小众，运气比较好somehow这么十几年一直没闲着。这个版上还有一个客户。

[wdong]

很厉害啊。

你很厉害。我当过一阵子CTO，当不好。老实说和指挥员工比，现在指挥AI写程序我更comfortable。目前就是要解决怎么scale out的问题，让我可以同时指挥10个AI team写程序。

[hci]

厉害啥，我这不失败了么？呵呵。

员工都是自己招来的，所以还好啦。后来我都放手了，让老员工管新员工。这些都还好，就是生意太难了。难怪都回国去创业，不信邪，以身试法，也怪不了谁。

你很厉害。我当过一阵子CTO，当不好。老实说和指挥员工比，现在指挥AI写程序我更comfortable。目前就是要解决怎么scale out的问题，让我可以同时指挥10个AI team写程序。

[wdong]

因为现在美元贵，东西也贵，所有人spending都减少了，生意自然难做。等过几年美元又便宜了，就又会好做。农民都是夏天忙，冬天在家休息。如果有人非要冬天出去种东西，就是费力不讨好。我们手艺不要荒废就好。

[hci]

这个心态好。

因为现在美元贵，东西也贵，所有人spending都减少了，生意自然难做。等过几年美元又便宜了，就又会好做。农民都是夏天忙，冬天在家休息。如果有人非要冬天出去种东西，就是费力不讨好。我们手艺不要荒废就好。

[duiduilu2]

这个心态好。

看你软饭吃得面红耳赤的。

[pantamu]

人的身份认知取决于记忆
这也是为啥重生要喝孟婆汤
以后人一出生就配一个agent输入所有信息 人挂了 这个agent就是这个人的副本了

不止是人，生物的部分记忆通过DNA往下传，可以理解成转世。

对人的话，记忆存储本身还不够，这些multimodal数据还有特殊的索引. Inference的速度不随数据大小而变化。知识的多少并不影响inference速度。老了偶尔需要搜索一下记忆。

[pantamu]

不止是人，生物的部分记忆通过DNA往下传，可以理解成转世。遗传必须挑最重要精简的信息和模型往下传，种子识？

对人的话，记忆存储本身还不够，这些multimodal数据和模型还有特殊的索引. Inference的速度不随数据和模型大小而变化。老了偶尔需要搜索一下记忆，或者在模型层面衰退。

还不太会玩论坛功能，经常按错，版主见谅

[hci]

多来玩玩。

不止是人，生物的部分记忆通过DNA往下传，可以理解成转世。遗传必须挑最重要精简的信息和模型往下传，种子识？

对人的话，记忆存储本身还不够，这些multimodal数据和模型还有特殊的索引. Inference的速度不随数据和模型大小而变化。老了偶尔需要搜索一下记忆，或者在模型层面衰退。

还不太会玩论坛功能，经常按错，版主见谅

[pantamu]

定义：Agent 就是有自我意识的语言模型。
An agent is a language model that appears to be self conscious. 为了不冒犯某些宗教信仰的朋友，我加了appear to be.

我这个架构叫The Ann Arbor Architecture of Agents。

具体实现来说，Agent就是跑在语言模型上的一个有自我概念的context。甚至这个context可以一会跑在gpt上，一会跑在claude上。甚至Agent自己很可能会意识到，今天运气不好被调度到llama小模型上了，尽说胡话，希望明天又被调回来。用OS的概念说，llm就是CPU，agent就是process。

做agent的关键，就是每个agent得起一个名字。你在任何时候问agent，他都得说得出来他叫什么名字。然后所有的功能，责任，乱七八糟的，一层一层堆叠在这个名字之上。是不是真的有意识这里不讨论，但是现在的LLM完全有能力装作看起来有意识。这在功能上就够了。

很牛啊。我得花点时间消化，这个帖子里我更同意hci观点。感觉只有微软有前途，因为github所有的代码，pr，issue都在他们服务器上。

“我”的概念还是比较模糊。我的理解是人本身自带agent，开车的时候就会将大脑一部分功能交给agent。“我”在开车。

[wdong]

很难找到可以就事论事而不升级为吵架的讨论对象，这一点hci难能可贵，而且他技术底子厚，不用怕他胡说八道。我下一步要去别的地方讲，先在这里答辩一下，收集一下不同的意见，心里有点底。

谢谢你们！

[sdxia]

在老站就喜欢看你们的讨论，受益匪浅，wdong和hci都是技术大拿，而且只就事论事，太难能可贵了。本来新站只偶尔来看一看，没打算注册账号，现在改变想法了。

[hci]

欢迎回到买买提。

在老站就喜欢看你们的讨论，受益匪浅，wdong和hci都是技术大拿，而且只就事论事，太难能可贵了。本来新站只偶尔来看一看，没打算注册账号，现在改变想法了。

[Vogel]

也谢谢你

我没有涉足太多算法

但有一点可以看出来

大家都不想忽悠，或者说过度忽悠。。

很难找到可以就事论事而不升级为吵架的讨论对象，这一点hci难能可贵，而且他技术底子厚，不用怕他胡说八道。我下一步要去别的地方讲，先在这里答辩一下，收集一下不同的意见，心里有点底。

谢谢你们！

[mn]

单说改，并不难。 难的是改得好。需要发展一种面向agent的软件工程。

闭环我已经打通了。

viewtopic.php?t=683101

你把这个跑起来，然后跟它对话，告诉它现在正在跑的这个程序是middleman.py，让它产生一条命令把这个程序改了。

如果我坐在你的听众席上，我的问题是你如何解决信任（trust）的问题？对用户来讲你这个不停演变的黑盒子发疯了怎么办？

所以如 HCI 所讲：别碰企业应用，别碰企业应用，别碰企业应用。This might be an addictive personal amusement, as long as don't directly attach any effectors to it. 正如你的 middleman.py demo, 永远确认，永远免责声明，让最后摁 'Y' 键的人承担责任。

非要试企业应用，test driven development (TDD) 可以起死回生。人定义 tests 让 AI 满足。要干什么，不要有什么 side effects ... AI 闯的祸可以怪罪到不完备的 tests 上。Tests 不许要程序员，domain experts, analysts 就可以写了。

[wdong]

如果我坐在你的听众席上，我的问题是你如何解决信任（trust）的问题？对用户来讲你这个不停演变的黑盒子发疯了怎么办？

所以如 HCI 所讲：别碰企业应用，别碰企业应用，别碰企业应用。This might be an addictive personal amusement, as long as don't directly attach any effectors to it. 正如你的 middleman.py demo, 永远确认，永远免责声明，让最后摁 'Y' 键的人承担责任。

非要试企业应用，test driven development (TDD) 可以起死回生。人定义 tests 让 AI 满足。要干什么，不要有什么 side effects ... AI 闯的祸可以怪罪到不完备的 tests 上。Tests 不许要程序员，domain experts, analysts 就可以写了。

viewtopic.php?t=695068

[mmking]

差别是，他们的认输只有少数人看得到，然后他们开始窃取其他已有的方法，包装一下，就变成他们的了

Llm先把学习搞定，再扯别的。

现在的llm是个死东西，不具備任何学习能力。stateless

Agent state都是外在的，这不就是我2018就提出的体系结构么？symbolic as the bones, data driven as the flesh

所以AGI people 己经认输了。

[mmking]

然

我明白你的意思。而你不明白我的意思。

你这个context是在LLM之外的，是你自己写的程序的一部分。那这种体系机构，不就是我2018年就开始宣传的，当时我说“现在就可以实现的AI的实用体系结构”么？而且，我做这个talk的时候，我的公司的产品已经实现了这个东西。

这个体系结构与AGI人们宣传的“端到端的LLM就是AGI”，完全是两回事呀。

这个理念有啥先进性，我7年前的talk就是这么说的。我记得2018年我把我的talk的链接贴到老买买提，一个人回“这不是很自然么，难道别人不是这么看AI的么”，我当时说，深学人士还真不是这么看的，他们觉得AI应该是端到端的深学，而不是把深学的东西嵌入到一个程序里面。

我又当了一次先知。只是人们不承认而已。世人皆傻，还包括世人都觉得自己懂的是自己会的，不是别人告诉的。