Agent就是有“我”的语言模型

[TheMatrix]

LISP就是一个live image,不停自己改自己的live image. 这就是老AI。

要想自己改自己这个事做的容易，还是要回到LISP更简单。

嗯。

[wdong]

agent怎么改平台？

单说改，并不难。 难的是改得好。需要发展一种面向agent的软件工程。

闭环我已经打通了。

viewtopic.php?t=683101

你把这个跑起来，然后跟它对话，告诉它现在正在跑的这个程序是middleman.py，让它产生一条命令把这个程序改了。
它是能改的，我的经验是它一般会用sed，就是很可能会改错。因为命令行并不是一个最好的接口。
如果你想试，你要告诉AI，说用引号quote字符串你escape的时候必然会出混乱，你要改的话得用下面这种办法避免escaping。

cat > middleman <FOOO

FOOO


其实早期unix系统出来的时候，
程序员拥有的接口就是ed。然后才有了sed。然后才有了显示器和vim。原则上来说我觉得这个middleman.py其实已经是完备系统了，背后的AI如果足够powerful可以通过这个界面实现任何事情。

[hci]

他说的玩意是现在每个做agent的公司都有的东西。

就是让LLM自己反复折腾自己的prompt，不断循环往复。

也就是古时候的AI所谓的meta circularity.

LISP就是设计来让这个事更容易的一个语言。

你说的平台是Agent运行的平台，不是指LLM这个基础平台吧？

也就是有三个东西：LLM基础，agent平台，agent？

[hci]

要不你用你这个副本，试试真正的用例，解决用户的一个真正的问题试试？

理论上可以。现实中不工作。这就是AI起起伏伏多次的循环。

是不是死循环，还未可知。

“背后的AI如果足够powerful”， 哈哈。都是这么说的。扯啥呢。

单说改，并不难。 难的是改得好。需要发展一种面向agent的软件工程。

闭环我已经打通了。

viewtopic.php?t=683101

你把这个跑起来，然后跟它对话，告诉它现在正在跑的这个程序是middleman.py，让它产生一条命令把这个程序改了。
它是能改的，我的经验是它一般会用sed，就是很可能会改错。因为命令行并不是一个最好的接口。其实早期unix系统出来的时候，
程序员拥有的接口就是ed。然后才有了sed。然后才有了显示器和vim。原则上来说我觉得这个middleman.py其实已经是完备系统了，背后的AI如果足够powerful可以通过这个界面实现任何事情。

[wdong]

他说的玩意是现在每个做agent的公司都有的东西。

就是让LLM自己反复折腾自己的prompt，不断循环往复。

也就是古时候的AI所谓的meta circularity.

LISP就是设计来让这个事更容易的一个语言。

你说的对，就是每个agent公司都有的东西。这么说吧，电脑刚出来时有一阵子每个公司都有自己的编程语言。这种乱七八糟的做法会慢慢收敛到比较好的做法。现在就是这么个时代，如果能在basic和fortran的时代设计出pascal就厉害了。抛开lisp这些古早系统不说，基于LLM的体系目前还活跃的最老的也不会超过5年，也就是相当于basic和fortran。一开始大家都叫prompt engineering，现在叫agent了，我觉得是一个进步。以后会有更加具体的概念出来。我觉得这个大坑有机会。

[wdong]

要不你用你这个副本，试试真正的用例，解决用户的一个真正的问题试试？

理论上可以。现实中不工作。这就是AI起起伏伏多次的循环。

是不是死循环，还未可知。

“背后的AI如果足够powerful”， 哈哈。都是这么说的。扯啥呢。

我装系统的时候通过这个脚本配置了raid，算不算。I want a raid1 on top of /dev/sdb and /dev/sdc。然后它就帮我写命令搞定了。
如果我自己弄，需要查google，很烦。目前还没有惊天动地的东西。我的希望都是从这种小改进看到的。

[hci]

扯。计算机语言是个工具，是人类自己使用用来生产的。所以百花齐发，大都活下来了。

现在这些agent，是建立在一个不怎么工作的东西的基础上的，这与当年老AI的情况非常类似，大面积死亡是必然的。

一个能工作的基础，第一步是要具有实时学习的能力。目前还做不到，搞agent就为时过早。

你说的对，就是每个agent公司都有的东西。这么说吧，电脑刚出来时有一阵子每个公司都有自己的编程语言。这种乱七八糟的做法会慢慢收敛到比较好的做法。现在就是这么个时代，如果能在basic和fortran的时代设计出pascal就厉害了。抛开lisp这些古早系统不说，基于LLM的体系目前还活跃的最老的也不会超过5年，也就是相当于basic和fortran。一开始大家都叫prompt engineering，现在叫agent了，我觉得是一个进步。以后会有更加具体的概念出来。我觉得这个大坑有机会。

[hci]

不算。你这就是个demo。多如牛毛的。

Devin还有更fancy的demo呢。

都不算数。

我装系统的时候通过这个脚本配置了raid，算不算。I want a raid1 on top of /dev/sdb and /dev/sdc。然后它就帮我写命令搞定了。
如果我自己弄，需要查google，很烦。目前还没有惊天动地的东西。我的希望都是从这种小改进看到的。

[TheMatrix]

单说改，并不难。 难的是改得好。需要发展一种面向agent的软件工程。

闭环我已经打通了。

viewtopic.php?t=683101

你把这个跑起来，然后跟它对话，告诉它现在正在跑的这个程序是middleman.py，让它产生一条命令把这个程序改了。
它是能改的，我的经验是它一般会用sed，就是很可能会改错。因为命令行并不是一个最好的接口。
如果你想试，你要告诉AI，说用引号quote字符串你escape的时候必然会出混乱，你要改的话得用下面这种办法避免escaping。

cat > middleman <FOOO

FOOO


其实早期unix系统出来的时候，
程序员拥有的接口就是ed。然后才有了sed。然后才有了显示器和vim。原则上来说我觉得这个middleman.py其实已经是完备系统了，背后的AI如果足够powerful可以通过这个界面实现任何事情。

哦。你告诉它这个程序叫“middleman”，相当于告诉它你的名字是middleman，这样它就有了identity。

然后你让它修改middleman，告诉它怎么改，这样它可以把自己改了，但是还叫middleman。这个过程？

你这个middleman是一个agent？还是一个agent平台？

[wdong]

不算。你这就是个demo。多如牛毛的。

Devin还有更fancy的demo呢。

都不算数。

你贴一个更fancy的demo出来，你觉得不算的也可以，能证明我不行就行。或者你定义一个你觉得算的问题，证明我的观点不行也行。

否则你一个“不算”没有说服力。

[wdong]

哦。你告诉它这个程序叫“middleman”，相当于告诉它你的名字是middleman，这样它就有了identity。

然后你让它修改middleman，告诉它怎么改，这样它可以把自己改了，但是还叫middleman。这个过程？

你这个middleman是一个agent？还是一个agent平台？

这个程序不涉及到agent。它并不在磁盘上保存对话记录。我就是拿它回应你的问题，说明自修改是可行的。

[hci]

AI码工，不比你的fancy么？



但这是市场决定的。我作为正在市场里混的第一线的Agent公司的CTO，认为这波AI的能力还不足以搞Agent。我告诉你，是为了积德。当然你爱信不信。

你贴一个更fancy的demo出来，你觉得不算的也可以，能证明我不行就行。或者你定义一个你觉得算的问题，证明我的观点不行也行。

否则你一个“不算”没有说服力。

[wdong]

这个确实比我这个脚本厉害1000倍。所以你的观点是devin虽然这么厉害但其实也是大忽悠？

[hci]

当然是大忽悠。

难道不是？

Demo与能用的产品，本来之间有天壤之别。

对于AI来说，这个差别就更大得不可估量了。

这个确实比我这个脚本厉害1000倍。所以你的观点是devin虽然这么厉害但其实也是大忽悠？

[wdong]

我也同意devin离software engineering尚有距离。如果它搞定了，我还踩这趟浑水干嘛？我觉得AI做software engineering最终肯定是可以的，但是目前尚有很大的距离。这个距离到底在哪里目前谁都不知道，需要尝试。如果简单地说是LLM不够强大，也不是没有问题，但是这种说法并不是constructive的。你要这么想，那这里就没你我能干的事情了。

我认为可以通过发展适合AI的软件工程的工作方式，在不对LLM的智力有根本性的提高的前提下，实现AI做software engineering。Devin这个demo里，AI的行为和人类太接近了。人怎么做，让AI也怎么做，我觉得不是最优。我认为需要人和AI合作，摸索出一条适合AI，也能让人参与的软件工程的方法。但我也没法就排除devin就这么做成的可能性，人家也不是就现在这样止步不前了。

[wdong]

你这不是还要编程么？我的有UI， 都不用编程，还是卖不掉。因为人人都觉得自己可以做。

你说得很对，肯定卖不掉，所以我肯定不会做个东西去卖。我是做consulting的，只要证明这东西我懂就可以了。

我看你这么说，你这个产品的能力也差不多到顶了，你还有什么大招可以往里加吗？你要提升空间很大估计不会这么说。

[hci]

当然不是了，还有很多事情可以做。但要有前瞻性呀。

首先要认识到目前技术的不足，这样做的事才是有意义的。假设目前技术是可以工作的，在这个基础上做事，如果不是为了骗钱，不就是做傻事么？

认识到不足，有三件事可以做。

第一件，当然是直接解决不足的地方。相信很多人在努力。目前还没有成果。

第二个是想别的办法补齐不足。这就是我2018年的说法，但这么多年下来，我觉得低估了补齐的难度。目前还为时过早，得等几年。主要问题就是我反复说的，目前的LLM是个死东西，不能自主学习，不能的原因主要是硬件不够给力，或者是用了错误的硬件。硬件不行软件补也只能做到一定程度。差距太大了也不行。现在就是差距太大了。还有可能是错误的硬件，比如大多数矩阵其实都是稀疏的，为啥用致密矩阵的硬件来做呢？所以现在可能是一个异常阶段，还没走上正路。

另一件可以做的，就是做点现在有用的事情，但眼睛望着未来。我现在折腾我这数据库，就是这样。

最后，如果走错了路，花多少钱都是打水飘，危害很大。我估计美帝这次all in AI要崩。中共对AI就没有all in，可能不会吃亏。

我也同意devin离software engineering尚有距离。如果它搞定了，我还踩这趟浑水干嘛？我觉得AI做software engineering最终肯定是可以的，但是目前尚有很大的距离。这个距离到底在哪里目前谁都不知道，需要尝试。如果简单地说是LLM不够强大，也不是没有问题，但是这种说法并不是constructive的。你要这么想，那这里就没你我能干的事情了。

我认为可以通过发展适合AI的软件工程的工作方式，在不对LLM的智力有根本性的提高的前提下，实现AI做software engineering。Devin这个demo里，AI的行为和人类太接近了。人怎么做，让AI也怎么做，我觉得不是最优。我认为需要人和AI合作，摸索出一条适合AI，也能让人参与的软件工程的方法。但我也没法就排除devin就这么做成的可能性，人家也不是就现在这样止步不前了。

[hci]

没啥招了。准备放弃了。

要找工作了，可以推荐么？求内推。呵呵。实在不行我加入你的consulting公司吧。哈哈。

你说得很对，肯定卖不掉，所以我肯定不会做个东西去卖。我是做consulting的，只要证明这东西我懂就可以了。

我看你这么说，你这个产品的能力也差不多到顶了，你还有什么大招可以往里加吗？你要提升空间很大估计不会这么说。

[hahan]

当然不是了，还有很多事情可以做。但要有前瞻性呀。

首先要认识到目前技术的不足，这样做的事才是有意义的。假设目前技术是可以工作的，在这个基础上做事，如果不是为了骗钱，不就是做傻事么？

认识到不足，有三件事可以做。

第一件，当然是直接解决不足的地方。相信很多人在努力。目前还没有成果。

第二个是想别的办法补齐不足。这就是我2018年的说法，但这么多年下来，我觉得低估了补齐的难度。目前还为时过早，得等几年。主要问题就是我反复说的，目前的LLM是个死东西，不能自主学习，不能的原因主要是硬件不够给力，或者是用了错误的硬件。硬件不行软件补也只能做到一定程度。差距太大了也不行。现在就是差距太大了。还有可能是错误的硬件，比如大多数矩阵其实都是稀疏的，为啥用致密矩阵的硬件来做呢？所以现在可能是一个异常阶段，还没走上正路。

另一件可以做的，就是做点现在有用的事情，但眼睛望着未来。我现在折腾我这数据库，就是这样。

最后，如果走错了路，花多少钱都是打水飘，危害很大。我估计美帝这次all in AI要崩。中共对AI就没有all in，可能不会吃亏。

要是从钱的角度看
做啥都不如炒股
OpenAI那帮人自己就不相信ahi
就是造声势在股市挣钱
那个altman本来就是个心术不正的人

[wdong]

没啥招了。准备放弃了。

我确实也没赚钱的路子。非要找工作肯定也能找到，但是所有人形势都不明朗，估计找什么工作钱也不会多，日子也不会好过。前几年形势好的时候攒了点钱，目前也还有点生意，这两年要是就这样的话，就是做自己的研究。