AI之真伪

[vitro]

提了个概念判断的问题—是或非给DS，并要求给出推理的引用文献。回答的有模有样，仔细一看引的文献都是假造的。自己深究一下底层，这个问题答案应该是否，只是在一定层面上可以说是。ds回答是是，所以是错的。感觉有顺着我之前谈论思路给你回答的样子。这个令人担心。当然DS还是有不少惊艳表现的。
chatgpt也错了，不过没造假引用。
不知如何避免？

[verdelite]

提了个概念判断的问题—是或非给DS，并要求给出推理的引用文献。回答的有模有样，仔细一看引的文献都是假造的。自己深究一下底层，这个问题答案应该是否，只是在一定层面上可以说是。ds回答是是，所以是错的。感觉有顺着我之前谈论思路给你回答的样子。这个令人担心。当然DS还是有不少惊艳表现的。
chatgpt也错了，不过没造假引用。
不知如何避免？

说明他俩还不理解什么是引用。

[Caravel]

说明他俩还不理解什么是引用。

AI就好比一个人凭印象给你聊天

他记得一篇文章很可能是错的

AI现在的问题是对自己把握程度没有数

人如果记不太清就会去查一下

[vitro]

说明他俩还不理解什么是引用。

以前都不时能给出有帮助的文献。不能接受的是造假，编的作者都是领域里的，题目也很看上去很像那么回事，链接都是相关机构。
试了试，觉得DS是有些不懂啥叫引用啥叫文献。即使很简单的列出某著名课题相关重要文献都给出了些张冠李戴的结果，很接近正确的引用了，不过不是题目错就是链接错。CHATGPT回答正确。
要命的这种很迷惑人，嘿，人家文献都给出来了，看上去又很像那么回事。

[vitro]

AI就好比一个人凭印象给你聊天

他记得一篇文章很可能是错的

AI现在的问题是对自己把握程度没有数

人如果记不太清就会去查一下

这觉得挺不应该的，技术上很多年前就有查论文剽窃软件了。这个就像你说的google确定一下就成了。
要搞个iso系统，或者说出不确定的要打小字—真伪自验。

[verdelite]

AI就好比一个人凭印象给你聊天

他记得一篇文章很可能是错的

AI现在的问题是对自己把握程度没有数

人如果记不太清就会去查一下

这就要用到神经生物里面学到的东西了。有个脑区叫做amygdala，据我研究（读Paper+思考），7年前得到的结论是它的作用是标记“这个东西（大脑正在处理的东西，focus, "attention"）我熟”。我研究大脑科学得到一套做AI的办法，这是其中之一，不是最重要的，但是把这样的东西做进去可以改善现在AI对不熟的东西胡说八道的状况。

[vitro]

这就要用到神经生物里面学到的东西了。有个脑区叫做amygdala，据我研究（读Paper+思考），7年前得到的结论是它的作用是标记“这个东西（大脑正在处理的东西，focus, "attention"）我熟”。我研究大脑科学得到一套做AI的办法，这是其中之一，不是最重要的，但是把这样的东西做进去可以改善现在AI对不熟的东西胡说八道的状况。

这好像关系不大。这应该是执行一个我提到过的康德讲的analysis和synthetic的区别。给出你推断的文献基础是主要前者：这个任务你都执行了，把你执过程中的一步—归纳文献复述一下是个非常清晰不需要跟现实经验联系做更复杂分析的步骤。这应该就像大学上课布置的一道作业，教授给你开课题布置的第一步。当然也有可能如你说的，DS不理解找引用就是一道大学作业，走到synthetic路子上去了—的确给出的假引用看着似是而非。我来把这些话讲给DS,看看他能领悟吗。
当然一上来对任务做analysis和synthetic区别好像也真不是个简单事。

[vitro]

chatgpt估计大量研究者在用，学会了啥叫找引用。DS则没有。康德这个分类好像只有用归纳经验才能完成。

[macarthur]

AI就好比一个人凭印象给你聊天

他记得一篇文章很可能是错的

AI现在的问题是对自己把握程度没有数

人如果记不太清就会去查一下

LLM的原则就是“接下句”，来拼凑出一个完整的回答 -- 这就决定了它在不懂的时候一定要装懂。。。 AI Hallucination就是这么来的。。。

它也无所谓“把握程度” -- 因为它对于物理世界根本就没有啥“理解”可言，纯粹是人云亦云

[Caravel]

LLM的原则就是“接下句”，来拼凑出一个完整的回答 -- 这就决定了它在不懂的时候一定要装懂。。。 AI Hallucination就是这么来的。。。

它也无所谓“把握程度” -- 因为它对于物理世界根本就没有啥“理解”可言，纯粹是人云亦云

根据概率也能算一个把握程度吧

[pathdream]

这世界哪里有什么真假 只有存在

[vitro]

这世界哪里有什么真假 只有存在

这些假造文献就是不存在呀。当然我知道你想说什么。

[pathdream]

这些假造文献就是不存在呀。当然我知道你想说什么。

什么叫不存在啊 这不是造出来了吗

[vitro]

根据概率也能算一个把握程度吧

chatgpt要么是后验了一下，比如狗一下。要么前面所说的学会了。要么有人为干预，给了张表，什么任务是人类一般认为的analysis，什么是synthetic。后者造个假是大家接受的。

[vitro]

什么叫不存在啊 这不是造出来了吗

我是少数接受世人皆傻世界观的

[pathdream]

我是少数接受世人皆傻世界观的

人类根本不存在 我们不存在