本文来自微信公众号: caoz的梦呓 ,作者:caoz
最近看到一个社会新闻,有点荒谬,也有点可怜,一个从事法律援助服务的人突然去世了,知情人说的可能有点夸张,被客户用豆包气死的。
客户总是用豆包来质疑这个律师的专业性,并不断要求调整材料内容,然后又总是脱离律师用豆包自己去组织材料,当然中间状况百出,搞得律师焦头烂额,咱也不能说人就一定是气死的,但相信这个情况,并不是个例。
很多医生也吐槽,患者拿着豆包来各种怼医生,用豆包质疑医生的诊断,有时候就很无语,你用豆包看病好了,找医生干嘛呢。
我不是经常徒步么,向导也再三提醒,户外徒步,千万别信豆包,特别是一个人穿越野线,用豆包其实很危险的。最近看到连续多起单人野线穿越坠亡的事故,当然目前没有证据,也无法追溯,是不是徒步者采纳了豆包的建议。但从一些向导和游客经历过的争议来看,豆包经常会给出非常不靠谱的路线规划和建议,让向导也很无奈。
当然,这篇文章不是讨伐豆包,豆包主要是国内覆盖率太高了,所以和它有关的吐槽最多,影响也最大,其实我儿子用chatgpt也一样,他总是有点头疼脑热,问问AI就觉得自己得了不治之症,要我带去医院看病,基本上老实睡一觉屁事都没有。
这里有两个原因要说明一下,为什么我们一直强调要学习AI,利用AI,另一方面又要警惕AI的误导。
第一个原因,这和激励机制有关。编程,数学,下棋,这种是可以有比较明确的逻辑判断和结果校验,但很多领域没有,有明确逻辑依赖和结果校验的领域,AI可以自我判断自我迭代,但很多领域,AI要依赖人的反馈判断他的答案质量,这就是激励反馈机制,这种激励反馈会带来讨好性答复,因为讨好性容易获得使用者正反馈。
所以一个没有专业能力的人,一些明显的偏见和误解也可以被AI给出看似合理的解释和确认。在很多问答里,AI的目的不是提供所谓正确的答案,而是满足提问者的预期,预期往往不是答案。
第二个原因,AI的答案取决于问题的专业性,非专业人员提出问题的描述是非专业的,一个非专业的描述,AI是无法判断其提问者的真实情况。比如我儿子,会过度夸大他的症状,会用非常夸张的方式描述问题,所以这就很容易让AI产生误导。
我经常教育我儿子的一点是,你必须好好学习,才能把问题问对,要不你跟AI说的都不对,它给你的答案自然都不对。
理解这两点,并不是AI不专业,而是不专业的人,在使用AI的时候,在一些无法明确判断对错的领域,AI会倾向于提供符合用户预期的答案,而不是真正正确的答案。
基于此的社会现象其实越来越严重。基于此的网络梗其实也越来越多,各种恶搞豆包的视频已经很流行了,豆包永远在诚恳的认错对不对。
AI在科普,一些常识解读上是很好的,专业人员,包括医生和律师遇到问题也会问问AI,这并不奇怪,你说AI不靠谱,他们为什么还在用,因为他们能用专业的方式提出问题,并能对结果作出判断,这点很重要。专业的人记忆力也是有限的,有时候就是让AI提个醒,把忘掉的一些信息找回来;有些就是让AI指条路,看看有没有自己遗漏和忽略的东西,有些就是让AI来做个参谋,帮自己重新验证一下,但最终,还是要自己核对,自己判断。
那普通人呢,几个建议。
1,正反对比。
让AI反驳自己,让AI自己质疑自己的判断。不要总是让AI顺着你。
2,信息溯源。
AI给出的案例,让它给你原始出处和链接,自己认真核对,不要编故事给你,原始链接如果是某些自媒体小作文,信不得。
现在GEO也流行了,AI投毒的案例也不是没有。
3,尊重专业人士。
虽然有些专业人士确实没那么专业,但千万不要认为AI已经可以取代专业人士了。
程序员确实真可以了,这个必须实事求是,甚至数学家都快失业了,记住刚才提到的,越是严格依赖于逻辑的,反馈机制越清晰,AI进步越快;另一点就是,如果你想用AI解决复杂的数学问题,你自己的数学水平必须是非常资深的。如果你想用AI搭建复杂的应用,你对软件工程还是需要有一些经验的。
珍爱人生,AI可以帮助你,但不能主导你的人生。







