用 AI 要记住这三招,避免被 AI 编造内容误导
用 AI 一定要记住这三招,不然迟早被它骗 美国一位律师用 AI 写诉状,引用了 6 个判例,结果法官一查:全是 AI 编的。 原因很简单:AI 不是在查资料,它只做一件事——猜下一个字。最像的字,不等于真的字。 OpenAI 的研究还发现:答对得 1 分,说"不知道"得 0 分,所以 AI 宁可编,也不愿说不知道。 用 AI 记住三招:要出处并亲自核对;重要的事换个问法再问;告诉它不确定就说不知道。 你被 AI 骗过吗?评论区说说。#Ai #科普 #人工智能 #AI幻觉
视频以美国一位律师用 AI 写诉状、引用的 6 个判例全为 AI 编造为例,解释 AI 是在猜下一个字而非查资料,因此会一本正经地编造。口播还提到今年全球被法院发现使用 AI 假判例的案件已超过 1100 起,并引用 OpenAI 研究称答对得 1 分、说不知道得 0 分的评分方式让 AI 宁可编也不愿承认不知道。作者给出三招:要出处并亲自核对、重要的事换个问法再问、直接告诉它不确定就说不知道。
原文用律师引用 6 个 AI 编造判例的真实案例讲清模型幻觉成因,并给出三条可当场演示的提问核对方法。
- 点赞
- 3
- 评论
- 0
- 分享
- 0
- 收藏
- 2
数字来自平台,为最近一次抓取时的数据。
以下是视频口播的自动转写,可能有错字。
一位美国律师用 ai 写诉状,引用了6个判例,结果法官一查,全是 ai 编的。ai 为什么会一本正经的胡说八道?因为 ai 根本不是在查资料,它只做一件事,猜下一个字。比如床前明月,后面最可能是光,它每一步都挑最像的那个字。一句话就这么接出来了。
问题是,对象不等于真的。遇到他没见过的冷门问题,他照样能接出一段格式完美、语气肯定的回答。案件名、页码、作者,全都像模像样。到今年,被法院抓到用了 AI 甲判例的案子,全球已经超过1100起。OpenAI 的研究还发现,考试在奖励瞎蒙,答对得1分,不知道得0分,瞎猜好歹还有机会蒙对。
这样训练出来的 ai,宁可编也不愿说不知道。所以用 ai,记住三招。第一,让它给出处,并且亲自点开核对。第二,重要的是换个问法再问一遍。第三,直接告诉他不确定就说不知道。ai 是个好帮手,但不是标准答案。你被 ai 骗过吗?评论区说说。
来源:抖音 · 搜「AI绘画」 · douyin.com