跳到正文
抖音 · 搜「AI绘画」· 嘉园·· 17 小时前精选AI 评分58

用 AI 要记住这三招,避免被 AI 编造内容误导

用 AI 一定要记住这三招,不然迟早被它骗 美国一位律师用 AI 写诉状,引用了 6 个判例,结果法官一查:全是 AI 编的。 原因很简单:AI 不是在查资料,它只做一件事——猜下一个字。最像的字,不等于真的字。 OpenAI 的研究还发现:答对得 1 分,说"不知道"得 0 分,所以 AI 宁可编,也不愿说不知道。 用 AI 记住三招:要出处并亲自核对;重要的事换个问法再问;告诉它不确定就说不知道。 你被 AI 骗过吗?评论区说说。#Ai #科普 #人工智能 #AI幻觉

AI 导读

视频以美国一位律师用 AI 写诉状、引用的 6 个判例全为 AI 编造为例,解释 AI 是在猜下一个字而非查资料,因此会一本正经地编造。口播还提到今年全球被法院发现使用 AI 假判例的案件已超过 1100 起,并引用 OpenAI 研究称答对得 1 分、说不知道得 0 分的评分方式让 AI 宁可编也不愿承认不知道。作者给出三招:要出处并亲自核对、重要的事换个问法再问、直接告诉它不确定就说不知道。

打开原文douyin.com
选题角度

原文用律师引用 6 个 AI 编造判例的真实案例讲清模型幻觉成因,并给出三条可当场演示的提问核对方法。

博主
嘉园@gjc175636312

粉丝 86

你有想法,我来实现 💡→📱 App|小程序|网站|系统定制|产品原型 个人把想法做成产品 不懂技术没关系,先聊需求,免费评估 👇

互动数据
点赞
3
评论
0
分享
0
收藏
2

数字来自平台,为最近一次抓取时的数据。

正文

以下是视频口播的自动转写,可能有错字。

一位美国律师用 ai 写诉状,引用了6个判例,结果法官一查,全是 ai 编的。ai 为什么会一本正经的胡说八道?因为 ai 根本不是在查资料,它只做一件事,猜下一个字。比如床前明月,后面最可能是光,它每一步都挑最像的那个字。一句话就这么接出来了。

问题是,对象不等于真的。遇到他没见过的冷门问题,他照样能接出一段格式完美、语气肯定的回答。案件名、页码、作者,全都像模像样。到今年,被法院抓到用了 AI 甲判例的案子,全球已经超过1100起。OpenAI 的研究还发现,考试在奖励瞎蒙,答对得1分,不知道得0分,瞎猜好歹还有机会蒙对。

这样训练出来的 ai,宁可编也不愿说不知道。所以用 ai,记住三招。第一,让它给出处,并且亲自点开核对。第二,重要的是换个问法再问一遍。第三,直接告诉他不确定就说不知道。ai 是个好帮手,但不是标准答案。你被 ai 骗过吗?评论区说说。

来源:抖音 · 搜「AI绘画」 · douyin.com