重视聊天机器人背后的语言知识与伦理
【新闻随笔】
作者:饶高琦(北京语言大学汉语国际教育研究院助理研究员)
最近一段时间,人工智能和互联网领域最火的话题莫过于智能对话系统“生成式预训练模型聊天机器人”(ChatGPT,暂译,以下简称“聊天系统”)。该系统不仅支持包括中文在内的多语聊天,而且还能够扮演角色,甚至执行编程。对于或诙谐或严肃的提问,它的表现令人感到惊艳:相当多的知识内容正确,语言表达更是流畅,并且还支持多轮连续聊天。因此,不少人感慨“自己已经沉迷于和它对话”“让它替我编程、写稿,效率提升”,甚至有人用它生成了某行业的咨询报告,通过对话引导它生成的书也在亚马逊线上出版。但在聊天系统流畅交谈的表面下,其对人类知识的掌握仍不可靠。随着测试的增加,也有越来越多的人感慨它“常常一本正经地胡说八道”。错误信息以纯熟的语言表达出来,因而更加隐蔽。但无论如何,在不少人认定本轮人工智能泡沫开始破碎的时间点,它的诞生无疑是给人们打了一剂“强心针”。
人工智能所涉任务众多,语言智能却越来越成为方法、技术、应用方面的领先领域。正如聊天系统对自己的介绍:“我是一个语言模型。”该系统得以驾驭极其广泛的知识内容,来自对互联网文本内容的获取和“理解”,进而形成了自己的“知识体系”。其中所涉技术十分复杂,但它的成功无疑以十分直观的方式向我们展示了语言之于人类知识乃至人类思维的重要性。人工智能的核心在于知识的获取、表示和运用,语言无疑是其中关键。教科书上“语言是人类最重要的思维工具”“人类九成的知识由语言承载”的论断在人工智能系统的应用上得到了淋漓尽致的展现。知识和思维的承载物是语言,因而也赋予语言无可替代的资源属性。智能技术的发展和落地,频繁向传统语言学的教育和研究发出信号:构建语言资源、挖掘语言中的知识、探索语言知识的形式表达,是最切中数字社会命脉的发展方向。
当然,正如过去几十年中任何一项智能技术的成熟落地一样,聊天系统也引起了一波“失业潮”的舆论。这样的担心实不必要。过去几十年里,智能技术成熟引起的“失业潮”几乎从未出现,短期内或许会搅动局部行业,但长期来看却相反。技术应用本身也催生了大量新岗位,例如聊天系统的研制本身依赖于海量的人工数据标注和反馈,数据标注师和测试员岗位需求巨大。
更深层次来看,与聊天系统强大的语言生成能力不匹配的是它对知识的真正掌握程度。大量模棱两可乃至错误的信息混杂在流畅的对话中,反而令其更加难以被发现。诚如清华大学马少平教授所说:“人工智能最大的问题是不知道自己不知道什么,也不知道自己真知道什么,什么问题都能回答,结果如何就不得而知了。”在一般性知识极易获取,复杂知识参差不齐的背景下,人类专家的专业判断力和经过思考加工的准确回答,更显弥足珍贵。人工智能诸多技术“黑箱”带来的不确定性,终究还需要人类专业、全局判断来化解。从这个层面上讲,“自知”的人类永远不可或缺。
也恰恰因为技术“黑箱”的存在,人类才需要不断从自身、从技术去寻求可靠、可信的技术和技术使用方式。可信的人工智能、可信计算成为融合技术、伦理的重要领域,并受到越来越多的重视。更宏观的人工智能伦理和治理工作也早已被纳入科技管理的视野。挽救“失足系统”,矫正“智能体歧视”也许不再是比喻,而将成为使用者、从业者和治理者都必须面对的问题。
《光明日报》( 2022年12月13日 10版)
大家都在看
-
南怀瑾7大预言:未来50年,这些变化将重塑人类命运 灾难的根源:人心的贪嗔痴如何引发危机南怀瑾曾说,火灾、水灾、战争、饥荒等灾难,本质是人类“贪嗔痴”三毒的外显。比如过度开发自然资源是“贪”,种族冲突是“嗔”,沉迷短期享乐而忽视长远是“痴”。这些心念积 ... 人类之最07-29
-
人性之光:在纷繁世界中最宝贵的品质 在人类漫长的历史长河中,社会的变迁不断考验着人们的品格与价值观。面对复杂的社会环境、个人的利益冲突与道德的困境,究竟什么品质才是人类最宝贵的?我认为,最宝贵的品质是“善良”。善良不仅是一种美德,更是一 ... 人类之最07-28
-
地球发烧40℃:我们正在经历人类史上最滚烫的夏天 一、数据揭示的沸腾时代(一)全球极端气候事件频发2025年6月,全球灾害性天气呈现出“多灾种并发、同一地区高频极端叠加”的特点。在欧洲西南部,法国大部、比利时、荷兰南部、德国大部、波兰西部、匈牙利、塞尔维 ... 人类之最07-27
-
人体中最大块的肌肉是什么?蚂蚁庄园教育人体中最大块的肌肉答案 蚂蚁庄园教育:你知道人体中最大块的肌肉是什么吗?小鸡宝宝考考你:萤火虫发光的主要目的是什么?这些都是蚂蚁庄园教育的题目,关于,人体中最大块的肌肉是什么?萤火虫发光的主要目的是什么?的答案,选项中有两个 ... 人类之最07-21
-
# 毛主席创造十个世界之最,让人感叹毛主席的伟大 在历史的长河中,无数杰出人物如璀璨星辰般闪耀,而毛主席,无疑是其中最为夺目、最为恒久的那一颗。他波澜壮阔的一生,如同史诗般壮丽,而他所创造的十个“世界之最”,更是如同十座巍峨挺拔、直插云霄的高峰,横亘 ... 人类之最07-21
-
3个不起眼的行为,正在"掏空"你的肝,劝你尽快停止 一、肝脏:沉默的"解毒将军"正在超负荷运转肝脏作为人体最大的实质性器官,承担着代谢、解毒、分泌等500余种生理功能。这个重约1.5公斤的器官每天要处理1500升血液,过滤掉800种毒素。但就是这个"劳模器 ... 人类之最07-20
-
人类历史上最残酷的战争:席卷60多个国家,20亿人口陷入浩劫 引言战争,作为人类社会最黑暗的篇章之一,带来了无尽的痛苦与破坏。从古至今,无数战争在血与火的洗礼中改变了世界的格局。然而,有一场战争以其规模之宏大、残酷之程度,成为人类历史上最为惨烈的战争之一。这场战 ... 人类之最07-20
-
诺奖百年最惊世之美:这5个段落,是人类精神的巅峰时刻 诺奖百年最惊世之美:这5个段落,是人类精神的巅峰时刻,而非ai算法写作的机械!诺贝尔文学奖的浩瀚星河中,总有一些文字如流星般刺穿凡尘,它们不只被书写,更在世人灵魂深处刻下永恒烙印。1. 海明威:钢铁意志的悲 ... 人类之最07-20
-
人类最恐怖武器:不是原子弹,不是AI,而是“一页孙子兵法” 2024 年 9 月,联合国安理会的一次闭门会议里,各国武官对着同一张幻灯片沉默——那是一张 1972 年银雀山汉墓出土的竹简照片,上面写着:“兵者,国之大事,死生之地,存亡之道,不可不察也。”翻译成大白话:“战争 ... 人类之最07-20
-
48年巨作,25年后完工!人类史上最疯狂工程! 人类史上最疯狂的超级工程!48年了,还要再等25年?!描述: 比金字塔还疯狂!比长城还漫长!它,就是人类历史上最宏伟、最持久、也最让人抓狂的超级工程!持续建设48年,预计还要再建25年才能完工!到底是什么工程 ... 人类之最07-19
相关文章
- 诺奖百年最惊世之美:这5个段落,是人类精神的巅峰时刻
- 人类最恐怖武器:不是原子弹,不是AI,而是“一页孙子兵法”
- 48年巨作,25年后完工!人类史上最疯狂工程!
- 人世间之“最”
- “给我一个支点!”:阿基米德用科学撬动人类认知的史诗
- 人类史上最黑暗的时代?人均只活到12岁,和鬣狗争食、靠食尸为生
- 万园之园焚毁记:1860年,人类文明最黑暗的3天!
- 河声丨让精品光芒刺破雾障,照亮人类精神最深处
- 杖朝之年的联合国:废墟中诞生,变局中前行,危机中涅槃
- 对一个人来说,最宝贵的是什么?
- 惊世骇俗!人类史上最神秘的七大宝藏,至今无人能解!
- 深度科普:人类有没有可能是全宇宙最高等级文明?
- 人工智能时代,何以“永远的”?
- 人类史上最大最疯狂的超级工程:已持续建设45年,还有28年才完工
- 人类历史上最残酷的战争!席卷60多国家,20亿以上人口被卷入战争
- 人类是宇宙中最高等的文明,我们有生之年基本上见不到外星人了!
- 人类最优秀的品质是什么?
- 最清凉的战场:榕江村民水壶里倾注的“民族之魂”
- 人类最接近灭绝的一刻:93万年前的绝境,98.7%人类曾消失
- 人体最高级的保护伞:喝茶
热门阅读
-
关于男人的15个世界之最,最长阴茎达56厘米 07-13
-
东方女性最标准的乳头(图片),看看自己达标吗 07-13
-
人体器官分布图介绍 五脏六腑的位置都在哪 07-13
-
木马刑是对出轨女性的惩罚 曾是满清十大酷刑之一 07-13
-
熙陵幸小周后图掩盖性暴力 至今保存于台湾博物馆 07-13
-
包头空难堪称国内最惨案件 五名遇难空姐照曝光 07-13
-
2022中国最新百家姓排名,你的姓氏排第几? 03-26
-
好玩的绅士手游有哪些?2022十大绅士游戏排行榜 10-18