机器内容产出火爆出圈,但是否符合人类价值观就是其核心问题

发布者:红衣大砲 2023-7-29 02:28

ChatGPT突然的火爆出圈,让智能内容产出成了一种可能。可是我们在接受着这样一种现状的同时,也需要审视这一现状背后更深层次的问题。


比如,ChatGPT提供的内容并不一定完全符合我们人类的习惯,甚至也有很多内容,存在着巨大的误解和偏见,对于我们中国读者人来说,用ChatGPT可以看到很多奇奇怪怪的答案,一看就能够了解它背后的价值观,有经验的人也能够一眼看到这些内容来自于人工智能,和真人创作是有差别的。


为什么会这样呢?其实智能内容产出依然需要的是机器学习,但机器学习本身就有着非常多不确定性,有着很多依然需要我们解决的问题。


机器学习并不是一种完全自主的学习,和我们人类的学习方式也有着本质的差别,它依然是基于大量信息的基础上,依靠算法来完成。


这其中有着两个关键词,分别是信息和算法,但人工智能的信息和算法也依然是人为操控的,因为人为操控所属的不同文化氛围和个人喜好,所选择的不同信息、不同算法,也就让机器学习有了完全不同的表现形式,也就会有偏见。


布莱恩·克里斯汀,畅销书作家,他的《算法之美》入选了亚马逊年度最佳科学书籍和MIT技术评论年度书籍;《人机大战》也是畅销书,这都是他关注于人与机械之间的相互关系而产生的思考。


现在他相应的思考依然在继续,因此也就创作了这样一本《人机对齐:如何让人工智能学习人类价值观》,关注于人工思考的最后阵地,机器学习和人类价值观之间的相应匹配,也就被作者形象的称为“人机对齐”问题。


其实这也是基于现实之中人工智能所表现出来的价值观偏见得出来的结论。偏见肯定是人与机器共有,而我们人类的价值观受到道德制约,可以及时做出调整,但机器却无法做到,这就让这种价值观倾向在人工智能领域表现的更加重要,也更具风险。


基于机器学习的相关理论,怎样来改善这一缺陷,怎样完善机器学习最重要的一步呢?克里斯汀精练地描绘了机器学习的发展史,并且深入科研一线同科学家对话,准确呈现了机器学习前沿的进展,并给出很多切实可行的建议。


其实人机对齐问题,说到底依然是人类自身的问题,理应让我们人类在其中扮演重要的角色。就像作者所说“对其问题还是一面镜子,将人类自身的偏见和盲点暴露出来,让我们看清自己从未阐明的假设和经常自相矛盾的目标”。


那么在进行完善机器学习的同时,我们也需要不断的审视自身,只有我们自身能够有着广阔的人类视野,不带偏见的把信息和算法传递给机器,机器才能给出不带偏见的程序,而这是一个任重而道远的过程。人类的文化也在时刻的变更之中,但相信通过作者的这一系统性审视,一定能够让我们看到一条更为广阔的道路。#人机交互#​#人工智能#​#

大家都在看

  • 从屈辱落后到颠覆全球,国产盾构机的进击之路

    从屈辱落后到颠覆全球,国产盾构机的进击之路 1997年冬,陕西秦岭腹地的施工支洞里,一台德国硬岩掘进机突然停了。洞深已经打了好几公里,距离贯通还远,刀盘却不转了。中方调度员跑去问外方工程师,对方摊手:按合同,每天工作八小时,其余时间不修;要加急,另 ... 机械之最09-12

  • 机械专业还能不能读?不吹不黑,讲透真实就业现状

    机械专业还能不能读?不吹不黑,讲透真实就业现状 很多高中生填志愿、大学生选方向,都会问到机械。网上说法两极分化,有人说机械是天坑,进厂倒班没前途;也有人说制造业是根基,越老越吃香。两种说法都不算全错,但大多只截取了局部情况,容易误导人。 我不拿虚头 ... 机械之最09-12

  • AI时代最高级的自律:把琐碎交给机器,把人生留给自己

    AI时代最高级的自律:把琐碎交给机器,把人生留给自己 现在的我们,似乎陷入了两种极端。 一种人过度焦虑:什么都怕AI替代,疯狂报课、跟风学习,越学越慌,生怕被时代淘汰。 一种人过度依赖:写文案靠AI、想思路靠AI、做工作靠AI,彻底放弃思考,慢慢活成了“没有思想的 ... 机械之最09-12

  • 牛顿:人类史上最强天才,凭一己之力改写世界科学史

    牛顿:人类史上最强天才,凭一己之力改写世界科学史 在人类科学浩瀚的长河中,若要选出一位以一人之力撑起一个时代的天才,那一定是艾萨克·牛顿。在他之前,人类看世界全凭猜测与碎片经验;自他之后,世间万物皆有规律、可计算、可推演。他终结蒙昧、开启理性,堪称近 ... 机械之最09-11

  • 乏力、夜间盗汗……警惕血液里的“无声警报”!这种肿瘤,盯上中青年人→

    乏力、夜间盗汗……警惕血液里的“无声警报”!这种肿瘤,盯上中青年人→ 乏力、盗汗、皮肤痒?别总怪工作累、压力大。骨髓增殖性肿瘤(MPN)——这个专门“伪装”成疲劳感的血液病,正悄悄盯上中青年人。这种肿瘤究竟是如何在身体里“安营扎寨”的?又是怎样被一次不起眼的体检意外“拆穿 ... 机械之最09-11

  • 这堂课,很酷很中国

    这堂课,很酷很中国 9月1日,学生在江西省抚州市南丰县红色文化展示馆内参观学习。 谢 东摄(人民图片)9月2日,贵州省铜仁市松桃苗族自治县第一小学迎来别样的开学仪式,一场精彩的机器人表演吸引一年级新生驻足观看。 李 湉摄(人民图片) ... 机械之最09-11

  • AI新经济,在这里看见丨2026外滩大会首日观察

    AI新经济,在这里看见丨2026外滩大会首日观察 当AI真的开始工作,它究竟能够为经济带来什么?9月10日,上海黄浦江畔,2026 Inclusion·外滩大会正式开幕。今年大会的主题是“共创AI新经济”。和过去几年相比,这是一个颇有意味的变化。从ChatGPT横空出世开始,人 ... 机械之最09-11

  • 数智时代,记者何为(序与跋)

    数智时代,记者何为(序与跋) 《AI时代的记者——一个新闻老兵的人机协同手记》:贾永著;贵州教育出版社出版。2026年,距离1956年达特茅斯会议正式开启人工智能研究,整整70年。70年间,AI(人工智能)从少数科学家的学术设想,走出实验室,进入产 ... 机械之最09-11

  • 一文看懂IFA2026硬科技新趋势:这10个问题,比「AI落地」要具体得多

    一文看懂IFA2026硬科技新趋势:这10个问题,比「AI落地」要具体得多 9月4日至8日,IFA 2026(柏林国际消费电子展)在德国柏林举行,现已落下帷幕。作为全球三大消费电子展会之一,本届IFA一共聚集了来自49个国家和地区的1900多家展商,预计共吸引全球超过22万的观众。虽然依然是中国厂 ... 机械之最09-10

  • 海报丨能源革命,“碳”路者说

    海报丨能源革命,“碳”路者说 山西正在书写一场关于能源转型的崭新故事井下的智能监测田间的光伏板工厂里的跃动的智能机械……转型的答案从来不在纸面上而在每一个实干者的手中他们是技术员、工程师他们是运营官、村支书……他们用行动回答同一个 ... 机械之最09-10