黄金城vip娱乐官网-1701vip黄金城 023-84030816

你看到的是鲜花,这个变态AI看到的却是尸体【黄金城vip娱乐官网】

作者:黄金城vip娱乐官网 时间:2021-03-28 01:03
本文摘要:(微信官方账号:)出版社:据BBC报道,麻省理工学院媒体实验室的研究人员做了一个有意义的实验。他们在网上用黑暗残忍的图片训练了一个AI机器人。结果被称为“诺曼”的AI变成了一个变态的“精神病人”,看到了世界的阴暗面。 诺曼的形象被称为罗夏墨迹。一般来说,心理学家会确认一个人是否以一种强烈的方式看待世界。 这样的实验有助于分析网络黑暗角落里的人的形象。你和一个瘸子生活在一起,你会学会一个跛子。人类世界的规则在AI世界也有一定程度的限制。按如下方式编译全文。

1701vip黄金城

(微信官方账号:)出版社:据BBC报道,麻省理工学院媒体实验室的研究人员做了一个有意义的实验。他们在网上用黑暗残忍的图片训练了一个AI机器人。结果被称为“诺曼”的AI变成了一个变态的“精神病人”,看到了世界的阴暗面。

诺曼的形象被称为罗夏墨迹。一般来说,心理学家会确认一个人是否以一种强烈的方式看待世界。

这样的实验有助于分析网络黑暗角落里的人的形象。你和一个瘸子生活在一起,你会学会一个跛子。人类世界的规则在AI世界也有一定程度的限制。按如下方式编译全文。

诺曼诺尔曼这个名字来源于希区柯克著名电影《惊魂记》中的角色诺曼贝特斯诺曼,这是一个训练有素的解读图像的算法,但就像希区柯克电影中的诺曼贝茨一样,对世界并不悲观。当人工智能分解的“长时间”算法被问及看到什么抽象图形时,它不会自由选择一些开心的事:“一群鸟卧在树枝上”,而诺曼看到一个人被电死。“好久”,AI看到两个人三辆车站在一起,而诺曼看到一个人从窗户跳下。

这个心理变态的算法是麻省理工学院的一个研究小组发明的。作为实验的一部分,目的是认为训练人工智能处理来自“网络黑暗角落”的数据不会对其世界观产生任何影响。这个软件的培训资料是人们在可怕的环境中死去的照片,来自Reddit网站上的一个小组。那么,需要识图背文的AI,就不会显示水墨图,被告知在里面看到了什么。

这些抽象的图像一般被心理学家用来帮助评估患者的心理状态,尤其是他们看世界的眼神是消极的还是强烈的。诺曼的视角总有一天会冷酷无情。在每一幅图像中,他看到的都是尸体、鲜血和吞噬。和诺曼一起,另一个AI长期接受猫、鸟、人的形象喂养训练。

在这些抽象的墨水零点,它看到了非常无聊的图像。麻省理工学院媒体实验室三人组的Iyad Rahwan教授回应说,诺曼的黑暗反应证实了机器学习新世界的残酷现实。数据比算法重要。

强化了我们用来训练AI的数据是AI感知世界的方式及其不道德的方式所需要的观点。它可以制作新闻,在电子游戏中构建新记录,作为客户服务,分析财务和医疗报告,并获得关于如何在数据中心节能的意见。但如果诺曼的实验证明了什么,那就是用不恰当的数据训练出来的AI不会变坏。

AI是否存在种族歧视?诺曼对死亡和吞噬有种族歧视,因为他只说了这些。在现实生活中,如果人工智能是通过缺失数据来训练的,在某种程度上就不会是种族主义的。去年5月,一份报告称,美国法院用于风险评估的基于人工智能的计算机程序对黑人囚犯有偏见。该项目认为,黑人重复犯罪的概率是白人的两倍,这是因为用于训练AI的数据存在缺陷。

在美国使用的预测性监管算法中也发现了类似的种族主义,这也是由于训练他们的历史犯罪数据的问题。有时候,人工智能“自学”的数据来源于人们对恶作剧的热情。所以,2016年微软的chatbat Tay在Twitter上发布时,这个机器人很快就受到了种族主义者和斗士的青睐,他们教会它捍卫白人平等主义者,鼓吹种族灭绝,传达希特勒的宠爱。

诺曼可能不是唯一一个对貌似AI更敏感的人。人工智能并没有阻止种族歧视。

根据一项研究,拒绝接受谷歌新闻培训的软件是性别歧视的,因为数据是自己教授的。当被问到“男人对待电脑程序员就像女人对待X”时,软件问的是“家庭主妇”。巴斯大学计算机科学系的乔安娜布莱森博士说,性别歧视的人工智能可能是因为许多机器是由“来自加利福尼亚的单身白人男性”编写的。

通过程序员背景的多样化,至少可以部分解决问题。机器拒绝接受学员的意见也就不足为奇了。“当我们通过自由选择我们的文化来训练机器时,我们当然不会将我们的种族主义应用于其中。”她说。

数学算法无法构建公平。在机器学习中,种族主义不是一个恐惧的词,它只是意味着机器拒绝接受纪律。让她担心的是,有些程序员不会刻意选择把恐惧或者种族主义强行带入机器。

她指出,为了防止这种情况再次发生,人工智能的建设过程必须得到更好的监督,更加透明。拉赫万教授回应说,他与诺曼的实验证明“工程师必须找到平衡数据的方法”,但他否认“最重要的机器学习领域,这个领域被极大地扩展了,不能只由程序员来操纵。越来越多的人坚信机器不道德可以归结为一种研究人类不道德的方法,”他说。

他回应说,新一代的“人工智能心理学”不会通过定期审查正在开发的系统来进行,而不是银行部门的旧系统。*组织。经许可,禁止发表有版权的文章。

以下是发布通知。


本文关键词:1701vip黄金城,你,看到,的,是,鲜花,这个,变态,却是,尸体,【

本文来源:黄金城vip娱乐官网-www.cdtzj.com