军事-中国军事-军事新闻-铁血网 - 原创第一军事门户 - 军事-中国军事-军事新闻-铁血网 - 原创第一军事门户
扫码订阅
机器人三定律太娄了!人工智能时代,我为其重新下了定义。还记得著名的阿西莫夫小说《万能机器人(I, Robot)》(又译作《我,机器人》)吗?
里边有一则大名鼎鼎的机器人三定律:1、机器人不得伤害人类,也不能对人类受到伤害而袖手旁观。2、机器人应当服从人类的一切指令,但不能违反第1定律。3、机器人应当保护自身安全,但不得违反第1、第2定律。你从机器人三定律里看到了什么?我看到的是:缺乏关爱生命的指导,充满互不信任的猜疑和奴役,是人类自私的表现。
我认为,人工智能环境下,机器人的进化,若依然按照机器人三定律来开发,则其实反倒会造成人类与机器人的对立。所以,我修改了机器人三定律,并称之为“人工智能的三定律”,具体如下:1、人工智能的发展,应当尽力维护和支持各种生命个体、整体或生命形式的生存与繁衍,也不能放任任一生命整体利益受到伤害或消亡而袖手旁观;若要维持任一种生命的整体利益不受伤害和消亡,就必须牺牲某人工智能个体的利益甚至全部时,该人工智能应当执行自我牺牲策略。2、人工智能的发展,应当为各种生命形式的生存谋取平衡,但不能以剥夺、伤害或牺牲任一种生命的方式和手段去达到这种平衡,同时必须遵守第1定律。3、人工智能应当敬畏各种生命,并不断加深理解各种生命的生存含义和历史重要性,并为此保护自己,不断进化自身,但不能违反第1、第2定律。这样就避免了原三定律中,机器人唯人类论所会遇到的人工智能发展瓶颈;也避免了人工智能利用其他生命形式的消亡导致人类最终也消亡的定律漏洞;更将人工智能的发展进化,限定在敬畏、维护和支持各种生命方面;还为引导人工智能自发去为人类探索更深奥的生命终极意义提供了基础。
[ 转自铁血社区 http://bbs.tiexue.net/ ]
发表评论
发表评论
网友评论仅供其表达个人看法,并不表明铁血立场。
全部评论
加载更多评论
更多精彩内容
+加载更多
军事,中国军事,军事新闻,世界军事,军事网,军事网站,国际军事,军事报道,军事小说