• 林彦
    2018-03-09
    人工智能的伦理问题源头来自于设计者和日常的使用者。我觉得局部可能会犯错,不过很难事先知道如何约束是合理的

    作者回复: 机器的价值观是人的价值观,AK47会发挥什么作用取决于在谁手里。

    
     1
  • Geek_59
    2020-01-24
    极客时间
    21天打卡行动 37/21
    <<人工智能基础课39>>心有灵犀一点通:对话系统
    回答老师问题:
    社交聊天机器人的发展也带来了关于道德规范的问题,一些机器人从社交网络上学到的想法需要引起注意与警惕。结合人工智能在无人武器中的规模化应用,对人工智能进行法律约束似乎已经迫在眉睫。那么应该如何看待与应对人工智能带来的伦理问题呢?
    1,<<流浪地球>>中的机器人:
    理智对人工智能来说是非常容易的,但是对人来说总是不那么容易
    而人类也正是无法永远保持理智,有了自己的情感才被称为理智
    2,<<庆余年>>中的神庙四定律:0,“第零定律。神庙必须保护人类的整体利益不受伤害,其它三条定律都是在这一前提下才能成立;
    “第一定律,神庙不得伤害人类,也不得见人类受到伤害而袖手旁观。第二定律。神庙应服从人类地一切命令,但不得违反第一定律。第三定律,神庙应保护自身的安全,但不得违反第一、第二定律……
    3,阿西莫夫的《我,机器人》:机器人学的三大法则,第一定律:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管;第二定律:机器人必须服从人给予它的命令,当该命令与第一定律冲突时例外;第三定律:机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存
    今日所学:
    1,人工智能的一个基本挑战就是赋予机器使用自然语言与人交流的能力。
    2,基本技术问题总结为以下五个:重要词语的识别,最小语境范围的判定,恰当的转化选择,适当回复的生成和结束对话的能力。
    3,基于神经网络的端到端对话系统不需要人为介入,而是从对话本身中进行学习;
    4,端到端对话系统采用的模型是记忆网络。相对于普通神经网络,记忆网络的优势在于能够实现长期记忆,对话中的每一句话都被存储到记忆模块中,保证了信息不在压缩的过程中被丢失。
    5,监督的目的不是纠正某个单独语句的错误,而是从策略上动态改善对话表现。
    6,理想的提问策略是机器人首先学习对话任务,再根据基于提问成本的问答策略和自身回答问题的能力来学习改善自己的性能。
    重点:
    1,早期的对话系统通过模式匹配和智能短语搜索对人类的合适回复;
    2,智能个人助理可以帮助用户在多个垂直领域完成任务;
    3,社交聊天机器人的作用是满足用户的情感需求;
    4,神经网络能够帮助社交聊天机器人实现通用化的学习。
    展开
    
    
我们在线,来聊聊吧