Meta 的学术机器人开用两天即被关闭！本篇帮你盘点 AI 失败的 7 大原因
▼
原来如此
现在科技之发达，人工智慧软件发展卓越，许多产业也不乏AI 替人类代劳，不过你知道吗？AI 其实也满容易出纰漏的，Meta 在 11/15 宣布新的AI 机器人 Galactica，这个机器人透过学习共 4,800 万个文章、网站、教科书、讲义和百科全书，拥有归纳学术论文、生成百科文章、算数学、编写程式等功能，看起来非常实用的一个 AI，却在开启后两天即被关闭，原因竟是演算结果内含过多假资讯！听起来非常荒谬，但其实 AI 出错是可以追溯原因的，今天就来盘点 7 个常见 AI 出错的理由吧
理由一：缺乏延展性
普遍的人类在看到一张被翻转的图片时，心里会自动将其翻转，并可以准确判断图中内容物，这项任务即使是幼童也能做到，不过因为 AI 只能识别它曾经见过的模式，因此如果以不同的模式予以演算，通常结果就容易出错，如此即称作缺乏延展性；2018 年时有研究指出，如果你拍一张校车的照片，然后将其 90 度翻转（大约就是发生事故翻车的状态），此时即使是最先进的 AI，有 97％ 的机率会无法辨识出那是一台校车，反而会判定其为一台扫雪机，不过只要是正放时，它们都认得出那是一台校车，这种缺乏延展性的情况，有时也是医学扫描会误诊的原因之一
理由二：植入式偏见
近年来 AI 渐渐被用来帮助人们下一些重大决策，比如是否核发贷款、量刑刑期长短，或者判定哪位病人可以优先获得健保名额等，这类决策对相关人士来说意义重大，这时如果 AI 有偏见，会自动演算出具有歧视的决定，也造成社会的隐忧；实际案例发生在 2019 年的美国，科学家发现美国全国部署的医疗保健 AI 存在种族歧视，而这影响了数百万美华人，该 AI 会帮忙判断哪些病患可以在重症照护计划中受益最多，但却经常让更健康的白人排序优于状况较差的黑人，原因是 AI 误以为在医疗上花费更高的病人，病情绝对更加严重
理由三：灾难性遗忘
灾难性遗忘是一种经常发生在 AI 上的现象，意指 AI 在学习新的方式后，就会忘记如何使用旧的方法，简单来说就是——AI的记忆力不太好！以近几年来盛行，用来伪造假影音的 Deepfake 技术为例，光是制造拟真换脸的 AI 就很多，它们很多是用不同的方式在创造 Deepfake 内容，如果要进行识别，那识别的 AI 也就需要学习不同的识别方式，但由于灾难性遗忘的现象，要训练出一个可以全面识破的AI 需要时间
理由四：演算结果缺乏可解释性
你有没有想过，假如 AI 判定一张图像为火柴时，到底是因为木棍还是火焰让 AI 产生如此判决？AI 在现代已经算相当进步，不过相信还是很多人难以理解 AI 的演算结果，当 AI 下判决时，判定依据往往是大家最好奇的，不过科学家却表示，在询问 AI 判定的原因时，即使是同一个结果，它也会给出不同的答案，这也让演算结果的可解释性变得不稳定，说到这里，我想到之前玩 Midjourney的时候，同一组关键字，在不同时候输入，就会产生不同结果，是不是也是一样道理呀（？）
理由五：量化资讯造成误判
2016 年的美国，一台开着自动驾驶的特斯拉Model S，与前方左转卡车相撞，驾驶当场死亡，这也是首起被通报的，因自动驾驶而造成的车祸，车祸发生当下，不论是驾驶或自动驾驶系统，两者都无法准确判断拖拉机挂车车身的白色与天空的差异，因此没有踩下煞车，这个事件就说明了人工智慧系统会透过大量量化的资讯，进而坚信一个错误的决定，造成失准的判断
理由六：缺乏常识
AI 毕竟是机器，它有时会缺乏常识，比如科学家可能会训练 AI 检测散布在日常中的恶意发言，这看起来很简单，然而当这个 AI 在现实中被使用时，它很可能无法理解黑人或同性恋者，会对自己族群使用看似歧视的字眼，而错误地归类他们的发言为仇恨言论，在相同情况下，人类则可以很好的辨识出哪些是真正的恶意言论，换句话说，AI 因为缺乏常识，而无法判断出人类在说话时展现的语境
理由七：数学不好
虽然传统电脑的算术能力很好，不过你会很惊讶地发现，同为机器的 AI 并不擅长数学，即使你以最新的处理器建造它，且训练它做很多数学题，但它的解题能力仍旧不及一台简单的计算机。研究显示，科学家即使对 AI 进行了数十万个算数训练，再让AI 解答来自高中数学竞赛题库中的 12,500 个问题时，它却只有大约 5% 的准确率；目前还不确定为什么 AI 不擅长数学，其中一种可能性是，它们是像人脑一样，以高度并行的方式解决问题，而数学题则通常需要一长串的步骤来解决，所以 AI 对数据的处理，可能本来就不适合拿来解数学
小结
随着人工智慧越来越发达，人们当然可以适当利用科技为我们带来的便利，不过也不能过度依赖、全然信任机器，随时去思考演算结果的正确可取性方为上策！是说最近听说有个名为 Notion 的新 AI，功能是会……写文章？不过在我看完以上 7 大 AI 要面对的困难以后，暂时还不担心失业啦 X
（参考资料：CENT、IEEE、The Verge）
▼
免责声明 本站部分内容《图·文》来源于国际互联网，仅供参考，不代表本站立场！
本站尊重知识产权，版权归原创所有，本站资讯除非注明原创，否则均为转载或出自网络整理，如发现内容涉及言论、版权问题时，烦请与我们联系，微信号：863274087，我们会及时做删除处理。