A project by UNESCO-MOSTC.I.P.S.HG.C.A.C.S.Mémoire de l’Avenir

Artists and projects
Art map
Around the world
Mémoire de l'avenir
HAS magazine
English
Français
中文
Open call
About us
The project
Founders
Who we are
Get involved
Contact
/ HAS MAGAZINE
机器人坟前的郁金香
安德烈・罗默
联合国教科文组织亲善大使
思维
前瞻
数据的累绩越来越需要自动化和人工智能来分析和处理,从而引发了关于道德、人文和机器思考的问题。
玛格丽特‧贝里耶,墨西哥犹加敦州的梅里达公墓

要回答Edge网站2015年的年度问题,“你对机器的思考有何看法?”之前,我们应该先了解一些关于自己的事情,关于我们是谁。因此,让我们从我们最重要的器官“大脑”开始讨论。 这种极其复杂结构的概要分为三个部分:皮质(负责理性运作),边缘系统(负责情感和动机),以及爬虫脑(基本和原始动力所在——生存和繁殖)。

关于如何看待思考机器的争论往往倾向于大脑皮质和边缘系统,但这些只是冰山一角。大脑皮质使我们在商业相对成本与机器劳动力,人类相对价值与数位资本,以及生物伦理、隐私与国家安全问题等领域,能更精准的评估人工智能带来的成本和收益。大脑皮质还使我们有能力进行计划和预知,为研发吸引更多的资金,并界定公共政策的优先事项。

同时,当我们面对人工智能发展带来的风险、机会或危机时,无论是恐惧还是兴奋,大脑的边缘系统会帮我们采取预防和应对措施。在这种情况下,药到病除的万灵丹和技术恐惧症是人工智能立即引起的情绪反应。常见的恐惧包括被机器操控和被机器取代而导致失业,而可知的好处则包括机器极大限度地扩展我们的记忆力并使生活的日常工作变得更轻松。

但是,在考量思考机器的未来时,我们还必须意识到爬虫脑在我们的思考模式中发挥的强大甚至主导作用。这意味著要意识到人类最原始的反应,我们对“思考”、“机器”、“机器人”、“智慧”、“人造”、“自然”和“人类”等概念最局限和情感的思考方式。爬虫脑首先关注的是生存,尽管不常被提起,“活下来”是我们对思考机器的希望和恐惧的核心。

然而,当我们研究古代原型时,文学和当代辩论的预测反映在《 Edge 2015》的问题中,潜意识的本能反复出现爬虫脑二项式:死亡与永生。

毫无疑问地,人类对死亡的恐惧是一种集体想像力,想像机器人可以复制,并以其无所不能的思考能力背叛并摧毁其创造者。这样的机器似乎带来了最可怕的危险:它们会消灭我们的一切。但是,我们的爬虫脑也将它们看成救世主,希望超级智能的机器能为我们带来永生和青春。我们可以在人类语言中看到这些思考方式的暗示。机器人和机器在英语中是没有性别的,而拉丁语和德语则将机器人这个词定义为阳性,危险和令人恐惧,而机器 “lamáquina”是阴性,保护和照顾。

玛格丽特‧贝里耶,前哥伦布时期的女性雕塑,墨西哥国家人类学博物馆

英国哲学家杰里米‧边沁(Jeremy Bentham)将人定义为理性的存在,但我们知道我们不是。由于爬虫脑的力量,人类有时会以不合理的方式思考和行动,而爬虫脑仍然是智力发展的核心。感觉是思考的最深处。因此,一个机器每十八个月的数据处理速度以指数方式增长,在国际象棋比赛中透过每一步棋分析大量的可能性进而击败人类,还能精准地诊断疾病,令人印象深刻,但这已经过分离题并让思考受限。

玛格丽特‧贝里耶,墨西哥犹加敦州的梅里达公墓

为了实现思考机器的梦想,思考机器必须理解和质疑价值观,承受自我冲突并能体验亲密关系。一种使机器能够以同理心模彷人类面部表情和情绪,并能快速处理大量数据,在神经元和人工智能之间具有强烈关联的方法,这既不必要也不足以表示我们正走在正确的道路上。

因此,在思索会思考的机器时,我们应该询问自己爬虫脑的问题,例如:你会冒著生命危险购买机器吗?你会让机器人当政治领袖吗?你会嫉妒一台机器吗?你会为机器人的健康纳税吗?你会把鬱金香放在机器人的坟上吗?甚至更重要的……我的机器人会将郁金香放在我的坟前吗?

在我们思索会思考的机器的过程中认识到爬虫脑的力量,了解真正能够怀疑或参与的机器的问题和性质,使我们能够更清楚地在本质以及含义上看清具有真实怀疑或参与能力的机器,以及我们应该追求那种人工智能。如果我们的生物学将文化设计为生存和进化的工具,如今,人类与生俱来的自然智慧将引导我们创造出具有感觉和本能的机器。只有这样,永生才能战胜死亡。

译自本刊英文版原文《Tulips On My Robot’s Tomb》

上一篇文章
目录
下一篇文章
01
大数据与独特性
十一月 2020
思维
前瞻
作者

Poder Civico智库董事长,墨西哥普埃布拉国际思想节的创办人与策展人,同时担任联合国教科文组织社会变革与知识自由交流的亲善大使。他也是一位作家、慈善家、人权活动家与学者,拥有公共政策博士学位。

PDF版本