A project by UNESCO-MOSTC.I.P.S.HG.C.A.C.S.Mémoire de l’Avenir

Artists and projects
Art map
Around the world
Mémoire de l'avenir
HAS magazine
English
Français
中文
Open call
About us
The project
Founders
Who we are
Get involved
Contact
/ HAS MAGAZINE
流量的逻辑、数据主义和独特性的神话
马克-威廉・德波诺
神经科学家、诗人和散文作家
思维
破坏
前瞻
数字化使数字记忆体存在。与大数据相关的忧虑包括:数据处理、储存与检索相关发展。人类的记忆与人工智能是不同的。仔细观察这种差异的本质,使我们对人类思想的特殊性有了长远的希望。

大数据时代的认知决定论与思维自由意志

马克-威廉‧德波诺,认识论的笼子

在经历了几千年宗教所主导的缮写信息(传统上是口述,然后经文),我们见证了可以即时处理全方面数据和智能革命的人类世*。然而人类从迈出第一步以来,大脑的记忆就没什么改变,人类却从未停止扮演耍弄把戏失败的巫师学徒,从猎人或採集者的角色快速演化成工程师。这个后工业时代的生物技术阶段,是人类史上首次偷偷地产生行为上的彻底变化。GAFA、DNA微阵列或NBIC1等大型企业研发的强大演算法早已无所不在的出现在社会上的各个关键领域(经济、卫生、交通、国防、第三产业……),在越来越多的功能或成就上超越(或取代)人类,而后超人类主义唤起后有机的未来2

这是否意味著许多职业或愿景将被淘汰,因为透过机器可以处理得更好,而人工智能注定要长期统治地球?还是说记忆DNA、神经网路和人工智能会取代历经千年发展的百科全书条目式记忆?3 换句话说,已经透过物联网和许多辅助操作暗自或正式入主的数据主义,一旦失控将对人来未来的命运产生不可估量的影响。如何维持控制?在我们与技术对象不可避免的关系中,该拒绝什么和融入什么?数字时代和共同演化正在发展吗?数字人文科学?这将是一场徒劳无功的争论,尤其是根据米歇尔・加纳西亚(Jean-Michel Ganascia)4的说法,科技奇点的神话是我们网路社会的诱惑,因为我们的网路社会太倾向于为了商业目的而吸收的大数据,同时赋予人工智能一种它不具备的力量。

面对人类与西蒙栋派5 技术对象的虚无对立,我们与数字化世界的关系存在著不可否认的变化,以及对生命记忆意义的肯定6 ,其中包含先验上机器7无法获得的独特性(结构不变性、意识、意向性、记忆、创造性……)和可塑性(无限想像与超越文化的能力)。7

流量的逻辑

如果有一个无庸置疑的事实,那就是我们已经进入了一个数字漩涡与流量的逻辑,这个逻辑涉及股票市场到生物圈,却无法控制其造成改变的道德伦理意义。这种前所未见的情况面对的记忆储存(生物演化论者)和演算法记忆,换句话说,就像是一种数据即时处理的动态与历史性逻辑。这引起了我们对人类的有限性、假体化或生化人的长期思辨,尤其是围绕我们的一些关于数据主义和增加或修复记忆的新行为,或说是关于我们的新基因体。生化人或后有机世界让我们梦寐以求或忧心忡忡,但至今使用仍然很少,而被某些人认为像原子论一样为无限小的数据运动,像宇宙只提供必须破解意思的数据流量哲学学说,正在不可逆的进行中。

以色列历史学家赫拉利(Yuval Noah Harari)8认为数据主义是数据宗教和21世纪的科学革命。一场由连续的破坏、大规模可分析生化演算法的生产、生存的程度或信息水准产生的革命。在网路巨头的控制下,大数据时代已经对大众和决策者产生了明显的影响;前者基本上是被动的载体或上瘾的用户,后者是内行的首脑。然而,这二者都是依赖,甚至被数字和人工智能拥有者操纵,从控制论的突飞猛进,发展了越来越自动化的软件和机器,同时又否认了机器人或人工智能不受控制的危险。因此从电脑辅助讯号处理就要开始质疑,我们常用的电子阅读器或iPhone到某些安卓系统(人型机器人)无人机或是建立于致命自动武器的军事战略。

以色列历史学家赫拉利(Yuval Noah Harari)8 为数据主义是数据宗教和21世纪的科学革命。一场由连续的破坏、大规模可分析生化演算法的生产、生存的程度或信息水准产生的革命。在网路巨头的控制下,大数据时代已经对大众和决策者产生了明显的影响;前者基本上是被动的载体或上瘾的用户,后者是内行的首脑。然而,这二者都是依赖,甚至被数字和人工智能拥有者操纵,从控制论的突飞猛进,发展了越来越自动化的软件和机器,同时又否认了机器人或人工智能不受控制的危险。因此从电脑辅助讯号处理就要开始质疑,我们常用的电子阅读器或iPhone到某些安卓系统(人型机器人)无人机或是建立于致命自动武器的军事战略。

此外,质疑现今连接大脑延伸的认知形式,这种认知形式的外部和远端器官变成无法控,并可能创造偏离主要用途和可能对人类有害的虚拟物件世界(网路是第一步,量子电脑是未来)。因此在任何决策过程中,都应包含基于人类道德价值的防线(深度学习、非单一或规范逻辑)9 。例如美籍犹太作家以撒‧艾西莫夫(Isaac Asimov)10 的人形机器人三定律,现在被硅谷机器人公司11 a的负责人安德拉‧基伊(Andra Keay)推演为五定律,也就是“人脑计划”12。面对智能对象和这个新的潜在加密货币流量逻辑,许多哲学家、伦理学家和社会学家发出了警告和呼吁要有弹性。    

一个数据VS众多数据

人们今天看来还是无法逃避,但能到何时?为了回答这个问题,我建议先自问这个在单一数据(特别是历史、生物学、人类和大脑的记忆)和众多数据(人工、演算法和扩增记忆)之间的外在对立,或更广泛地说,在科技奇点和人类奇点之间的明显对立;基本问题是处理这个在我们无法抵抗情况下的扩张主义逻辑。流量逻辑显示社会剧烈的改变,自然与科技或网路文化的对比;在美国物理学家维纳(Wiener)发起系统科学之前,控制论意指源自人类政府的科学,后来成为人工智能和认知科学发展的基本模型。

因此在面对任何决策或基准化分析的过程时,我们需要保持清醒。在这个领域中,最近一个比较引人注意的例子是美国食品和药物管理局(FDA)核准人工智能检测早期糖尿病视网膜病变。这是一个被设计出的演算法系统13 用来支援眼科医师诊断决策的典型结果,但已经激起了人类最后决策14 价值的问题。然而,正如我们写作的过程和更广泛的创作行为15 ,这些附加价值与大脑的可塑性密切相关,只有我们比喻为海绵的大脑受到浸润并被数字化的流量超越时,才能适应数字化流量的发展,同时为创新或艺术活动16 留下自由空间,相当于电脑的预设模式。这就是计算能力和人脑的差别,人脑可以在一定程度上将信息储存记录在神经元并获得新的学习形式(认知可塑性、流动智力),但最重要的是在保持记忆身分的前提下去管理不确定性和维持创造性。

在一个决定性的数据处理不再是为实验室所保留,而是源自于我们所有行为的世界中,上述的描述很务实。今天法国数学家赛德里克・维拉尼(Villani)17 的报告强调了人工智能在工作、通信、健康或交通与自动汽车及其衍生可能性在世界变革中的重要作用。因此这不再是将人工智能的影响力减至最低的问题,而是掌握人工智能的生物语义价值,换句话说就是语言,为了透过信任我们与生俱来的智慧来伴随这一运动。然而一些数据专家表示人类终有一天会被大量数据所淹没,人类会在不知不觉中将越来越多的决策拖付给机器。这样一来,处理器、大数据和人工智能的数量、分配和使用的增加将成为无法避免的科技人类演化工具,但在一定程度上我们将不再掌控社会政治生活的所有领域,经济、工作、气候、通讯……都将受到严重影响并互相依赖。

然而这些混乱不一定会让分析人员质疑我们的价值体系。事实上,这无疑是一种生活方式的彻底改变,个人只有在他认为有意义的情况下才会相信这些数据资料,而伺服器出来的速率流量是盲目的,并在不断的流量中传送著千兆的数据,人类在此选择对我们有意义的内容,再透过社交网路或大型网站18 不断地再倾吐出来。

在科技奇点与生物奇点之间

一个由智能演算法支援的全球数据系统被认为可以为我们带来最大的福祉,或我们会无意中把越来越多的权力下放给这个系统,这个系统预兆了什么?19 毫无疑问的,这几乎是小说和后人文主义,但这个世界的领导人们也没有被这些可能性所迷惑,即使是纯粹的投机行为。如果说生化人还在喂养著突变的类人类网路文化的幻想部分,那么生化人仍然是一种身体增强、硅胶化、超人类、永生的……象征,也是不可避免的生物科技进步的象征,一些研究人员指出,这种演化能够弥补我们退化或有害的自然演化20 ,甚至能够创造出一个坚不可摧的数位大脑(人脑企划2024)或完全整合大脑(蓝脑计划)21

马克-威廉‧德波诺,感觉流

这种瀑布式的崩溃同样出现在当代气候或工业社会议题上,当技术科学和资本化渐进的进步曲线不可避免地伴随著介于人类与大自然之间的贫穷,从而造成生物多样性的丧失或全球暖化的严重后果。然而,法国作家亚蓝・达马西欧 (Alain Damasio)22 像其他与我合作的思想家一样,将这个情况与文明(和经济)危机连在一起,而非单纯的大自然能够应付的生态过程连在一起。

在另一端,则是由内而外建构现实世界的大脑,没有身体和感官就无法运作。但同时也受到表观遗传学和后基因体学时代对生物发展的影响,今天我们已经较好地权衡这些正在演变的影响。由于大脑的可塑性,这影响包含交织的文化能轻易意味著的思考数字化,就像在语言的获得和文字的发明。不管我们是否喜欢,这两个交叉的维度构成了人类的未来,而且不能小觑这个混合。事实上,机器人和人工智能预言这些有才能的机器能够自行组态、自行改造并与环境强烈互动。所以人工生物模拟生物,包含其认知结构和后成说!因此我们必须把智能根植在幸免于机器异化的身体中而不排斥它。

由血肉和情感组成的身心,是不完美的、具创造力和易变的,与人工智能的紧密、可预测和力求解码的思维相反。铭刻在精神中的肉体,其稳定的不平衡像它的脆弱及易渗透性一样,对其居住的世界至关重要。然而,今天具有高度象征性和计算能力的生活逐渐从地球根源抽离,用或然性和趋势讨论生态学,忘记我们与自然的关系,也忘记我们也是其构成的一部分23

然而大脑模拟、人工神经网路和大脑芯片至今都无法与人脑匹敌,正如同我们所见,人脑即时内化感觉、文化并将其智慧用于解决问题以外的事情。对生物体来说更是如此,就像当代我们与感官世界和智能型植物24 的问题一样。植物的差异性使我们重新审视已知的敏锐性、智慧、认知与自然文化的关系。二十一世纪的挑战是在科技奇点与生物奇点之间的对比,法国哲学家米格尔・贝纳萨雅(Miguel Benasayag)25 指出这种激进性(马莫特雷托模式)与技术和生物间的混合模式,这种模式必须以不简化生物学以及信息技术的方式,去发展一个新的想像。

总而言之,我们这里捍卫的情况是,与其采取和科学怪人神话相关的反进步立场,不如透过以下公开的问题来拥抱这个变动:“认知决定论的赌注到哪里停止?思想上的自由意志从哪里开始?”,并将这个问题转变为“大数据时代”26 。这个问题的答案如同法国社会学家埃德加・莫林 (Edgar Morin)近来所表示的,一个增强的人并不意味著一个进步的人27,此外,将个人数据和众多的演算法数据对立是毫无用处的。不如在不根除人类独特思想的条件下28 ,观察它们的客观差异性(生活经验记忆vs人工记忆)和它们的交叉点或潜在的混合性。我们敢打赌,如果生化人可能成为人类的第一个基因体或控制论变体,生化人将无法抹去我们身上的动物性,也无法抹去我们累积记忆的意义,换句话说,就是我们的历史性。

译自本刊法文版原文《LOGIQUE DE FLUX, DATAISME ET MYTHE DE LA SINGULARITÉ – Déterminisme cognitif et libre arbitre de la pensée à l’ère des Big data》

1 GAFA是谷歌、亚马逊、脸书和苹果公司的缩写;NBIC是奈米科技、生物技术、信息技术和认知科学的缩写。其他缩写:BANG(位元、原子和神经元基因)。

2 超人类主义的特征是以消费主义和精英主义的不朽为目标,因为超级智能或器官替代技术的获得。

3 《记忆的发明》Michel Laguës、Denis Beaudoin和Georges Chapouthier,法国国家科学研究中心2017年出版。

4 《独特性的神话,我们该害怕人工智能吗?》尚米歇尔・加纳西亚(Jean-Michel Ganascia),法国门槛出版社2017年出版。

5 吉尔伯特・西蒙栋(Gilbert Simondon)于1958年所著《技术对象的存在形式》(法国Aubier出版社)。西蒙栋认为,技术对象(其中工具是原始物件)有其自身(具体化)的进化,是人类将科技去人性化,而非相反因素。这是基于技术对象在现实世界中具体化以及技术对象与人类的道德伦理与功利关系。这种本体论的现实与人类的本性是不可分割的,也是人类本性的延伸;智能材料指的是一种操作自律和自体平衡或自我调节的功能,而不是平常的 “反射能力 ”,即使这些信息与序列处理相关。

6 法国社会学家埃德加・莫林(Edgar Morin)和帕特里克・库米(Patrick Curmi),《生命的记忆》(La mémoire de la vie),M-W. Debono Ed.,L’attribut,2017年。

7 马克-威廉・德波诺(Marc Williams Debono)的《单数记忆,复数记忆-在数据主义和人工智能时代》,法国L’Harmattan出版社,2018。作者在认知层面上也广泛地提出了可塑性的概念,例如《可塑性的状态》、《哲学的意义》2012年三月与五月)及记忆,例如《记忆的摺痕》,法国PlasticitéS.出版社,2015年。

8 尤瓦尔・赫拉利的《未来简史》,2017年出版。

9 深度学习中最新由谷歌研发的Deepmind,麻省理工学院与IBM公司保证它现时无法理解自己的感觉,新一代象征性人工智能的混合演算法将可以。https://arxiv.org/abs/1910.01442

10 艾萨克・阿西莫夫的《 机器人》,(我读过出版社,1967年)。

11 关于机器人定律扩展的文章(2016年11月):Les robots « perpétuent déjà les stéréotypes de genre »

12 https://www.humanbrainproject.eu/en/

13 IDx-DR人工智能软件,具有90%的可靠性并超过人类的检验能力。

14 Rémy Demichelis 2018年8月31日 “Comment une IA a été autorisée à poser un diagnostic?” Les echos.fr

15 马克-威廉・德波诺,《写作与思想的可塑性》,安道尔Anima Viva出版。

16 马克-威廉・德波诺《访谈》发表在法国索邦大学Axone(s)期刊,2017年。

17 The Villani Report

18 以这种方式传播一般用户不了解的来源或资源……

19 尤瓦尔・赫拉利的《未来简史》,2017年出版。

20 劳伦・亚历山德(Laurent Alexandre),《智能战争》(La guerre des Intelligences),法国JCLattès出版,2017。

21 https://www.epfl.ch/research/domains/bluebrain/

22 亚蓝・达马西欧 ,科幻小说《隐身者》(法国La Volte出版社,2019)的作者,他的论点在巴黎高等农艺科学学院近期举行关于 “崩溃 ”主题的辩论(Effondrement,Volet 4, ENS Paris Saclay,2020年1月)

23 雅克・塔森(Jacques Tassin)《敏感生态学》(Pour une écologie du sensible),巴黎Odile Jacob出版社,2020年。

24 马克-威廉・德波诺《关于智能型植物》,法国Hermann出版社,2020年。

25 米格尔・贝纳萨雅格,《生命的奇点》(La singularité du vivant),Le Pommier出版社,2017年。

26 马克-威廉・德波诺《写作与思维的可塑性》,Anima Viva出版社,2015年。

27 摘自法国高等经济商业学院(ESSEC)教授埃德加・莫林(Edgar Morin)与可塑性科学艺术协会安妮・丹布里库特・马拉塞(Anne Dambricourt Malassé)之间的关于人化过程的辩论《无忌讳》(2017年10月4日,巴黎)。

28 大脑的可塑性具有两个认知面:偶然性、扩展性认知,像积极和 “营销 ”的影响或盲目的破坏为消极的影响,但人类的想像力(艺术、直觉、创造力)及其情感将永远面对机器抽象的力量。

译註:

人类世(Anthropocène)是荷兰大气化学家保罗・克鲁岑(Paul Crutzen)于2000年提出,他认为人类活动对地球的影响足以成立一个新的地质时代。

上一篇文章
目录
下一篇文章
01
大数据与独特性
十一月 2020
思维
破坏
前瞻
作者

作为一名神经科学家、诗人和散文作家,马克威廉德波诺在知识论层面发展了可塑性的新概念。他在1994年成立了造形艺术家群组,2000年成立可塑性科学艺术协会以关注科学、艺术与人文之间的关系。自2005年起,马克威廉德波诺经营人类可塑性跨学科期刊《PLASTIR》。

PDF版本