社科网首页|客户端|官方微博|报刊投稿|邮箱 中国社会科学网
新兴领域

【张成岗】新兴技术发展与风险伦理规约

如何驾驭快速发展的新兴技术, 迎接新兴技术带给人类的新变化和新愿景, 应对扰动性较大的生命技术、人工智能等带给人类社会的新挑战, 是当前亟待回应的重大课题。201811月世界首例基因编辑婴儿的出生导致各界“恐慌性热议”, 遭到全球学术界的普遍谴责。各界的关注既有对技术发展伦理规约体系滞后的反思, 更有对新技术应用后果不确定性风险的深层担忧:“技术是不是在更深层次上与风险形成共谋”“人类是不是在玩正确的游戏”“人类是不是沿着正确的方向在走”毫无疑问, 没有人愿意接受一个人类自身不能认识、不能预测、不能控制的未来, 没有人愿意承担在貌似的进步中丧失人类自身的风险。笔者认为, 对于生命伦理的“恐慌性热议”可以成为理性之起点, 而不能成为非理性因噎废食之终点;推动社会发展既需客观的科学研究之努力, 又需冷静的伦理规范之反思。

1 技术发展中的“不均衡悖论”对现代性伦理的挑战

技术发展具有技术、社会、文化、生态、伦理等多重维度, 对技术的全面整体性认知要避免“就技术论技术”的线性逻辑, 社会愿望与需求一直是影响技术发展速度与方向的重要力量, 对技术的深入理解离不开技术发展的社会语境。现代技术发展呈现指数增长, 现代技术应用产生的影响与规模已经导致了新的历史情景, 表现在:“从自然在危害人类”转化到“人类在危害自然”;从“技术是工具”转换到“技术是目的”;从“技术活动指向外部”转为“指向人自身”;技术活动从“个人行善”转为“集体冒险”。

技术社会的出现及其演化为人类提出了两个共时性问题:在工具世界中如何保证人的主人地位?人类文明与新技术是否和如何兼容?实际上, 工业社会以来的历史发展表明, 所有技术社会形态都在面对三重逻辑悖逆: (1) “主奴悖论”:制造者与制造物关系悖逆, 如何防止技术失控? (2) “不均衡悖论”:技术与社会制衡力量的不均衡发展悖论; (3) “工具和目的悖论”:技术作为工具角色与技术成为整体性生活方式统摄的悖逆。20世纪以来, 技术的快速发展与相应社会规范体系缓慢演化之间的“不均衡悖论”日益凸显, 技术的指数增长对社会伦理规约体系带来巨大挑战。正如鲍曼在《后现代伦理学》中指出, 现代技术表明人类行为可能对事物产生巨大影响, 而人类的道德能力却不能做出相匹配的拓展。在阿伦特所形容的“无人控制的”结构平台上, 在面对指定任务和程序性规则双重力量时, 作为道德主体的行为者, 变得哑口无言、不知所措。在现代性伦理学中, 现代技术行为的目标是人的具体特性而非整体的人, 技术行为的道德评价被相对忽略了。毫无疑问, 新兴技术的发展为人类社会生活提供了多种可能性, 如何从伦理学上加以规范, 提出“应该如何做”的问题, 是摆在伦理学面前的一个重要挑战。现代性伦理学是理解技术的重要背景, 在新的历史情境下, 应当对道德规范的“应该”、技术行为的“能”与现实条件下的“是”之间的交互作用进行新的反思。

现代技术发展带来了新的历史情境及人类行为模式的变革, 人类行为已经从近距离行为转变为远距离行为。由于现代技术已经在新的时空结构、新的规模上进行, 传统伦理学框架已经不能对技术行为目标和结果进行有效调控。传统伦理学局限性表现在:很少或者几乎没有涉及自然本身的价值、权力与意义;未顾及遥远的人类与世界未来, 对人类作为一个种类的整体性存在缺乏关注;着眼于某个具体行为的本身的道德性, 而不注重对行为后果评价。随着技术结构和社会结构、伦理体系的不匹配问题激增, 技术的增长速度过快, 社会结构、伦理还不能及时做好应对技术增长的准备, 就会导致社会恐慌性认知和不稳定因素的产生。

2 风险、不确定性与技术伦理规约

社会生活的稳定在很大程度上依赖于社会成员对共同约定的道德规范、伦理规则之遵守, 通过对规范、规则遵守, 社会共同体的存在能获得一种安全感。当下, 融合了技术力量的“远距离行为”越来越多地成为在“公共领域”引起争论的行为, 转基因食品、克隆生命、基因编辑婴儿等无疑都在对一般的社会价值和道德规范形成挑战, 或者表明了特定的价值体系的冲突。技术进步观念的另一极端立场是对技术进步毫无批判的接受, 尽管从“科学无禁区”的角度, 科学家有进行基因编辑技术研究的权利, 但是如果研究结果及其应用构成对社会秩序的威胁, 涉及对人的尊严的侵犯, 那么该研究行为就应当得到法律、社会规范及伦理价值的规约。尽管带来人类福祉, 当代科学技术同时也是巨大甚至可怕的力量, 伦理学与法律是解决技术社会控制的重要手段。按照贝克的理解, 在风险社会中不明确的和无法预料的后果将成为历史和社会发展的主要力量, 尽管风险只是一种发生的可能性, 但是危险一次证实有可能意味着无可挽回的后果。新技术发展的未知性、新技术社会后果的不确定性, 以及与新技术产物互动的无法预见的结果, 导致新技术的风险问题。技术风险必然带来相应的伦理问题, 这些问题既包括我们应对可能风险所采取的措施本身的伦理问题, 也包括在风险应对过程中, 社会共同体内部互动中产生的伦理问题。

科技成果之应用是如何被认定为对人们健康、福利甚至人类自身构成风险的?风险社会学的研究表明:一般而言, 人们依赖媒体来了解技术应用的健康风险、生命安全威胁等;医疗机构有定义风险的权力, 但人们越来越对医疗机构和政策制定者提供可信赖风险解释能力表示怀疑;在媒体信息渠道多元的情况下, 最有可能消除公众恐慌的专家意见会被采纳。在此情形下, 伦理学研究中的预防原则值得提倡:在即便没有获取确切证据的情形下, 以所能设想的最糟糕情形作为预防性行动之基础。

如果我们能找出风险问题中的确定性行为的基础, 就可以发现决定论式的决策和行为规范的问题所在。技术发展后果往往具有不可预料性, 技术后果在总体上可以分为“不可预测但在意料之中”和“不可预测且在意料之外”, 不可预测性是技术过程的显着标志和内在特征。风险伦理的一个基本假定就是认为人类需要应对风险和不确定性, 但并不是把不确定性变为确定性, 而是要与不确定性共存。风险伦理规约的核心就是在保持相关主体的不确定性, 并重新在不确定性情景中进行风险决策。

历史地看, 20世纪的生物技术发展包括DNA双螺旋结构的发现、生命遗传密码的破译等, 翻开了从分子水平探测人类奥秘的新篇章;21世纪被称为“生物技术世纪”。近年来, 生物技术、人工智能技术等新兴技术的发展一直在动摇、冲击着现代性伦理学的理性根基, 带给我们诸多不得不思考的问题。目前基因编辑技术在人类胚胎上的应用仍然面临新技术发展中的不确定性难题以及伦理规约问题, 除了造成不必要的个体健康风险外, 基因编辑婴儿还可能引发商业不端行为并导致人类基因池的污染, 对人类社会造成尚难预测的重要影响。笔者认为, 要走出技术发展中的“工具—目的悖论”, 破解技术发展的“不均衡性难题”, 倡导负责任的研究、进行有效的技术规制、发展“为了人的技术”, 应当成为科技发展的终极目标。

3 负责任的研究与科技治理能力现代化

现代性下的远距离行为可能对遥远地域和子孙后代产生影响, 这种影响比我们能够预想的远为深刻和激进, 甚至超越了受到时空限制的人类的伦理想象力。古典现代性的伦理学框架并没有包括远距离行为目标和结果, 亟待重构。在重构过程中, “责任”成为新兴技术伦理中的核心概念。责任并非来自他者需要, 而是来自内在道德推动力对道德本身的关注, 责任具有非互惠性。在宏观上实现作为伦理学崇高目标的正义, 需要在微观上承担起对他者的责任。伦理学需要回应风险及不确定性挑战, “责任”作为核心原则要求我们从“与他者共在”转向“为他者而在”, 要求我们回到道德原初场景去构建道德空间。

在传统社会中, 对公民的要求是“做一个好公民”, 尽自己的本分, 遵守与其在社会中的位置相应的约定俗成的规则。在技术社会中, 对公民的要求是“做一个负责任的公民”, 个人不仅要追求自己的利益, 也要承认和考虑他人的利益, 技术伦理首先是一个责任伦理, 伦理学正在发生转向, 即从“角色伦理学”到“力量伦理学”、从“当代伦理学”到“未来伦理学”、从“地域伦理”到“全球伦理”、从“近距离伦理学”到“远距离伦理学”。我们需要把“用来考虑的时间”从“用来生产的时间”中分离出来, 从“创造财富”转向“不去毁灭”, 负责任的研究与设计应当成为新兴技术发展的核心准则。

目前新兴技术发展的社会环境存在不确定性和复杂性, 而不确定性语境导致未来社会构想的复杂性和不确定性。应当充分认识技术生产、扩散和使用的社会环境的复杂性和多元性, 认真对待不同国家和地区社会发展阶段的差异性, 对各国国情给以充分考虑和尊重;同时应当加强新兴技术的全球治理, 促进多元主体之间的对话与协商。新技术革命浪潮正在重构人类生活, 人类对于新技术革命的到来应当欢迎而非拒斥, 人类对自动化技术、基因编辑技术、人工智能技术的生产、扩散和采用的可能带来的新的社会变化和挑战要有充分准备。在新兴科技不断引发各种社会危机的当代语境下, 认识新兴科技风险的特征, 反思当前新兴科技风险治理模式所面临的问题, 以及研究更为合理的新兴科技风险治理模式, 这对于引导新兴科技走向“与人善”的发展之路具有非常重要的意义。

(原载《中国科技论坛》201901)