彩神|彩神

360联合天津智慧城市数字安全研究院发布《全球人工智能安全治理》报告******

　　2023年1月10日，360天枢智库、天津智慧城市数字安全研究院、网络空间国际治理研究中心三方联合发布《全球人工智能安全治理》报告，报告站在全球视角的宏观高度纵览、分析和解读人工智能安全治理问题，提出人工智能发展面临十大安全挑战，旨在探索既能发挥人工智能技术效益又能控制其安全风险和负面影响的治理之道，是中国学术界和产业界对人工智能发展与安全的一次思想碰撞与深度探索，对人工智能安全治理具有积极指导意义。

　　在人工智能加速智能化变革的同时，针对人工智能的伦理规范、风险框架、以及治理理念和模式的探索成为各国学术界和政策界的重点工作。360首席安全官、天津智慧城市数字安全研究院院长杜跃进称，人工智能作为中、美、欧等国家或地区都在积极发展的关键新兴技术，其在发展过程中所产生的安全挑战也更为复杂多元，世界主要国家和地区已经将安全治理列为各自人工智能战略的优先事项。

　　目前，各国普遍关注的人工智能安全问题共十类，包括网络安全问题、企业合规问题、可解释性问题、隐私安全问题、声誉和伦理问题、未来劳动力问题、公平性问题、人身安全问题、社会稳定问题、以及国家安全问题。而以上挑战映射到人工智能的研发和应用过程，又可以划分为人工智能自身安全、衍生安全、以及人工智能赋能安全等核心安全挑战。

　　报告显示，作为一种数字技术，人工智能“双刃剑”特征明显，不仅自身存在数字安全威胁和隐患，随着人工智能工程化、场景化、平台化落地不断加快，人工智能安全需求已经超越单纯技术范畴。面对日趋复杂的安全挑战，人工智能安全治理难以一蹴而就，只有在实践中不断摸索，才能将人工智能安全风险遏制在可控范围。

　　报告对各国人工智能安全治理模式进行了深入剖析，针对上述问题，报告主要发现：美国流派在人工智能安全治理上采取的手段是在人工智能技术部署、使用与监测的全过程中都进行验证与监管，建立与之配套的规范体系；欧盟流派则更寄希望于运用监管框架与信任体系来对人工智能的安全进行规制，其规制更倾向于人权方向；相较美国与欧盟，中国流派的人工智能安全治理致力于形成内含研发、管理和应用的全流程安全保障体系，涵盖基础框架研制、基本安全原则、供应链管理实践指南、安全服务能力、应用领域的标准研制等各个方面。

　　为了避免人类社会发展被技术创新所“反噬”，也就是落入所谓的“科林格里奇困境”，产学研各界以监管和设置可操作性原则为主导，通过治理实践凝聚共识，探索人工智能安全治理的思路与模式。报告详细介绍了业界通用的各类风险治理思路，首先是基于未来风险预防的影响评估模式，其次是基于自主性原则的元监管模式，然后是基于透明追踪的AI系统预警模式。并由此细分出以用户为考虑重点的参与性设计和以政府为主导力量的敏捷治理两条路径。

　　在中国，360等多家人工智能龙头企业以自身实践构建行业安全案例，走出了技术赋能、行业规制、平台监测的多种道路。其中，360承建了科技部牵头成立的“安全大脑国家新一代人工智能开放创新平台”建设，集中解决各类人工智能发展问题，引领人工智能安全生态建设。

　　作为报告联合发起方，天津智慧城市数字安全研究院依托于新一代人工智能创新发展试验区核心区——中新天津生态城提供的丰富应用场景，紧紧把握新型城市发展规律和机遇，致力于促进人工智能与经济社会发展深度融合，助力打造“智慧城市国家级标杆区”。

　　随着数字经济成为改变全球竞争格局的关键力量，人工智能产业将得到更大发展。同时，人工智能安全治理也将得到全世界的关注和推动，《全球人工智能安全治理》报告作为相关领域的权威论著，也将为人工智能产业的健康发展贡献一份重要的力量。

我们距离“三体世界”还有多远？这些“黑科技”正在走向现实…...******

　　最近，《三体》动画开播。被翻译成不同语言、畅销世界多地的小说《三体》，除了其庞大的设定、对宇宙的恢宏描写以及跌宕起伏的剧情外，最令人着迷的就是作者刘慈欣对未来航天科技的设想。

　　这些天马行空的“黑科技”，有哪些是正在实现或部分实现的呢？我们一起去看看：

    图源：《三体》微博

　　从“飞刃”到碳纳米技术

　　在《三体》中，“飞刃”被用来执行代号“古筝行动”的秘密军事行动，这种极细的丝状纳米材料，将叛军船只“审判日”号切割成了条状。

    图源：《三体》动画

　　按原著设定来看，“飞刃”是一种超高强度的纳米材料。

　　在现实中，最接近其特征的就是具有超高机械强度和低密度的碳纳米管，但它目前还无法做到像三体中“飞刃”一样，横跨运河两端几十个来回那么长。

　　 2022年4月，美国《国家科学院院刊》（PNAS）刊载，中国科学家首次在高压下合成高度有序晶态金刚石结构纳米线。这种金刚石纳米线在长度方向可以无限生长，粗细仅相当于一根头发丝的十万分之一，具有与碳纳米管相当或更高的拉伸强度和极强的柔韧性，想来在实践中运用指日可待。

    金刚石纳米线

    图源：科普中国

　　从头盔感应技术到虚拟现实设备

　　《三体》中不止一次提到了头盔感应技术。

　　每次进入三体游戏世界，科学家汪淼都需要穿上虚拟现实装备，装备包括一个全视角显示头盔和一套感应服构成的“V装具”。通过记录视网膜特征，感应服可以使玩家从肉体上感觉到游戏中的击打、刀刺和火烧。

    图源：《三体艺术插画集》by 山野

　　按照原著设定，“V装具”就是虚拟现实设备（Virtual Reality，VR）。它和增强现实技术（Augmented Reality，AR）不同，虚拟现实可在虚拟信息里模拟出现实世界。

　　现今，大部分虚拟现实技术更强调视觉体验，一般是通过电脑屏幕、特殊显示设备或立体显示设备获得的。

　　与V装具头盔接近的设备便是VR头显。

    VR头显

    图源：凤凰网

　　 VR头显可将人的对外界的视觉、听觉封闭，引导用户产生一种身在虚拟环境中的感觉。如果要使用VR头显进行游戏，往往还需要配套的手柄或手套用以操控。就目前的实际情况来说，还很难形成一个高逼真的虚拟现实环境，无法拥有三体游戏里那种身临其境的丝滑体验。

　　从“思维透明”“思想钢印”到脑机接口

　　《三体》刻画了两种信息感知机制。

　　其一是思维透明。三体人的信息感知方式是直接发射自己的思维，三体人一开始思考，他的想法别人就能够知道，无法隐藏；

　　其二是思想钢印。第三位面壁者比尔·希恩斯发现了人类思维做出判断的机制，成功研制出一种设备，通过对神经元网络施加影响，使大脑不经思维就作出判断，相信某个信息为真。

　　按照原著设定，思维透明和思想钢印，都是对心智这一神秘领域的重新认识。

    图源：《三体》动画

　　而现实中，让机器直接解码神经活动的技术被称为“脑机接口”。

　　单向脑机接口的情况下，计算机接受大脑传来的命令，或者发送信号到脑，但不能同时发送和接收信号，类似于三体中的思想钢印。

　　双向脑机接口允许脑和外部设备间的双向信息交换，就像三体人的透明思维，可以感知别人，也无法隐藏自己。

　　脑机接口已经在医疗领域有了很多应用，脑控智能轮椅、脑控打字机、脑控机械外骨骼、脑控智能假肢等等都是试图绕开已经坏损的神经或者部位，让机器直接解码神经活动。

　　如何准确地对思维进行解码和编码，是现在脑机接口面临的最大挑战，也是目前无法实现思维钢印，思维透明的根本原因。

    脑机接口

    图源：网易号“蓝海长青智库 ”

　　从无穷能源到可控核聚变试验

　　《三体》世界中的人类社会虽然没有实现罗辑口中的“无穷的能源”，却也是有极度充盈的能源供给支撑起整个地球的无线供电，而这个能源就来自可控核聚变。

    图源：《三体设定集》

　　现实世界中，早在上世纪 50 年代，人类便开始研究用于民用目的的可控核聚变。近几年，“核能新浪潮”抬头，这一“终极能源”的研究更是得到了世界各国的大力推崇。

　　2022年12月5日，美国科研人员在劳伦斯 · 利弗莫尔国家实验室（LLNL）进行了历史上首次可控核聚变实验。

　　核聚变是太阳和恒星的能量来源。在这些星体核心的巨大热量和重力下，氢原子核相互碰撞，聚合成更重的氦原子，并在此过程中释放出大量能量。与其他核反应不同，核聚变不会产生放射性废物。核聚变技术有望为人类提供近乎无限的清洁能源，帮助人类摆脱对化石燃料的依赖。

　　2021年，中国的“人造太阳”全超导托卡马克核聚变实验装置（EAST）便实现了1056秒的长脉冲高参数等离子体运行。依靠该技术，最终建成可控核聚变发电站。

    全超导托卡马克核聚变实验装置（EAST）

    图源：新华社

　　把时间拉长，科技和科幻没有分界线。

　　科技与未来接轨的脚步在不断加速，科幻的无限想象为“黑科技”画出蓝图。期待在未来科学家们通过试验，将《三体》中“飞刃”“思想钢印”“水滴”等表述具象化，展现科技力量！

　　(审核：张宁 策划：李政葳 统筹：穆子叶 撰文：雷渺鑫)

　　参考 | 北京科技报、知乎、科普中国、三体社区、海峡卫视、凤凰网

　　（文图：赵筱尘 巫邓炎）