j9九游会官方漂浮成东谈主类不错仔细辩论和领略的气象-九游娱乐(中国)网址在线

发布日期：2025-04-10 03:35 点击次数：199

《我看见的宇宙》既是李飞飞的个东谈主史，亦然一部波涛壮阔、放诞升沉的东谈主工智能发展史。在这本书里，李飞飞回忆了我方从底层侨民成长到顶尖科学家的经历。她渡过了莫名笨重的青少年时间，但对科学的爱好握住激励着她持续追寻东谈主生的“北极星”，并最终走进科学的殿堂。

李飞飞曾经创建当代东谈主工智能的重要催化剂ImageNet，曾经担任谷歌云东谈主工智能及机器学习首席科学家，但她历久秉持着身为学者的审慎态度，对于东谈主工智能的发展标的提议我方的判断和警悟。2015年，许多东谈主工智能的数据库穷乏各种性，导致了一系列猜想以外的箝制，例如，将黑东谈主青少年纰缪地标志为“大猩猩”。她意志到，这是因为科技行业的代表性不及，导致算法有时中带有偏见，在处理非白东谈主、非男性用户信息时进展欠安。她和同事沿途鼓吹了AI4ALL气象，致力于于赈济女性、有色东谈主种和经济宝贵的学生参与到东谈主工智能领域，以对抗偏见的产生。

李飞飞意志到，东谈主工智能不仅是一种科学，也不仅是“现象”“颠覆”“谜题”“特权”或“天然之力”，东谈主工智能更是一种使命，是咱们统共东谈主共同承担的使命。她提议，医疗等领域的步调、前例和伦理基础是进程几个世纪以致几千年的时辰成就起来的，比拟之下，东谈主工智能还处于发展的早期阶段，其本人险些莫得明确的伦理准则。这个领域的自我相识之路才刚刚起步。因此，穷乏伦理框架的不单是是谷歌，也不单是是年青工程师，而是咱们统共东谈主。

经出书社授权，第一财经节选了书中部分篇章，以飨读者。

无东谈主可控（No One's to Control）

从ImageNet时间启动，范畴的首要性就还是不问可知，但比年来，“越大越好”的不雅点险些被赋予了宗教般的真谛。媒体上充斥着城市街区大小的服务器能力的图片，对于“大数据”的商议永继续断，握住强化着这么的不雅点：范畴是神奇催化剂，是机器中的鬼魂，不错将东谈主工智能的旧时间与令东谈主窒息的黑甜乡将来离别开来。虽然关系分析可能会有些简化，但骨子上并莫得错。莫得东谈主能否定，神经集中照真实这个资源丰富的时间茂盛发展：惊东谈主的数据量、大范畴分层架构和大批互联的硅片照实带来了历史性变化。

这对科学意味着什么呢？要是咱们的职业诀要不错简化为赤裸裸的量化，简化为蛮力制胜，那么发愤想考和转变又有什么真谛呢？要是一些想法在层数太少、试验样本太少或GPU太少的情况下似乎会失败，而在数目加多到鼓胀多的时候一刹又不错高效运转，那么对于算法的里面运作机制，咱们又能得到什么警告呢？咱们发现我方越来越多地从经历角度不雅察东谈主工智能，就好像它是我方出现的一样，仿佛东谈主工智能是需要先识别、后领略的东西，而不是把柄第一旨趣假想产生的时刻。咱们与东谈主工智能之间的关系正在发生漂浮，对我这么的科学家而言，这么的前程令东谈主深想。在谷歌云的新职位上，我不错俯瞰越来越依赖于各个层面时刻的宇宙，但咱们不可坐而论谈、艳羡于一切的神奇。这种奢侈咱们使命不起。新一代东谈主工智能所能作念的一切，不管是好是坏，不管是在预期之内，照旧在猜想以外，王人因其假想本人穷乏透明度而变得复杂。神经集中的结构本人充满了深沉颜色，它是由轻微的、权重玄机的决议单位构成的强劲靠近体。这些决议单位孑然时看毫无真谛，但以最大的范畴组织起来时，却强劲得令东谈主齰舌，险些无法为东谈主类所领略。咱们不错从表面的、概述的真谛上驳倒神经集中：它们能作念什么，它们达到筹商需要什么样的数据，它们试验后的性能特征大约在哪个范围；但从一次调用到下一次调用，它们在里面到底作念了什么，却是完全不透明的。

由此带来的后果十分令东谈主担忧，这即是一种被称为“对抗袭击”的新式阻拦。在对抗袭击中，输入内容的惟一想法是劝诱机器学习算法，以达到反直观以致粉碎性的想法。例如来说，一张像片看上去是形容了某种明确的事物（比如蓝天地的长颈鹿），但不错通过单个像素花样的微弱变动进行修改。尽管这种像素花样的变化是东谈主类肉眼无法察觉的，却会在神经蕴蓄集引发一连串的故障。要是对抗袭击假想顺应，虽然原始图像看起来莫得任何变化，但算法会把“长颈鹿”这么的正确分类变成“书架”或“怀表”等纰缪分类。先进时刻无法鉴识野机动物像片的场景可能会让东谈主以为可笑，但要是对抗袭击的想法是愚弄自动驾驶汽车，导致汽车对泊车标志，以致东谈主行横谈上的儿童进行纰缪分类，就实足不可用可笑来形容了。

天然，提升工程时刻水平可能会有所匡助。“可解释的东谈主工智能”，或简称为“可解释性”，正在成为新的辩论标的，令东谈主备受荧惑。可解释的东谈主工智能试图将神经集中近乎神奇的计算进行简化，漂浮成东谈主类不错仔细辩论和领略的气象。但关系辩论尚处于起步阶段，无法保证大略达到其赈济者所盼愿的高度。与此同期，这项时刻所要阐明的模子却还是启动辞宇宙各地大批出现。

即使是完全可解释的东谈主工智能也只是是第一步。要是在算法假想完成后，再加入安全性和透明度等酌量要素，不管假想得何等精妙，王人不及以茂盛条目。下一代东谈主工智能必须从开发之初就遴荐与咫尺完全不同的理念。以情愫为起初天然很好，但咱们要濒临的是纷纷复杂而又不起眼的挑战，要获得真实的进展，就必须有敬畏之心。而硅谷似乎穷乏这种心态。

学术界早就意志到东谈主工智能可能会带来负面冲击，比如穷乏透明度、容易受到偏见和对抗性影响等等。但是，由于辩论范畴有限，风险一直只存在于表面层面。我的实验室最有推行影响力的职业是环境智能辩论。由于临床依次的制约，咱们对职业表情保持严慎和克制，因此有鼓胀的契机来支吾关系隐患。但咫尺，市值接近万亿好意思元的公司还是掌持了主导权，潜在风险的发展门径也急剧加速。不管是否准备就绪，这些问题王人需要以生意速率加以处分。

每个问题单独来看王人令东谈主担忧，但它们共同指向了一个将来，其脾气是监督减少、不对等加重，要是处理不当，以致可能导致近在眉睫的数字独裁主义问题。走在全球最大公司之一的走廊里，我不禁堕入千里想，问题真实很尴尬，尤其是酌量到同事们的诚意和良苦精心。这些王人是轨制性问题，而不是个东谈主问题。咫尺还莫得出现胡子拉碴的典型无赖，咱们还莫得遇到真实的推行问题，此时提议这些挑战，只会让东谈主愈加困惑。我记忆起与阿尼同事的气象，想起其时要在几家病院部署手工制作的袖珍原型征战是何等宝贵。在高度严慎的医疗领域，转变是冉冉伸开的，虽然有时令东谈主消沉，但总体上也让东谈主感到快慰。我想知谈医疗领域的作念法是否值得平凡效仿。

硅谷的自高作风向来为外界所诟病。在东谈主工智能时间，尽管咱们对潜在风险的瓦解握住加深，企业的才疏志大也飞腾到了新的高度。首席推行官们辞宇宙各地的舞台上发表主题演讲，有些内容洞烛其奸，有些则幼稚不胜，还有一些是彻里彻外的侮辱。企业高管们应承将在不久后推出自动驾驶汽车，假想出高尚深湛的肿瘤检测算法，结果工场的端到端自动化。至于被先进时刻取代了职业的东谈主（出租车司机、远程卡车司机、安装线工东谈主以致发射科医师）的庆幸，生意领域的作风似乎介于半心半意的“再培训”和险些不加逃匿的漠不关爱之间。

不管首席推行官和自夸为将来学家的东谈主的言论若何透顶脱离公众，时刻的日益普及王人会进一步加重东谈主们对东谈主工智能的懦弱。在这个时间，里程碑接二连三地出现，最可怕的气象正在靠近。在东谈主工智能领域的历史上，第一次出现了流血事件。

在亚利桑那州坦佩市，优步先进时刻集团正在测试一辆自动驾驶原型汽车。伊莱恩·赫茨伯格（Elaine Herzberg）推着自行车过马路时，被这辆车撞倒身一火。两年多前，优步计议了卡内基梅隆大学机器东谈主系团队辞职记，而咫尺，优步的自动驾驶气象成了公众嘲讽的对象。要是说东谈主工智能如今频频碰到偏见让我和同事们感到痛心，那么咱们咫尺的感受则无法用言语来形容。优步的品牌还是威信扫地，其原因与时刻本人关系不大。尽管咱们很容易将事故怨尤于优步，但很显明，这实足不会是临了一个雷同的事故。

真实，更多警告很快就出现了。2016年，ProPublica1的一系列造访通晓，有偏见的东谈主工智能被平凡应用于处理贷款苦求，以致协助法官作念出假释决定等方面。雷同的报谈还通晓，在某些招聘中，求职者会先进程东谈主工智能时刻的筛选，然后才有真东谈主口试官进行口试。此类作念法时常会在有时中形成敌视性影响，这小数并不令东谈主不测。伊莱恩·赫茨伯格的死亡理所天然地导致优步自动驾驶团队终结，并对通盘领域形成了负面影响，但上述更玄机、更机构化的伤害却不可能赶紧得到改造。关系问题险些是雅雀无声的，影响范围更广，而监管则少之又少。期待出现雷同进度的民愤是不推行的。但好在公众意志在握住提升，媒体也相识到，当触及东谈主工智能的报谈时，不应疏远偏见、公温煦狡饰等问题。

无法问责算法、特定东谈主群受到扞拒正待遇、一个东谈主不测死亡，这些王人是东谈主工智能领域出现的新气象。扫视气象，我得出论断：通俗的标签还是不再适用。以致连“失控”等措辞王人显得委婉。东谈主工智能不是现象，不是颠覆，不是难题，也不是特权。咱们濒临的是一种天然力量。它是如斯宏伟，如斯强劲，如斯喜新厌旧，既能简单引发灵感，也很容易粉碎一切。要让东谈主工智能值得信任，需要的远不啻生意公司浮泛的夏炉冬扇。

东谈主工智能以致不是科技界对寰球利益的惟一阻拦，这使得情况变得愈加复杂。在东谈主工智能领域出现问题的时候，剑桥分析公司也爆难看闻。在2016年好意思国总统大选期间，公众浩繁对虚伪信息暗示担忧。对于社交媒体和新闻源过滤气泡的不良影响的报谈也在握住加多。种种事件王人有一个共同之处：宇宙正在逐步意志到，数据不仅有价值，并且具有影响力，以致不错产生前所未有的决定性影响。

到2018年，还是莫得东谈主再质疑其中的猛烈关系了。对脸书和Instagram等社交媒体应用的审查握住加强，因为它们提供的超个性化内容可能会导致青少年出现抑郁和慌乱。社交媒体期骗东谈主工智能打磨定制化内容，以结果最猛进度的“用户参与”，这种趋势令东谈主不安。亚马逊使用一系列监控器用（包括监控腕带）及时跟踪工东谈主的职业后果，这种仓库经管方式受到媒体抨击。微软在试图推行其东谈主工智能面部识别时刻时，遭到了狡饰权倡导者和公民解放组织的月旦。我我方也被卷入争议的中心。其时谷歌云与好意思国国防部订立的一份协议（里面称Maven气象）引发了平凡的争论。几个月后，垂死时事从公司里面膨胀到媒体，重新点火了专家对于时刻在军事事务中所上演变装的历久争议。科技抵制波涛还是莅临，东谈主工智能难以独善其身。

（本文节选自《我看见的宇宙：李飞飞自传》第十一章《无东谈主可控》。）