人工智能正变得越来越聪明，越来越有用，却依然是个黑匣子，而且越来越黑。利益动机让人不愿意对探究这个黑匣子投入资源。我们正在欠下巨额的知识债，而且今后能还清这笔债务的可能性只会越来越低。
文章来自编译。一、一个我们似乎打不开的黑匣子人工智能有个很有趣的研究领域媒体还没有提及：机械可解释性。一个更具市场价值的名称应该是：人工智能是怎么工作的。或者更严谨一点，神经网络是怎么工作的。领先实验室（Anthropic与OpenAI）的最新发现我看了一眼。我的发现让我既好奇又不安。要想回答神经网络是怎么工作的，我们需要知道什么是神经网络。我给出了一个比较无聊的定义：一种受大脑启发的算法，可以通过数据自我学习。它的突触（参数）在训练过程中会改变自己的值，从而对数据进行建模并对网络进行调整，以完成目标任务。一个典型的目标任务是预测下一个单词（类似GPT-4这样的语言模型）。你还可以识别猫的品种。神经网络并不神奇，那就是个以文件形式存储到你电脑（或云端，这一点有点神奇）里面的程序。看看文件内部，你会发现十进制数（参数）。数百万个十进制数。但是，它们是怎么识别出猫的？答案就藏在显而易见的地方，藏在你无法理解的数字模式之中。人类没法对它们如何引起行为进行解码。就算是我们最好的工具也做不到。所以神经网络才会被叫做黑匣子。你会因为这个小程序光看图片就能说出一百种猫的品种而心生敬畏，但是当你进入文件想一看究竟时——猫在哪里？显然，它在黑盒子里。但那又怎样？你是爱狗人士，所以你会想：有用的神经网络在哪儿呢？嗯，无处不在。ChatGPT算一个。GoogleTranslate、DeepMind的国际象棋选手AlphaZero以及TikTok的ForYou算法也算是。特斯拉、Waymo以及Cruise在自动驾驶汽车方面的尝试也是如此。顶级媒体应用——Spotify、Netflix以及YouTube—会用它们向你展示你可能喜欢的内容。它们还应用在医学诊断（现在及几年前就用住了，比你想象的要早得多）、生物研究、天气预报（已经有一段时间了）、太空探索（时不时地）以及军事用途上。它们既不是新产品，也不是小众产品。尽管大家一直在不断努力，尽管神经网络已经出现在数百个科学领域与手机应用上，但它仍然是黑匣子。你每天都在用神经网络，神经网络每天都被用在你身上。我到处都能看到古老的黑匣子，这句话听起来像是恐怖与科幻的完美结合。但我们不适合这种混搭风格。
二、数百万人快速行动，数十亿人打破常规值得庆幸的是，可解释性研究人员正在解决这个问题，对吧？他们从OpenPhilanthropy等资助者那里拿到了数百万美元。再加上Anthropic的预算（OpenAI的不算，他们对这个问题的态度不是认真的）。与几乎一切相比，这已经算是一笔巨款，但具有讽刺意味的是，企业与投资者砸了数十亿美元来让他们的工作变得更加困难。想了解这些黑匣子吗？哈！我会让它们变得更大、更复杂、更不透明——并且还会自我改进！想研究它们的缺陷？可以，等我把它们产品化并集成到每项服务之后吧。为什么征服人类对人工智能最后一个无知领域的资金如此不足，而推动它变得晦涩不解的却能拿到如此巨额的资金？人们不禁要问，这种知识鸿沟背后隐藏着什么利益。在解答关于我们这个时代最重要发明的最重要问题的路上，我们被利润的金链束缚着。在这种扭曲的条件下，我们取得的唯一进步就是我们现在知道我们一无所知。如果你去问可解释性研究领域的前沿专家，他们会毫不犹豫地承认这一点。Anthropic首席执行官DarioAmodei表示：也许我们……对神经网络工作原理的了解只有3%。OpenAI研究员LeoGao更是直言不讳：我们不明白神经网络是怎么工作的，这个说法得到了谷歌DeepMind可解释性负责人NeelNanda的强烈支持。他们都
Wired昨天对神秘的AR初创公司Magic Leap进行了详细的报道，由著名科技记者凯文·凯利撰写。 该文引发了人们对Magic Leap的很多问题，话说报道不是应该让人们深入了解该公司才对吗？简单介绍一下，Magic Leap是从硅谷巨头，如谷歌和Andreesen Horowitz募集超过十亿美元的诡秘公司，但它从来没有公开展示，怪不得人们看了报道还是有那么多问题啦。 因此，小编在这里也要问5个关于Magic Leap的问题。 1.什么是Magic Leap？以下是Wired的报道里，对Magic Leap的唯一描述。 Magic Leap的解决方案是创建人们对深度的错觉，这样你的眼睛为了聚集，看远的和近的东西焦点都不同，目光在正确的距离相聚或分散。 [...][微软的HoloLens、Meta和Magic Leap都]依赖于侧面投影到半透明材料的图像，通常是玻璃纳米涂层材料。 用户通过玻璃看到外界，而虚拟元件光源从玻璃边缘上投射，然后由光束分离纳米表面反射到用户的眼睛。 Magic Leap宣称其装置将光束投入眼睛的方式独特，但该公司拒绝对此作进一步解释。 因此，它的工作原理是和HoloLens是一样的，但它更好。 当然，至少据我所知，HoloLens令人印象深刻，但在其目前的测试版仍然有点缺点，肯定有改善的空间。 但是，HoloLens有一个开发工具包、出货日期、它运行Windows 10，并且背后有微软的支持和市场营销能力。 Magic Leap虽然好，可是它迟迟不上市真的没问题吗？而且它到底好在哪里？ Leap是什么？我们能肯定的是，其中有一种新的显示技术，以下图片是Magic Leap工程师在“光子学实验室”工作，似乎是在做什么很酷的东西。 但是，其硬件组件到底是什么？在桌子底下是不是藏着一个巨大的超级计算机？是否有一个新的Magic Leap OS？此前被披露的“极端埃里克”和“创意卡拉”是基于什么打造的？是否有应用程序平台？是否有Netflix的应用程序？与Gmail整合是什么样的？ 关于VR / AR的实际硬件部分，现在是超级有趣，但最终都回归到平台的问题。 我们知道了手机平台，将再次确定赢家和输家。 Magic Leap对这些问题是否有答案？3. 说真的，Magic Leap究竟是什么？以下是Magic Leap的一个展示视频，“使用Magic Leap技术拍摄”：所以，这是如何做到的？相机设备看起来是什么样的？难道他们真的把眼镜放在了DLSR前面？为什么你看不到帧或任何的像素呢？相机怎么知道应该聚集什么？我们看到的是直播或是预渲染？那个是谷歌视频群聊的图标吗？是否有一个谷歌Hangouts应用程序或整合？请问Magic Leap知道如何解析该消息的内容，然后从几个不同来源获取相关的数据到一个连贯的有组织的新界面，和多媒体标注的爬上珠峰的地图？这将是令人难以置信！事实上，这将比现有的几乎任何数字助理更好。 天了噜！除了其令人难以置信的新显示技术？和Siri、柯塔娜、Alexa和Google Now相比，Magic Leap还有更好的人工智能助手吗？另外：是未来AR真的只是拽拽的寓教于乐的CD-ROM？ Leap意味着什么？“你的大脑就像是一个图形处理器，”首席执行官Rony Abovitz在Wired的视频里说， “我们基本上在试图克隆大脑的信号，然后推出了一个数字版本，而我们和大脑的GPU说话。 ”我想知道你们是怎么理解的。 Leap到底是什么鬼？下面是在Wired的视频报道中，Magic Leap单一的镜头。 我们被告知，这是一个“光子芯片”，然而没有人解释清楚这是什么意思。 “即使建立这种技术的工程师很难解释它是什么，”Wired的视频解说员说。 “这是具有非常小的结构的三维晶圆光成分，它们通过光子流最终建立一个数字光场信号。 ”Abovitz说。 别懵逼，这实际上是重要的信息！如果Magic Leap正在研究某种光场技术，也许意味着它和Lytro的发展方向一样，后者最近停止了其所有光场相机的生产，朝着VR的方向前进。 当然，Lytro已经发布了VR光场相机：Lytro Immerge。 当Magic Leap工程师们被问及如何形容视频中新的芯片时，他们是这样回答的。 “这就像睁开眼睛在做梦。 ”系统工程总监萨姆·米勒说。 “这感觉如此真实。 ”交互原型建立者萨凡纳奈尔斯补充道。
反省心理学在实践领域内，根据其复杂性和重要性，可以划分为四个层次：心理治疗、天才培养、人工智能以及心理黑箱的探索。
心理治疗作为入门级应用，其主要目标是帮助心理疾病患者解决智力障碍和精神、情绪困扰，尽管难度相对较小，但其作用不容忽视。
更进一步的是天才培养，这一层次主要关注于教育，旨在培养在各个知识领域中具有高度创新思维的天才。 培养周期通常需要5至7年，其重要性和难度都超越了心理治疗，为社会的进步注入了创新力量。
人工智能的应用层次更高，目标是研发出能够媲美甚至超越人脑的“超人类电脑”，它将支持知识生产向机器大工业的转变，这是对人类思维模式的重大突破。
然而，最高的挑战是“打开心理的黑箱”，这涉及到探索人脑意识、认知、情绪等深层次的心理奥秘。 通过揭示这些谜团，我们可以更好地理解心理活动的机制，为心理治疗、天才培养和人工智能等领域的进步提供基础和前提。 这一任务意义深远，但难度最大，是反省心理学领域最具挑战性的目标。
扩展资料反省心理学成立于2007年，2007年12月，《反省心理学原理及其心理治疗、天才培养、人工智能应用》一书的发表，标志着人类史上一个全新的心理学流派“反省心理学派”的诞生！
人工智能的未来：从神秘到透明
在我们日常生活的各个角落，人工智能(AI)正在悄然塑造决策过程，从筛选工作申请到解读X射线图像。 然而，算法决策的黑箱性质常常令人困惑，迫切需要找到让AI更具可解释性的解决方案。 两位德国大学的研究者，帕德博恩大学的Katharina Rohlfing教授和比勒费尔德大学的Philipp Cimiano教授，携手揭开这个谜团，他们的研究成果近日在《IEEE认知与发展系统交易杂志》上发布。
解释的挑战与突破
Cimiano教授指出，随着人工智能的复杂性增长，对可解释性的需求日益凸显，尤其是在医疗和法律等领域。 虽然现有方法有所进展，但远未满足公众对透明决策的需求。 Rohlfing教授强调，公民有权了解算法决策背后的逻辑，这在欧盟的《通用数据保护条例》中得到了法律保障。
从对话中寻找答案
研究团队创新性地将解释视为一种社会互动，他们研究用户如何参与制定解释，而非被动接受。 Rohlfing解释，人们更倾向于根据自己的经验和知识来处理数据，而不是深入理解复杂的机器学习技术。 通过模拟人与人之间的对话，他们构建了一个互动框架，让AI能以用户为中心提供定制的解释。
以社会实践为指引的解释设计
帕德博恩与比勒费尔德的研究人员提出了一种创新的框架，赋予AI以交互式的解释能力，以帮助对话伙伴理解并参与决策过程。 他们借鉴“脚手架”和“监控”概念，通过分解步骤和观察反馈，将社会因素纳入AI决策的考量，力求实现真正可理解和可操作的AI系统。
新的交流与援助形式
他们的目标不仅仅是提供解释，更是创造一种全新的交流形式，让人类能够有效参与社会技术系统。 Rohlfing教授总结说，他们的工作旨在推动AI朝着“可解释、可理解”的方向发展，从而孕育出适应人类需求的新援助模式，让技术真正服务于人类生活。
