un

guest
1 / ?
back to lessons

范式地形图

将一个科学领域模型化为损失地形图:一个函数 L(p) 在范式空间 P 上,其中 L(p) = 在范式 p 下未解释的证据。一个解释了所有事情的范式有 L = 0 (完美)。一个留下很多未解释的范式有高 L。

当前范式位于一个局部最小值上:它解释了大部分已知证据,所以对其的小幅偏差会增加 L。这就是为什么范式是稳定的 - 梯度下降始终会返回到它们。

专家知识使当前最小值周围的梯度更深:数十年的工作填充细节,扩展范式的覆盖范围并解释异常都使局部最小值的墙壁更陡。当前范式周围的梯度变得更陡。

这产生了专家悖论:专家知识越深,离当前最小值越难逃脱。使某人成为伟大专家的品质 - 对当前范式的深入了解 - 使他们更不可能达到一个可能更深的不同最小值。

范式转变 = 逃离局部最小值:新范式可能是一个更深的最小值(更好的解释)在空间的其他地方。但要达到它,你必须首先上坡 - 暂时增加未解释的证据 - 然后降临到新最小值。这是 Kuhn 的术语中的 '危机' 期间。

范式空间:局部最小值与知识拓扑

梯度下降与专家投资

考虑一个范式 p 位于 L(p) 的局部最小值上。一个新的异常观察产生了证据 E,该证据无法由当前范式解释,从而略微提高 L(p)。

解释为什么在范式 p* 上深入的专家在面对异常证据 E 时会选择寻找辅助解释(一个 '补丁')而不是放弃 p* 以换一个新的范式。使用损失地形图模型:补丁在几何上是什么样子的,为什么它是梯度追踪的合理响应?

吸引子盆地在范式空间

L(p)中的每个局部最小值都有一个 吸引子盆地:从该盆地内梯度下降将导致该最小值的区域。

在范式p内具有专长的人已经在p的盆地内度过了数年。他们对当地拓扑知识了如指掌。他们可以高效地导航盆地——这就是他们的专长。

外来者在范式空间中的一个不同的点上到达。他们可能从一个完全不在p盆地内的点开始——也许是在一个不同的范式的盆地内,或者在一个鞍点,或者在一个梯度很小的扁平区域。他们没有强烈的梯度将他们拉向p

这是外来者优势的几何解释:他们没有被梯度下降到当前最小值。他们在范式空间中的起始位置更不受限制。

在景观术语中,两个专家失败模式为:

- 误判负(抵制有效的新想法):新的想法对应于一个不同的局部最小值。专家深入他们的盆地,认为向新的最小值的方向是上坡(增加L)而拒绝它。

- 误判正(推广无效想法):新的想法修复了一个小异常,保持在当前盆地内下坡。专家梯度感知说‘是的,这减少了L’——但可能会将其移动到一个更淺的局部最小值,而不是更深的。

库恩周期作为梯度动力学

库恩描述了循环:正常科学(当前盆地的梯度下降)→积累异常(L在p*处上升)→危机→范式转移(跳到新盆地)→新正常科学。

在损失景观模型中,描述库恩的四个阶段的景观是什么样的。在每个阶段,说明:(a) 系统在景观中的位置,(b) 梯度下降正在做什么,(c) 异常积累的几何外观

不可能性作为可行区域的边界

在数学或工程中,一个不可能性的证明可以用几何方式模型化为一个可行区域在某些参数空间。

示例:33英尺水升力结果。参数是h = 提升高度。吸水泵机制定义了一个约束:h ≤ P_atm/ρg ≈ 10.3 m。这条约束定义了一个可行区域F = {h : h ≤ 10.3 m}。不可能性的证明说:对于通过这种机制运行的吸水泵,可行区域中不包括h > 10.3 m

站立波泵在不同的参数空间中工作。它不使用吸水;它使用动态压力。可行性约束不同;可行区域更大。

不可能性的证明隐藏的假设等价于假设问题生活在第一个参数空间(吸水机制)当中。当这个假设失败——当解决方案允许使用不同的机制时,您正在一个不同的参数空间中,具有不同的可行区域。

几何上:不可能性证明证明了h > 10.3 m超出了吸气泵的可行区域。它没有说任何关于h在站立波设备可行区域内的事物。

识别隐藏的约束

考虑这个主张:‘你无法以超过通道带宽的速率传输信息。’在Shannon工作之前,这个观点广为人知。

1948年,香农证明了通道容量C = B log₂(1 + S/N),其中B是带宽,S/N是信噪比。什annon在Shannon之前的不可能性主张中隐藏了哪个假设——定义了‘可行区域’专家们认为信息率受限于的约束?Shannon的证明对该约束几何上表明了什么?