作者： admin

大型语言模型真的像人脑一样思考吗？

近年来，大型语言模型（LLM）展现出惊人的能力，引发了人们对它们与人脑相似性的思考。一些研究人员试图通过测量模型预测神经信号的能力，即“脑评分”，来量化这种相似性。LLM 的内部表征在脑评分方面取得了最先进的成果，这让人们猜测它们可能与人类语言处理共享计算原理。然而，这种推断只有在 LLM 预测的神经活动子集反映了语言处理的核心要素时才有效。

本文将对一项关于 LLM 与人脑映射的具有影响力的研究中使用的三个神经数据集进行分析，重点关注参与者阅读短篇文本的 fMRI 数据集。研究发现，当使用与先前研究中相同的数据集进行随机训练-测试分割时，一个编码时间自相关的简单特征不仅优于 LLM，而且解释了 LLM 解释的大部分神经方差。因此，研究人员建议谨慎使用随机训练-测试分割，并使用连续测试分割进行后续分析。

LLM 的“脑评分”：真相还是幻觉？

研究人员发现，未经训练的 LLM 在脑评分方面表现出高于预期的水平，这引发了人们对 Transformer 架构是否将计算偏向更像人脑的猜测。然而，研究表明，未经训练的 LLM 预测的神经方差，实际上主要由两个简单的特征解释：句子长度和句子位置。这削弱了 Transformer 架构更像人脑的证据。

进一步研究发现，经训练的 LLM 在该数据集上的脑评分主要由句子长度、句子位置和代词消解后的静态词嵌入解释；一小部分额外的方差由词义嵌入和句子结构的上下文表征解释。

揭秘 LLM 的“脑评分”：简单特征的强大力量

为了深入了解 LLM 与人脑之间的映射关系，研究人员采用了逐步增加特征复杂度的策略，从简单的句子长度和句子位置特征开始，逐步添加词义嵌入、句法嵌入等更复杂的特征。

结果表明，一个包含核心词义消解的简单模型，在解释 LLM 预测的神经方差方面表现出色，甚至超过了 LLM 本身。更复杂的上下文处理，例如词义消歧和上下文句法表征，在解释神经方差方面只起到了一定的补充作用。

结论：谨慎解读 LLM 的“脑评分”

研究表明，过度依赖脑评分可能会导致对 LLM 与人脑之间相似性的过度解读。研究人员强调，在使用脑评分进行分析时，需要对神经编码性能进行系统性分解，并与简单且理论上不重要的特征进行比较。只有在进行这种分解之后，我们才能更有把握地认为 LLM 的神经预测能力反映了人类语言处理的核心方面。

参考文献

[1] Feghhi, E., Hadidi, N., Song, B., Blank, I. A., & Kao, J. C. (2023). What Are Large Language Models Mapping to in the Brain? A Case Against Over-Reliance on Brain Scores. arXiv preprint arXiv:2406.01538.

2024 年 6 月 8 日
IPFS 的新宠：Helia，让 JavaScript 开发者拥抱去中心化
IPFS（星际文件系统）作为一种去中心化的文件存储和分发协议，正逐渐成为 Web3 世界的基石。而 Helia 作为 IPFS 在 JavaScript 和浏览器端的现代化实现，为开发者提供了更便捷、高效的工具，让他们能够轻松地将 IPFS 集成到自己的应用中。

Helia 的优势

Helia 拥有以下几个关键优势：
- 模块化: Helia 采用模块化设计，开发者可以根据自己的需求选择不同的模块组合，例如选择使用 HTTP 网关或 libp2p 进行网络连接。
- 现代化: Helia 基于 TypeScript 开发，提供类型安全和代码提示等现代化开发体验。
- 易用性: Helia 提供了一系列易于使用的 API，让开发者能够快速上手，将 IPFS 集成到自己的应用中。
Helia 的应用场景

Helia 可以应用于多种场景，例如：
- 去中心化存储: 使用 Helia 存储网站、应用程序、数据等，避免依赖中心化的服务器。
- 内容分发: 使用 Helia 分发内容，提高内容的可用性和安全性。
- 去中心化应用开发: 使用 Helia 开发去中心化的应用，例如去中心化的社交网络、去中心化的存储服务等。
Helia 的使用示例

以下是一些使用 Helia 的示例：
- 存储字符串:
```
import { createHelia } from 'helia';
import { strings } from '@helia/strings';

const helia = await createHelia();
const s = strings(helia);

const myImmutableAddress = await s.add('hello world');

console.log(await s.get(myImmutableAddress));
// hello world
```
- 存储 JSON 对象:
```
import { createHelia } from 'helia';
import { json } from '@helia/json';

const helia = await createHelia();
const j = json(helia);

const myImmutableAddress = await j.add({ hello: 'world' });

console.log(await j.get(myImmutableAddress));
// { hello: 'world' }
```
- 存储 DAG-JSON 对象:
```
import { createHelia } from 'helia';
import { dagJson } from '@helia/dag-json';

const helia = await createHelia();
const d = dagJson(helia);

const object1 = { hello: 'world' };
const myImmutableAddress1 = await d.add(object1);

const object2 = { link: myImmutableAddress1 };
const myImmutableAddress2 = await d.add(object2);

const retrievedObject = await d.get(myImmutableAddress2);
console.log(retrievedObject);
// { link: CID(baguqeerasor...) }

console.log(await d.get(retrievedObject.link));
// { hello: 'world' }
```
Helia 的未来

Helia 正在不断发展，未来将会有更多功能和改进，例如：
- 更强大的 API: 提供更丰富的 API，支持更多功能，例如文件系统操作、数据加密等。
- 更好的性能: 优化性能，提高数据存储和检索速度。
- 更广泛的应用: 支持更多应用场景，例如 Web3 应用、物联网应用等。
总结

Helia 是 IPFS 在 JavaScript 和浏览器端的现代化实现，为开发者提供了更便捷、高效的工具，让他们能够轻松地将 IPFS 集成到自己的应用中。随着 IPFS 的不断发展，Helia 将会扮演越来越重要的角色，推动 Web3 世界的构建。

参考文献
- Helia 官方网站
- Helia GitHub 仓库
- Helia 文档
- Helia 示例仓库
- Dreamlink.cloud – 一个基于 IPFS 的静态网站，展示了 IPFS 的实际应用。
2024 年 6 月 8 日

作者： admin

大型语言模型真的像人脑一样思考吗？

LLM 的“脑评分”：真相还是幻觉？

揭秘 LLM 的“脑评分”：简单特征的强大力量

结论：谨慎解读 LLM 的“脑评分”

IPFS 的新宠：Helia，让 JavaScript 开发者拥抱去中心化