囫囵吞桃的个人博客 Home

一词多义的Token

#技术 #随笔

截图自百度百科词条-词元: ![Pasted image 20260410110730.png](/api/assets/附件/Pasted image 20260410110730.png?w=1714&h=848)

一词多义的Token

究竟是谁在把所有的Token都翻译成“词元”

近期,国家媒体规定人工智能领域的Token标准译名为Token。然而,有部分自媒体、非计算机从业者,错误地把计算机领域所有的Token都翻译成“词元”。

然而,Token一词本身是“一词多义”的,在计算机不同的细分领域,不同的上下文语境下,Token有着不同的含义。全部一概翻译成词元属实是令人贻笑大方。

NLP和LLM领域的Token

在NLP(自然语言处理)和其细分领域LLM(大语言模型)领域,Token的确可以翻译为“词元”。

Deepseek,豆包,chatGPT等大语言模型,在处理输入的文本的时候,往往会先将文本分割成一个个最小单位,再映射成特定的编码。这个最小单位可能是字、词语或词组。

身份验证的Token

在身份验证领域,Token应当被翻译成“凭证”。

在一些开放了API调用的网站,如Github、Netlify等,允许用户在自己的账号上生成一个Token。在API处进行调用这一操作的时候,只需要输入Token就可以不用登录账号而使用账号的某些功能。

如,Netlify是一个前端托管平台(可以挂自己的网站在上面的平台),如果需要通过第三方插件、命令行等形式把自己的代码上传到平台,可以先在Netlify官网生成一个与自己账号对应的Token。

后续在第三方插件或命令行只需要输入Token,就可以不用输入账号密码来实现登录账号、上传代码。

经济和区块链领域的Token

在这个领域,Token应当被翻译为“代币”。

这个领域笔者并不了解。但大体上指的是,一种可以流通的虚拟货币。使用区块链技术,将现实中或虚拟的资产与某些Token一一对应,以便于经济上的流通。